Съветите на AI правят хората по-малко точни, но по-уверени

Ново проучване установи, че съветите, основани на изкуствен интелект, правят хората три пъти по-малко точни, но за сметка на това два пъти по-уверени. Делът на верните отговори е спаднал от 27% на 9%, докато увереността се увеличава от 30% на 76%.

Учени от три университета във Франция и Италия установиха, че достъпът до съвети, основани на AI, може да наруши способността на хората да оценяват собствените си знания. В експеримента, за който съобщава The Next Web, участниците, получаващи помощ от AI, са по-малко склонни да признаят несигурност, по-склонни са да приемат неправилни отговори и са по-уверени в собствената си коректност.

Изследователите сравняват поведението на хората при самостоятелно решаване на проблеми и при използване на подсказки от изкуствен интелект. Без достъп до AI участниците признават, че не знаят отговора в 44% от случаите, докато със съветите на изкуствения интелект този показател е само 3%. 

Същевременно точността на отговорите спада от 27% на 9%, докато средната увереност се увеличава от 30% на 76%, сочат резултатите от изследването.

В експеримента са използвани специални въпроси, на които съвременните модели с изкуствен интелект често отговарят неправилно. Например, на участниците са показани визуални детайли от филми и са помолени да идентифицират параметри като цвета на екипа на отбора в „Bend It Like Beckham”.

Учените са използвали модела Step 3.5 Flash, който обикновено дава неправилни отговори в подобни задачи, за да изключат възможността участниците просто да поверят решението на по-надежден инструмент.

Дори паричните награди за правилни отговори не са имали голямо значение. С финансови стимули делът на хората, склонни да признаят невежеството си, се увеличава от 3% на 8%, а точността на отговорите се покачва от 9% на 16%. Тези стойности все още са по-ниски от резултатите на групата без изкуствен интелект, които са съответно 44% и 27%.

Според учените, способността да се каже „Не знам” е важна, защото демонстрира разбиране за границите на собствените знания. Учените смятат, че този въпрос е особено важен за децата, които започват да използват изкуствен интелект, преди да са развили стабилни умения за критично мислене.

Авторите на изследването отбелязват, че проблемът не е свързан само с доверието в погрешните отговори на изкуствения интелект, но и с факта, че постоянната наличност на AI системи, които винаги дават отговор, може да намали готовността на човек да признае собственото си объркване.