Учени: използването на AI може да направи хората по-глупави

Разчитайки на генеративен AI в работата си, човек използва по-малко уменията си за критично мислене (снимка: CC0 Public Domain)

Как използването на генеративен изкуствен интелект влияе върху уменията за критично мислене при хората? Това се опитаха да разберат учени от университета Карнеги Мелън (САЩ), съвместно със специалисти от Microsoft. Резултатите от изследването показват, че когато се използва неправилно, AI технологията може да доведе до намаляване на когнитивните способности на хората.

Разчитайки на генеративен AI в работата си, човек пренасочва усилията си към оценка на качеството на отговорите на системата – доколко те са подходящи за използване за работни цели. Въпреки това, човекът използва по-малко уменията за критично мислене от по-висок порядък, необходими за създаване, оценка и анализ на информация.

Ако хората се намесват само когато отговорите на AI са недостатъчни, те се лишават от „ежедневната възможност да упражняват своята преценка и да укрепват когнитивните си „мускули”, оставяйки ги атрофирали и неподготвени, когато възникнат изключения”, казват учените. С други думи, когато човек разчита твърде много на AI, позволявайки му да „мисли” вместо него, той решава по-лошо проблемите сам, ако AI се провали.

В проучването са участвали 319 доброволци, които са признали, че използват AI в работата си поне веднъж седмично. Те са помолени да дадат примери за това как генеративният AI може да се използва в работата, въз основа на три основни сценария: създаване на съдържание, като например писане на имейл до колега; изготвяне на резюмета на информация, като изследване на тема или изброяване на точките на дълга статия; искане на съвет или създаване на диаграма въз основа на съществуващи данни.

След това доброволците са попитани дали са използвали умения за критично мислене при изпълнение на задачата и дали работата с генеративен AI ги е накарала да положат повече или по-малко усилия в критичното мислене. За всяка спомената задача доброволците са помолени да оценят доколко са уверени в себе си, в генеративния AI и в способността си да оценят отговорите на AI.

Около 36% от анкетираните казват, че използват умения за критично мислене, за да смекчат потенциалните отрицателни въздействия от работата с AI. Един участник съобщава, че е използвал ChatGPT по време на оценяването, но е проверил отново отговорите на AI от страх, че ще даде грешен отговор и ще бъде дисквалифициран.

Друг доброволец казва, че е трябвало да редактира генерирани от AI чернови на имейли до шефа си, защото разликата в позицията и възрастта имали голямо значение за него. Мнозина признават, че са проверявали отговорите на AI, използвайки познати ресурси, включително YouTube и Wikipedia, въпреки че това може би проваля целта на обръщането към AI.

За да компенсират недостатъците на генеративния AI, работниците трябва да разберат как възникват тези недостатъци, но не всеки знае какви са ограниченията на съвременния AI. Проучването установява, че хората, които са уверени в правилните отговори на AI, използват по-малко критично мислене от тези, които са уверени в собствените си способности.

Учените все още не твърдят, че AI инструментите сами по себе си правят хората по-глупави, но прекаленото разчитане на тях може да отслаби способността ни да решаваме проблеми сами, предполага изследването.