Чатботовете с изкуствен интелект стандартизират начина, по който хората говорят, пишат и мислят. Ако тази хомогенизация продължи, тя навярно ще намали колективната мъдрост и способност на човечеството да се адаптира, твърдят компютърни учени и психолози в статия, публикувана в Trends in Cognitive Sciences.
Разработчиците на изкуствен интелект трябва да включат повече разнообразие от реалния свят в обучителните комплекти за големи езикови модели (LLM), не само за да помогнат за запазването на човешкото когнитивно разнообразие, но и за да подобрят способността на чатботовете за разсъждение, казват изследователите.
Как AI променя човешкото изразяване
„Индивидите се различават по начина, по който пишат, разсъждават и гледат на света“, казва водещият автор и компютърен учен Живар Сурати от Университета на Южна Калифорния.
„Когато тези различия се медиират от едни и същи големи езикови модели, техният различен езиков стил, перспектива и стратегии за разсъждение се хомогенизират. Резултатът е стандартизирани изрази и мисли сред потребителите“. допълва той.
В рамките на групите и обществата когнитивното разнообразие засилва креативността и решаването на проблеми, казват изследователите. Когнитивното разнообразие обаче се свива в световен мащаб, тъй като милиарди хора използват едни и същи „шепа“ чатботове с изкуствен интелект и то за все по-голям брой задачи, казват учените.
Когато хората използват чатботове, за да пишат, писането всъщност губи своята стилистична индивидуалност. На свой ред хората имат по-малко усещане за притежание на това творчество, което създават.
„Притеснението не е само, че LLM оформят начина, по който хората пишат или говорят, но и че те фино предефинират това, което се счита за достоверна реч, правилна перспектива или дори добро разсъждение“, казва Сурати.
Доказателства за стесняване на перспективите и стиловете
Екипът посочва множество проучвания, показващи, че резултатите от LLM са по-малко разнообразни от генерираното от човека писане и че има ясна тенденция резултатите от LLM да отразяват езика, ценностите и стиловете на разсъждение на западните, индустриализираните, богатите и демократичните общества.
„Тъй като LLM са обучени да улавят и възпроизвеждат статистически закономерности в своите данни за обучение, които често свръхпредставляват доминиращите езици и идеологии, техните резултати често отразяват тесен и изкривен сегмент от човешкия житейски опит“, казва Сурати.
Проучванията показват, че отделните хора често генерират повече идеи с повече детайли, когато използват LLM, но въпреки това групите от хора генерират по-малко и по-слабо креативни идеи, когато използват езикови модели, отколкото когато просто комбинират колективните си сили, отбелязват изследователите.
„Дори ако хората не са преки потребители на LLM, чатботът все пак ще им повлияе косвено“, казва Сурати. „Ако много хора около мен мислят и говорят по определен начин, а аз правя нещата по различен начин, бих почувствал натиск да се приведа в синхрон с тях, защото това би ми се сторило по-достоверен или социално приемлив начин за изразяване на идеите ми“.
Промени в разсъжденията и човешката дейност
Освен езика, след взаимодействие с LLM и мненията на хората стават по-близки до тези на чатботовете, според проучванията. Алгоритмите предпочитат линейни начини на разсъждение, като например „верижно разсъждение от мисълта“, което изисква моделите да показват разсъжденията стъпка по стъпка.
Този акцент намалява използването на интуитивни или абстрактни стилове на разсъждение, които понякога са по-ефективни от линейното разсъждение, казват изследователите. Те също така отбелязват, че LLM могат да променят очакванията на хората. А това на свой ред може фино и неусетно да промени посоката на работата на човек.
„Вместо активно да управляват генерирането, потребителите често се придържат към предложени от модела продължения, избирайки опции, които изглеждат „достатъчно добри“, вместо да създават свои собствени, което постепенно измества агенцията от потребителя към модела“, казва Сурати.
Изграждане на по-разнообразен и полезен AI
Изследователите казват, че разработчиците на AI трябва целенасочено да включат разнообразие в езика, перспективите и разсъжденията в своите модели. Те подчертават, че това разнообразие трябва да се основава на разнообразието, което съществува сред хората в световен мащаб, а не да въвежда случайни вариации.
„Ако LLM имаха по-разнообразни начини за подход към идеите и проблемите, те щяха да подкрепят по-добре колективния интелект и способностите за решаване на проблеми на нашите общества“, каза Сурати.
„Трябва да диверсифицираме самите модели на AI, като същевременно коригираме начина, по който взаимодействаме с тях, особено като се има предвид масовото им използване в различни задачи и контексти, за да защитим когнитивното разнообразие и потенциала за генериране на идеи на бъдещите поколения“, заключава той.
