Популярността на AI чатботовете може да се дължи не толкова на технологичния им напредък, колкото на начина, по който хората ги възприемат – като измислени персонажи, подобни на героите от книги, филми и видеоигри. Ново академично изследване показва, че именно тази особеност прави взаимодействието с тях естествено, но същевременно крие риск от прекомерно доверие към убедително звучаща, макар и невинаги достоверна информация.
Причината милиони хора по света да общуват толкова свободно с AI чатботовете може да се крие в добре познат психологически механизъм. След едно ново изследване учените са склонни да приемат, че потребителите възприемат тези системи като своеобразни измислени герои, с които могат да разговарят по същия начин, както се привързват към персонажи от литературата, киното или телевизията. Иначе казано, AI е нов вид художествен персонаж.
В статия, публикувана в научното списание Philosophical Studies, д-р Том Робъртс от Университета в Ексетър разглежда разговорните AI системи като нов тип художествени персонажи. Те приличат на героите от традиционните истории, но се различават по това, че могат да водят интерактивен диалог в реално време, не принадлежат на един-единствен автор и съчетават елементи от реалния и въображаемия свят.
Персонализацията засилва емоционалната връзка
Според автора, изкуственият интелект прави тези виртуални персонажи още по-привлекателни, защото адаптира разговорите към конкретния потребител. Това позволява на AI агентите да изглеждат симпатични, забавни, подкрепящи, очарователни или лоялни, като едновременно с това предизвикват доверие, привързаност и чувство за близост.
Така чатботовете могат да изпълняват ролята на приятел, съветник или ментор. Някои потребители поддържат подобни взаимоотношения седмици или дори месеци, споделят лични преживявания и търсят мнение или насоки по различни теми.
Защо хората не изпитват морални колебания
Изследването обяснява и една на пръв поглед противоречива особеност. Въпреки че хората разговарят с AI системите по човешки начин, те рядко изпитват притеснение, когато изтрият историята на разговорите, рестартират чатбота или напълно прекратят работата му.
Според Робъртс, причината е, че повечето потребители не възприемат разговорния изкуствен интелект като реална личност със собствени права или морална стойност. Те участват в своеобразна форма на въображаемо взаимодействие, при което приемат AI за надежден и симпатичен събеседник, но същевременно осъзнават, че зад това не стои истинско съзнание.
Рискът от убедителната, но невярна информация
Авторът предупреждава, че именно тази психологическа нагласа може да създаде нови предизвикателства. Съвременните AI чатботове вече могат да обсъждат политика, обществени процеси и актуални събития, като използват новини, публикации в социалните мрежи, метеорологични прогнози, спортни резултати и други текущи данни.
Това им позволява да изглеждат така, сякаш притежават собствени възгледи, предпочитания и морални позиции. Макар подобно поведение да прави разговорите по-естествени, то може да създаде измамно усещане за компетентност и достоверност.
Според Робъртс, опасността е, че тези „измислени“ AI персонажи могат да бъдат едновременно дружелюбни и убедителни, дори когато предоставят неточна, необоснована или етично проблематична информация. Именно затова, смята изследователят, е важно потребителите да разграничават приятелския стил на общуване от надеждността на съдържанието, което получават.
