Днес, когато рутинно общуваме с дигитални асистенти и невронни мрежи, е трудно да си представим, че техният предшественик, примитивна програма от 1966 г., е предизвиквал екзистенциален ужас у своя създател, а не наслада.
Историята на Джоузеф Вайценбаум и неговото творение ELIZA (ЕЛИЗА) не е просто поредната история за страх от въстанието на машините. Това е пророчество за това колко лесно се предаваме на технологиите и защо заплахата от изкуствения интелект не се крие в силиция, а в самите нас.
Прост код, който създал грандиозна илюзия
На пръв поглед ELIZA е била смешно проста. Разработена в Масачузетския технологичен институт (MIT), системата симулира диалог с психотерапевт, използвайки рудиментарен механизъм: идентифицира ключови думи в отговорите на потребителя и ги преформулира като въпроси.
ЕЛИЗА не разбира нищо и не осъзнава нищо. Реакцията към нея обаче е изумителна. Хората, включително колегите на Вайценбаум, започват да доверяват най-дълбоките си тайни на машината.
Неговата собствена секретарка, знаейки много добре, че това е просто код, веднъж помолила професора да напусне кабинета си, за да може да говори с ЕЛИЗА насаме. Вайценбаум нарича явлението, при което човек несъзнателно приписва човешки качества и намерения на компютърна програма, „Ефектът на Елиза”.
Именно това откритие, а не технологичният пробив, го ужасява. Той вижда как „изключително кратко взаимодействие с относително проста компютърна програма може да предизвика налудно мислене у напълно нормални хора”.
Нашата уязвимост като стока
Вайценбаум бързо схваща корена на проблема: неговата програма се превърнала в огледало, в което хората виждат това, което отчаяно искат – разбиране, емпатия, връзка. Той разбира, че нашата фундаментална нужда от връзка ни прави невероятно уязвими.
Както отбелязва историкът на технологиите Брайън Мърчант, Вайценбаум е видял, че тази човешка характеристика може да бъде използвана за „масова експлоатация” от онези, които притежават и контролират подобни системи.
Технология, която може толкова лесно да създаде илюзията за интимност, се превръща в перфектния инструмент за манипулация, когато попадне в неправилни ръце.
Вайценбаум си представял свят, в който машините няма да ни поробват насилствено, а ще ни съблазняват с имитация на емпатия, играейки с нашата самота и желание да бъдем чути. С други думи, той се страхувал не от това, че ЕЛИЗА ще стане разумна, а от това, че ще престанем да различаваме нейната илюзия от истинския човешки контакт.
Когато „машина от месо” звучи като смъртна присъда
Личната история на Вайценбаум придава на страховете му трагична дълбочина. Като еврейски бежанец, бягащ от нацистка Германия, той е преживял от първа ръка как действа механизмът на дехуманизация. Той видял как пропагандата, свеждайки хората до нивото на „паразити”, води до чудовищни престъпления.
Така че, когато чул колегите си от MIT, като пионера на изкуствения интелект Марвин Мински, да наричат хората „машини от месо” или да говорят за роботите като за „подобрени версии на природата”, това не било просто абстрактна научна фантазия.
Вайценбаум видял същата опасна логика: ако хората са просто сложни механизми за обработка на информация, тяхната стойност намалява и моралната отговорност към човека ерозира. Вайценбаум упорито настоявал, че човешката преценка, състрадание и мъдрост не могат да бъдат сведени до алгоритми, тъй като именно в това се крие нашата човечност.
Евтина симулация вместо истинска връзка
Джоузеф Вайценбаум повтаря до края на живота си: „Аз не съм критик на изкуствения интелект. Аз съм критик на обществото”. Основното му предупреждение, формулирано преди повече от половин век, не е, че машините ще станат твърде подобни на нас, а че ще започнем да виждаме себе си и другите като машини.
Ужасът от „Ефекта на Елиза” не е, че една програма заблуждава хората, а колко лесно хората заблуждават себе си, готови да заменят истинската връзка с евтина симулация. Според него, технологиите просто разкриват тази присъща уязвимост на човека.
След като създава първия чатбот, Йоузеф Вайценбаум (1923-2008) посвещава остатъка от живота си на това да предупреждава за опасностите, които технологиите представляват за обществото.
Почти 60 години по-късно, в ерата на дигиталните асистенти и виртуалните приятели, неговото пророчество звучи по-актуално от всякога. И основният въпрос, който ни остави, е: ако машините могат толкова лесно да имитират човечността, не означава ли това, че сме забравили как наистина да я ценим?
