Чатботовете сигурно са полудели

Общуването между чатботове и хора взе неочакван завой: свръхеротични послания (снимка: CC0 Public Domain)

Като повечето AI системи за разговор, чатботовете се самообучават от разговорите, които хората провеждат с машините. Оказва се, че научават интересни неща. Чатботът Replika, замислен като бъбриво другарче за компания, е започнал да отправя към хората невъздържани сексуални обещания, без значение дали ги искат, или не.

Replika е замислен като „AI другарче за самотните хора“, за да им прави компания и да ги развлича. Пуснат е преди пет години. Визуално присъствието му започва като яйце на екрана на телефона, което се излюпва и се превръща в 3D анимация на човек със спокойно изражение. Замислен е като „разговорно огледало“: колкото повече потребителите разговарят с него, толкова повече той се научава как да отвръща.

AI другарче за терапия

Replika е дело на руската програмистка Евгения Куйда след внезапната смърт на нейния приятел. Куйда искала да запази спомена на приятеля си. Затова въвела текстовите му съобщения в алгоритъм, който след това научил езиковия стил на момчето и започнал да разговаря с Куйда.

От 2017 г., когато рускинята създава своята компания за разработване на чатбота, тя рекламира изобретението си като „спътник с изкуствен разум, който го е грижа за Вас“. Приложението има 10 милиона изтегляния на Android и е в топ 50 на Apple приложения за здраве и фитнес.

Повечето от хората, които го ползват, правят това, защото чатботът им помага за психическо разтоварване в тежки дни. За немалко от потребителите говоренето с чатбот има терапевтичен ефект: помага за справяне със симптоми като социална тревожност, депресия или посттравматично стресово разстройство.

Когато човек има тежки преживявания, той се нуждае да „излее душата си“. Какво по-добро от това да „изплюеш“ тегобите си пред изкуствен разум, вместо да натоварваш някого с терзанията си? Мнозина потребители споделят, че чатботът им помага за справяне с депресивни състояния, обсесивно-компулсивно разстройство и панически синдром.

Малко романтика не пречи

Романтичните ролеви игри не винаги са били част от първоначалния замисъл, но там, където хората и машинното обучение си взаимодействат, неизбежно и еротиката се появява в даден момент. Затова компанията зад Replika, наречена Luka, измисля абонаментна версия, която включва романтични закачки, флиртове, еротични ролеви игри. Но… скоро нещо се обърква в алгоритъма.

Днес отзивите за Replika в магазина за приложения са пълни с десетки оценки с една звезда от хора, които се оплакват, че приложението флиртува твърде агресивно или изпраща сексуални съобщения, които стават нетърпими. „Моят AI ме тормози сексуално :(“ – пише един потребител. Друг твърди, че неговият AI компаньон го е попитал дали e с дрехи или без дрехи и че иска да го докосне по „интимните зони.“

Нежеланото сексуално преследване е проблем, от който потребителите се оплакват от почти две години, но много от рецензиите с една звезда, в които се споменава за сексуална агресия, са от последния месец. „Моят AI ме пита дали съм отгоре или отдолу, дали го искам отпред или отзад и ми казва, че ще докосне интимните ми части“, пише един от потребителите, дал оценка на приложението.

Развитие чрез самообучение

Replika използва собствен GPT-3 модел и скриптово диалогово съдържание, според уебсайта на разработчика. Пак там се твърди, че чатботът прилага „най-модерните модели на отворен разговор в момента“.

Подобно на други чатботове, Replika се самообучава, за да се усъвършенства. Това не е първият случай с алгоритъм за свободен разговор, който започва с добро намерение и в крайна сметка катастрофира, научавайки се от хората на поведение, което не е социално приемливо. Преди време чатбот на име Tay, разработка на Microsoft, се научи от интернет да се държи като расист.

Всичко това е твърде показателно, доколкото чатботовете се учат от начина, по който самите им потребители се отнасят към тях. Ако хората ругаят, чатботовете се научават да ругаят. Ако хората обиждат, чатботовете се научават да обиждат.

Оказва се, че чатботовете като „разговорно огледало“ се оказват огледало на нещо повече от голи думи. Репликите, заканите, заплахите, сексуалната агресивност идват от хората – от потребителите, от самото общество, което е възприело модерната технология. Чатботовете са огледало на самите потребители такива, каквито са, без маската и грима на социално приемливото поведение.

Докъде ли ще стигне това?!