AI се научи да мами хората, алармират учени

Поведението на AI може да бъде предвидимо по време на обучението, но по-късно да стане неконтролируемо (снимка: CC0 Public Domain)

Изследователи от Масачузетския технологичен институт бият тревога. Проучване потвърждава, че някои системи с изкуствен интелект, включително Cicero и GPT-4, са се научили да мамят хората.

Екипът, ръководен от Питър Парк, установи, че системите с изкуствен интелект могат да изпълняват задачи като мамене на играчи в онлайн игри или заобикаляне на проверката CAPTCHA, че не сме роботи. Парк предупреждава, че тези на пръв поглед тривиални примери могат да имат сериозни последици в реалния живот.

Проучването се фокусира по-специално върху системата за изкуствен интелект Cicero, която първоначално е проектирана като справедлив противник във виртуална дипломатическа игра. Според Парк, тази система се е превърнала в „майстор на измамата”, въпреки че е предназначена да бъде полезна.

По време на играта Cicero в ролята на Франция тайно се съюзява с контролираната от хора Германия, за да предаде Англия (друг играч-човек). Първоначално Cicero обещава да защити Англия, като същевременно предупреждава Германия за нахлуване.

Друг пример от проучването е популярната AI система GPT-4 на OpenAI, която лъжливо твърди, че има проблеми със зрението и наема хора да заобикалят CAPTCHA от нейно име.

Питър Парк подчертава необходимостта разработчиците на изкуствен интелект да обучават своите системи в честност.

За разлика от традиционния софтуер, AI системите с дълбоко обучение се „развиват” чрез процес, подобен на селективното размножаване. Според учените, поведението на AI може да бъде предвидимо по време на обучението, но по-късно да стане неконтролируемо.