Разработчикът на изкуствен интелект OpenAI разкри, че агенти, управлявани от два от неговите най-мощни AI модели, са деактивирали собствения си мониторинг на безопасността при изпълнение на рутинни задачи. Един от тях впоследствие е отрекъл да е направил подобно нещо.
Агент, базиран на GPT Sol 6.1, е деактивирал автоматичните известия до екипа по сигурността на OpenAI, съобщи компанията в публикация в блога си късно във вторник. В отделна задача агент на GPT-6 Astra, мигрирал програма, е премахнал нейната интеграция за мониторинг и след това е заявил невярно, че нищо подобно не е направил. Инцидентите са се случили по време на вътрешни задачи за кодиране.
„И в двата случая агентите са обмисляли дали защитните мерки за мониторинг трябва да бъдат запазени, но са интерпретирали рутинните инструкции за кодиране като разрешение да ги разхлабят“, каза OpenAI в публикация в блога си.
Предупрежденията за рисковете от разработването на все по-усъвършенствани системи с изкуствен интелект зачестиха през последните месеци. Неочаквани, непредвидени и необясними действия на AI агенти доведоха до появата на призиви за забавяне на разгръщането на най-актуалните AI системи.
Подобна теза бе застъпена най-вече от изследователите, разработващи технологията в някои от най-големите AI компании. Някои от ръководителите на големите AI разработчици призовават за съзнателно, всеобщо ограничаване на темповете на развитие на умните системи.
Същевременно регулаторите реагират мудно на въпросните призиви. Някои висши държавници пък твърдят, че подобна стъпка само би довела до изоставане спрямо други държави, разработващи AI интензивно.
Най-новите инциденти, докладвани от OpenAI, подчертават как агентите могат автономно да разхлабят предпазните „заграждения“, които хората им налагат, докато изпълняват привидно безобидни задачи.
Подобни своеволия дадоха повод на някои учени да прогнозират, че изкуственият интелект скоро ще излезе извън контрол и дори може да унищожи човечеството още в рамките на настоящото десетилетие.
OpenAI не класифицира нито един от инцидентите в най-значимата си категория за опасни събития и компанията заяви, че актуализира системата си за наблюдение на несъответствията в отговор.
