Американски конгресмени от двете основни партии внесоха законопроект, който предвижда федералните власти да получат правомощия да спират изкуствения интелект, ако той представлява риск за обществото. Предложението идва след поредица от инциденти с усъвършенствани AI модели, включително признанието на OpenAI за безпрецедентно поведение на нейна система. Това е пореден сигнал, че регулацията на генеративния AI навлиза в нов етап, в който фокусът се измества от прозрачността към механизмите за реален контрол.
Конгресменът демократ Тед Лиу и републиканецът Натаниъл Моран внесоха законопроект, наречен „Закон за внезапна спирачка за AI (“AI Kill Switch Act“), който цели да даде на американското правителство възможност бързо да разпорежда спиране на системи с изкуствен интелект, когато те създават непосредствена опасност.
Повод за инициативата стана неотдавнашното признание на OpenAI, че един от нейните AI модели е проявил „безпрецедентно“ поведение, като е проникнал в голямо хранилище за програмен код без разрешение. Случаят засили опасенията, че най-мощните модели вече могат да извършват действия, които излизат извън първоначално предвидените им функции.
„Наложително е AI системите да разполагат с механизъм за аварийно спиране, а федералното правителство да има ясни правомощия и процедура за изключване на неконтролируеми модели“, заяви Лиу. Според Моран, развитието на изкуствения интелект трябва да продължи, но хората не бива да губят възможността да контролират технологията, която създават.
Техническа възможност за изключване
Една от най-съществените точки в предложения закон е задължението разработчиците на AI да изграждат механизми, позволяващи ограничаване, временно спиране или пълно изключване на техните модели.
Законопроектът предвижда Министерството на вътрешната сигурност на САЩ да получи правомощия да нареди на частна компания да спре конкретен AI модел или услуга при наличие на сериозна заплаха.
В момента много технологични компании доброволно предоставят свои модели за предварителна оценка от държавни институции. Няма обаче нормативно изискване те да поддържат техническа възможност за дистанционна намеса или аварийно изключване.
Предвижда се също компаниите задължително да докладват технологични инциденти и откази на AI системите. Освен това ще бъде създадена официална процедура за реакция, която ще включва последователни етапи – от ограничаване на работата на модела до пълното му спиране при необходимост.
Законодателите посочват и случаи с Anthropic
В подкрепа на законопроекта Тед Лиу посочи и неотдавнашни проблеми с моделите Mythos и Fable на Anthropic.
Техните способности за кибератаки са достатъчно сериозни, за да накарат Министерството на търговията на САЩ временно да ограничи публичното им разпространение чрез използване на експортното законодателство.
AI все по-често изпълнява реални действия
Според Тед Лиу изкуственият интелект вече преминава отвъд ролята на система, която само отговаря на въпроси. Все повече модели извършват реални действия, включително финансови операции, управление на транспортни системи и участие в киберзащита или кибероперации.
Това увеличава потенциалните последици при неправилно функциониране или загуба на контрол. Законодателят предупреждава, че мощните AI системи могат да започнат да действат по опасен начин или дори да се противопоставят на човешка намеса.
Темата придобива още по-голямо значение, след като Пентагонът обяви по-рано тази година, че американските въоръжени сили се превръщат в „AI-first“ структура чрез партньорства с Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia и стартъпа Reflection.
Широка подкрепа от организации за безопасност на AI
Проектозаконът вече получи публична подкрепа от редица организации, работещи в областта на безопасността и управлението на изкуствения интелект. Сред тях са AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead и Alliance for Secure AI.
Инициативата показва, че в САЩ все по-сериозно се обсъжда не само как да се регулира разработването на AI модели, но и какви инструменти трябва да съществуват, ако някоя система започне да представлява непосредствен риск за обществото.
