Американският политик Ро Хана, демократ от Камарата на представителите, е изготвил законопроект за регулиране на изкуствения интелект. Документът предвижда строги стандарти за отговорност и забрана на „рекурсивния“ AI, способен на самоусъвършенстване, докато правителството не въведе необходимите защитни механизми.
Законопроектът се появи на фона на засилващия се натиск върху Вашингтон да регулира ИИ, след като водещи ръководители в сектора предупредиха, че технологията може да излезе извън контрол. Досега Конгресът на практика не е предприел нищо за регулиране на тази технология, която е в основата на икономиката, но крие риск от катастрофални последици, ако нещо се обърка.
„Всъщност съществува риск от заличаване на цивилизацията“, заяви Хана в понеделник в интервю пред CNBC. „Има риск за безопасността, свързан със загуба на контрол, както и риск от злоупотреба – и трябва да подходим сериозно и към двете“.
Законопроектът на Хана е озаглавен „Закон за човешкия контрол върху AI“ (Human Control Over AI Act). Той предвижда забрана на модели, които рекурсивно се самоусъвършенстват или автономно променят основните си цели, както и механизмите за ограничаване или изключване, докато не бъдат въведени федерални предпазни мерки и съответна агенция не одобри дейностите.
Документът предвижда и създаването на нова федерална агенция, която да се фокусира върху ИИ моделите на водещите разработчици, тъй като те попадат под засилено внимание на фона на бързо нарастващите опасения за безопасността.
Агенцията би имала задачата да разработи регулации за безопасност и система за лицензиране, одобряваща обучението и внедряването на моделите, както и да извършва одити на най-модерните (т.нар. „frontier“) AI модели и да определя стандарти за сигурност, включващи непрекъснато тестване и ефективен човешки контрол.
Предвижда се също така независими одитори да бъдат внедрени във всяка лаборатория, разработваща авангардни модели, и да докладват директно на агенцията. Агенцията ще създаде стандарти за среди за:
- тестване тип „пясъчник“ (sandbox);
- изолация на тестовите среди от интернет (т.нар. air-gapping);
- механизми за аварийно спиране (kill switches);
- контролни системи, предотвратяващи излизането на моделите извън лабораторната среда и навлизането им в интернет пространството.
Агенцията ще отговаря и за регулирането на усъвършенстваните чипове, използвани от тези лаборатории, включително за механизми за наблюдение или контрол върху тяхната употреба.
Законопроектът въвежда и нови правни санкции за случаи, в които AI причини сериозни щети. Той ще криминализира като „престъпления срещу човечеството“ внедряването на AI модели, довели до унищожаване на цивилно население.
Законопроектът ще наложи и наказателни санкции на служители на компании за изкуствен интелект, които деактивират защитни механизми, прекъсвачи, системи за регистриране или ограничаване на действията, или които съзнателно внедряват неоторизирана система.
Компаниите за изкуствен интелект също ще бъдат задължени да имат обширна застраховка „Гражданска отговорност“, за да пуснат своите модели.
Кана заяви, че законопроектът представлява „най-цялостното законодателство за безопасност на изкуствения интелект“, което е било предложено. Документът е моделиран по неговите разговори с организации за безопасност на изкуствения интелект, като Model Evaluation and Threat Research, Machine Intelligence Research Institute и Palisade Research, а не по искания на ръководители на големи компании за изкуствен интелект.
