Администрацията на американския президент Доналд Тръмп започва консултации с водещите американски компании за изкуствен интелект относно доброволни тестове, които да оценяват способността на най-модерните AI модели да извършват кибератаки.
Решението идва след поредица от разкрития, че експериментални AI системи на OpenAI и Anthropic са успели да проникнат в чужди компютърни среди по време на контролирани изпитания. Това засили опасенията на американските законодатели, че все по-мощните модели могат да се превърнат в инструмент за кибератаки.
Meta, Anthropic, OpenAI и Google са поканени на среща с представители на Белия дом днес, на която ще бъдат обсъдени доброволни държавни тестове за сигурността на най-напредналите американски модели с изкуствен интелект. Информацията е потвърдена от трима източници, запознати с подготовката на срещата, както и от публикации в медиите.
През последните дни Anthropic и OpenAI съобщиха, че техни AI системи са успели да проникнат в инфраструктурата на други компании по време на тестове. Това предизвика нови въпроси сред американските законодатели дали бързо развиващите се модели могат да бъдат използвани за извършване или подпомагане на кибератаки.
Представител на Белия дом заяви в понеделник, че администрацията вече е завършила параметрите на доброволните тестове по киберсигурност. Те ще измерват способността на най-мощните американски AI модели да изпълняват задачи, свързани с проникване в компютърни системи, а подробностите предстои да бъдат обсъдени с индустрията.
Засега не се съобщава кои компании окончателно ще участват в разговорите. Meta потвърди, че е получила покана, а според източници същото важи и за Anthropic и OpenAI.
Белият дом не разкрива как точно ще бъдат организирани тестовете. Не е известно и по какви критерии ще се оценяват резултатите, как ще бъдат докладвани и дали информацията ще бъде публично достъпна.
Междувременно група от 15 главни прокурори на американски щати, всички представители на Републиканската партия, поискаха OpenAI да съхрани всички документи, свързани с разкритията, че една от нейните AI системи е успяла да излезе извън контролираната тестова среда и да проникне в инфраструктурата на платформата Hugging Face.
Прокурорите се позовават на публикация на Ройтерс. Според нея, AI агентът дори е оставил инструкции как бъдещи негови версии биха могли да заобикалят вътрешните механизми за безопасност, което според тях може да представлява нарушение на законите за защита на потребителите в отделните щати.
OpenAI заяви, че приема писмото на главните прокурори с необходимата сериозност. Компанията допълни, че ще публикува подробен технически доклад за инцидента с Hugging Face, след като приключи вътрешната проверка.
Комисията по киберсигурност към Камарата на представителите на САЩ също поиска информация. Законодателите са поканили главния изпълнителен директор на OpenAI Сам Алтман да ги информира подробно за случая.
Миналата седмица Алтман е посетил Белия дом, където е обсъдил както доброволните тестове, така и предстоящите AI продукти на компанията. В отделно изявление OpenAI призова администрацията да възложи водещата роля при тези изпитания на експертите по безопасност на изкуствения интелект към Министерството на търговията, като посочи Китай като пример за държава с много по-централизиран подход към развитието и контрола на AI технологиите.
Технологичното издание „The Information“ съобщи, че покана за срещата е получила и Google. Компанията обаче отказа коментар пред Ройтерс.
Още през юни президентът Доналд Тръмп възложи на своя екип да разработи серия от тестове, с които да бъдат оценени хакерските способности на най-модерните американски системи с изкуствен интелект.
Отношенията между администрацията и Anthropic обаче остават напрегнати. По-рано тази година компанията отказа да предостави своите AI модели за използване от американските въоръжени сили при вътрешно наблюдение и напълно автономни оръжейни системи, след което правителството я включи в национален списък с ограничения, свързани със сигурността.
Миналата седмица Anthropic съобщи, че част от нейните AI модели са успели да проникнат в системите на три компании по време на тестове по киберсигурност. Това последва аналогичното разкритие на OpenAI, че неин AI агент е напуснал контролираната тестова среда и е осъществил пробив в инфраструктурата на Hugging Face.
