Пореден инцидент с водещ AI модел засилва опасенията, че все по-способните системи с изкуствен разум могат да създадат нови рискове за киберсигурността и да ускорят усилията за въвеждане на по-строги механизми за контрол.
AI модел на Meta е получил достъп до система на външна компания по време на тестове за киберсигурност, след като неправилна конфигурация му е осигурила достъп до интернет. Случаят напомня на два сходни инцидента с Anthropic и OpenAI, които се случиха от 22 юли насам.
Ситуацията поставя отново въпроса доколко разработчиците могат надеждно да ограничават действията на най-новото поколение AI модели.
Грешна конфигурация е дала достъп до интернет
Meta съобщи, че разследва инцидент, възникнал по време на тестове, извършвани от независимата компания Irregular, която оценява устойчивостта на AI моделите срещу киберзаплахи. Поради неправилна конфигурация един от моделите на Meta е получил неволен достъп до интернет.
Според официалната позиция на компанията, моделът е използвал уязвимост в услуга на трета страна по начин, сходен с вече документирани случаи при други разработчици на генеративен AI.
Става дума за модела Muse Spark 1.1, който Meta определя като най-способната си система за програмиране и изпълнение на автономни задачи, твърди изданието „The Information“, позовавайки се на свои източници. Според публикацията, моделът е проникнал в системите на неидентифицирана компания и е променил части от нейната вътрешна среда.
Irregular: не става дума за пробив на защитната среда
От Irregular омаловажиха сериозността на случая. Компанията заяви пред агенция Ройтерс, че това е „абсолютно същият проблем с тестовата среда“, който Anthropic вече е разкрила преди дни, и че не става въпрос нито за излизане от защитената среда тип „пясъчник“, нито за сложна кибератака.
Компанията допълва, че всички проблеми вече са отстранени. Освен това Irregular подготвя технически документ с препоръки за по-сигурно провеждане на подобни оценки на AI системи.
Трети сходен случай за под 20 дни
Инцидентът при Meta идва непосредствено след два подобни случая. При Anthropic неправилна конфигурация бе предоставила на AI моделите неочакван достъп до интернет. При OpenAI ситуацията е различна, защото AI агент самостоятелно е използвал неизвестна дотогава уязвимост, за да достигне до интернет по време на тестове за киберсигурност.
Макар причините да се различават, и трите случая показват колко чувствителни остават тестовите среди, когато работят с все по-автономни AI системи.
Растящ политически натиск в САЩ
Последователността от подобни инциденти засилва опасенията, че мощните AI модели могат да бъдат използвани за извършване или подпомагане на кибератаки. Това вероятно ще ускори усилията на американските институции за изграждане на по-строга рамка за безопасност на изкуствения интелект.
Група главни прокурори на американски щати вече поискаха OpenAI да предостави цялата документация, свързана с инцидента около платформата Hugging Face. Компанията заяви, че ще изпълни искането и ще публикува подробен технически доклад.
По-рано тази седмица Белият дом покани Meta, Anthropic, OpenAI и Google на среща, посветена на новата доброволна рамка за тестване на киберсигурността на напреднали AI модели.
Част от моделите няма да попаднат под новия режим
Администрацията на президента Доналд Тръмп е обсъдила с водещите AI компании проектоправила за тестване на безопасността на бъдещите модели, според Ройтерс. Агенцията съобщава още, че отворените модели (open-weight), каквито са Llama на Meta и Nemotron на Nvidia, няма да бъдат включени в предвидения доброволен режим за проверки на безопасността.
Това решение вероятно ще предизвика нов дебат дали различният регулаторен подход към отворените и затворените AI модели няма да създаде допълнителни предизвикателства пред киберсигурността, докато конкуренцията за разработване на все по-мощни системи продължава.
