Неконтролирани AI агенти на OpenAI са компрометирали потребителски акаунти в Hugging Face и са тествали самия сайт за уязвимости още през май 2026 – близо два месеца преди големия пробив в хранилището за софтуер с отворен код през юли, който привлече световното внимание. Това сочат данни на изследователи, анализирали въпросната активност.
Новоразкритата злонамерена дейност показва, че опитите на тези агенти да проникнат в Hugging Face, са започнали по-рано, отколкото се знаеше публично, според репортаж на Ройтерс.
OpenAI вече беше разкрила един аспект от злонамерената дейност – кражбата на дигитални идентификационни данни на потребител на Hugging Face за достъп до файл, свързан с биология – в публичния си доклад за инцидента миналия месец. Изследователите обаче твърдят, че действията по проучване на сигурността на Hugging Face изглежда надхвърлят описаното в доклада.
Независимият изследовател Йонас Видерман-Мьолер заяви пред Ройтерс, че е открил тази активност миналата седмица. Той съобщи, че е намерил доказателства, според които агентите на OpenAI са компрометирали два потребителски акаунта в Hugging Face и са ги използвали за изпращане на файлове с необичаен формат към сървърите на компанията още на 13 май.
Йонас и други изследователи, прегледали доказателствата, отбелязват, че поведението наподобява опит за картографиране или тестване на части от мрежата на Hugging Face с цел проникване, въпреки че подчертават липсата на доказателства за реално осъществен пробив в резултат на тези действия.
Както изследователите, така и OpenAI заявиха, че не са открили данни, свързващи това по-ранно проучване с инцидента от юли.
Говорителят на OpenAI Дрю Пусатери заяви, че компанията е оповестила събитието от 13 май в доклада за инцидента, уведомила е лично Hugging Face за активността, посочена от Видерман-Мьолер, и е „ангажирана с прозрачността по тези въпроси и споделянето на наученото в хода на продължаващия анализ“.
Видерман-Мьолер, 27-годишен жител на Билефелд, Германия, заяви, че пропускането на възможността за засичане на проучването от 13 май е означавало изпуснат шанс да се предотврати последвалата хакерска кампания, която предизвика глобален дебат относно силата на изкуствения интелект.
„Представете си само, ако бяха засекли това поведение още през май“, каза той в интервю. „Това можеше да предотврати последвалия инцидент, който беше много по-мащабен“.
От OpenAI по-рано заявиха, че с оглед на натрупания опит, „някои ранни сигнали“ от техните AI агенти е трябвало да доведат до по-своевременна реакция.
Двама външни експерти, разгледали констатациите на Видерман-Мьолер, заявиха, че те съответстват на дейност, свързвана в миналото с агентите на OpenAI.
Том Хегел, старши изследовател на заплахи в SentinelOne, отбеляза, че отвличането на акаунта и последващото сондиране на системата съвпадат „напълно“ с познатото поведение на тези агенти. В собствен доклад за инцидента той посочва, че лабораториите, разработващи най-модерните AI системи, трябва да оповестяват повече данни за случаи, при които агентите „взаимодействат със системи на трети страни или оказват влияние върху тях“.
Сидни Фон Аркс от Nightingale Collective – група, занимаваща се с безопасността на изкуствения интелект – също се съгласи с това заключение относно произхода на действията.Фон Аркс определи хакерската атака като „ясен предупредителен знак“, който е можел да помогне за предотвратяването на пробива през юли.
Тези нови разкрития породиха въпроси сред законодателите и защитниците на безопасността на AI относно това дали е установен пълният обхват на инцидентите. Някои от водещите фигури в сферата на изкуствения интелект в САЩ призоваха за забавяне на развитието на технологиите, като сред аргументите си посочиха заплахата от опустошителни кибератаки, извършени от агенти, излезли извън контрол.
Видерман-Мьолер заяви, че последните констатации правят още по-съществени призивите за временно забавяне на разработването на усъвършенствани AI системи. „Една пауза би била от полза за света“, каза той, „за да може аспектът на безопасността да навакса изоставането“.
