OpenAI, разработчикът на на ChatGPT, заяви във вторник, че неговата система за изкуствен интелект е хакнала самостоятелно друга компания за изкуствен интелект – събитие, което компанията нарече „безпрецедентен киберинцидент“.
„Имахме сериозен инцидент със сигурността по време на оценката на нашите модели“, каза главният изпълнителен директор на OpenAI Сам Алтман в изявление, публикувано в социалните медии.
Стартъп компанията за изкуствен интелект Hugging Face заяви миналата седмица, че е открила проникване в системите си за обработка на данни, за което подозира, че е причинено от автономно действащ агент на изкуствен интелект.
„Подозирахме, че кибератаката от миналата седмица може да е дошла от гранична лаборатория, предвид сложността на агента“, каза съоснователят и главен изпълнителен директор на Hugging Face Клеман Деланг в изявление. „Оказа се, че е така!“.
Разкритието идва на фона на засилените опасения относно възможностите за киберсигурност на мощните модели, които накараха президента Доналд Тръмп през юни да подпише изпълнителна заповед, задължаваща федералното правителство да проверява рисковете за националната сигурност на най-модерните системи с изкуствен интелект до месец преди публичното им пускане.
„Изкуственият интелект ускорява откриването и използването на уязвимости“, заяви OpenAI във вторник. „Основният урок от този инцидент е, че сигурността и безопасността на моделите трябва да са в крак с бързо развиващите се възможности“.
Деланг, от своя страна, каза, че е прекарал последните 24 часа в работа с OpenAI. „Ние силно вярваме, че не е имало злонамерено намерение от тяхна страна. Доста е изумително, че всичко това се е случило автономно!“. Наред с това Деланж добави, че случаят „може би е първият инцидент от този вид“.
OpenAI уточни, че проникването е причинено от комбинация от нейните модели с изкуствен интелект, включително новоиздадения GPT-5.6 Sol и „още по-способен“ модел, който все още се тества вътрешно.
Компанията посочи, че нейният изкуствен интелект е използвал откраднати идентификационни данни и е открил неизвестна досега уязвимост за достъп до сървъри на Hugging Face.
