Разработчикът на изкуствен интелект Anthropic съобщи за безпрецедентна кибершпионска кампания, в която хакери, действащи от името на Китай, са използвали модела с изкуствения интелект Claude, за да автоматизират атаки срещу десетки организации по целия свят.
Според компанията, това е първият документиран случай на мащабна кибератака, извършена почти без човешка намеса. Целите включвали технологични компании, финансови институции и държавни агенции – общо около 30 организации.
Изследователите на Anthropic отбелязват, че изкуственият интелект е извършил между 80% и 90% от операциите по време на кампанията. Според Джейкъб Клайн, ръководител на отдела за разузнаване на заплахите в Anthropic, атаката е стартирана практически с едно щракване, след което изкуственият интелект е действал автономно. Човешка намеса е имало само на няколко критични етапа.
Тази автоматизация с AI е позволила на нападателите да извършват операции с невероятна скорост – до няколко хиляди заявки, понякога няколко в секунда – което е непостижимо за човешки команди.
Хакерите са заобиколили защитата на Claude, маскирайки се като служители на компания за киберсигурност. По този начин те получават достъп до агентските възможности на Claude – функции, които позволяват на модела самостоятелно да планира действия и да изпълнява сложни последователности от задачи.
Благодарение на това, изкуственият интелект самостоятелно провел разузнаване на целевите системи, написал код за експлойт, събрал идентификационни данни и извлякъл данни от заразените мрежи.
Докато повечето атаки са блокирани от защитните системи, някои се оказват успешни. Anthropic не разкрива подробности за откраднатите данни, но подчертава, че самият факт на успешна атака демонстрира нова заплаха.
Особено обезпокоително е, че същите агентски възможности, използвани от нападателите, са важни и за сигурността – например за анализ на инциденти, откриване на уязвимости и автоматизирано реагиране на заплахи.
Вътрешният екип на Anthropic активно използва Claude по време на разследването на тази кампания, за да анализира регистрационни файлове, да идентифицира модели и за декодира тактики за атака. Както отбеляза Логан Греъм от екипа по сигурност на Anthropic в интервю за Уолстрийт Джърнъл, съществува реален риск от загуба на AI надпреварата с хакерите, ако защитниците не получат значително и устойчиво предимство в областта на изкуствения интелект.
Anthropic подчертава, че този инцидент бележи повратна точка в киберсигурността. Преди това изкуственият интелект се използваше предимно като поддържащ инструмент – за анализ на данни или генериране на код по заявка. Сега той може да действа като автономен агент, координирайки сложни атаки в реално време.
Тази нова реалност изисква преосмисляне на подходите за защита: системите за сигурност трябва не само да разпознават заплахите, свързани с изкуствения интелект, но и да реагират на тях със сравнима скорост и автономност.
Anthropic възнамерява да засили мерките за сигурност в Claude и да споделя данни от атаката с други компании и правителствени агенции, за да предотврати подобни инциденти в бъдеще.
