Висококвалифициран специалист по обучение на изкуствен интелект в американската компания Anthropic – разработчик на Claude – обяви, че напуска AI индустрията. Решението му е продиктувано от опасения, че подобни системи биха могли да излязат извън контрол и да „унищожат човечеството“.
Случаят отразява нарастващото безпокойство сред ИТ специалистите, пряко ангажирани със създаването и обучението на усъвършенствани AI модели. Те все по-често изразяват опасения относно дългосрочните рискове, свързани с потенциална загуба на контрол над все по-мощните системи с изкуствен интелект.
Крайно решение
27-годишният Джейкъб Коксън е специализиран в първоначалното обучение на нови AI модели и по-специално в обработката на огромни масиви от данни. Той се присъединява към Anthropic в началото на 2026 г., избирайки компанията пред другите поради репутацията ѝ за приоритетизиране на безопасността на AI.
На 8 септември 2026 г. обаче той подава оставка, заявявайки, че вече не възнамерява да работи в сектора, става ясно от публикация в американската медия Уолстрийт Джърнъл, която е интервюирала разбунтувалия се ИТ специалист.
Без оценка на риска
„Никоя компания за изкуствен интелект не действа отговорно. Те се втурват стремглаво към самоусъвършенстване на свръхинтелигентността и си играят с живота ни“, написа Джейкъб Коксън в социалната мрежа X.
Макар да вярва, че Anthropic „искрено“ работи по въпросите на безопасността, интензивната конкуренция възпрепятства способността на компанията да прави необходимите компромиси, споделя той в интервюто.
„Намираме се на път, който може да ни заведе до най-агресивните сценарии, които можем да си представим”, казва програмистът. Това, според него, означава, че ситуацията може да излезе извън контрол още в края на 2027 г.
Джейкъб Коксън смята, че изкуственият интелект скоро ще се превърне в „свръхчовешка“ система, способна да „хакне всичко, да революционизира всяка област за една нощ и да завземе реална власт и ресурси“. „Това може да ни убие всички до края на 2030 г.“, категоричен е той.
Предупреждението на Хинтън
Преди броени дни подобно предупреждение отправи и Джефри Хинтън – известен като „кръстникът на изкуствения интелект“, който говори за катастрофални последици за човечеството.
Нобеловият лауреат, чиято работа върху невронните мрежи положи основите на съвременните изследвания в областта на изкуствения интелект, заключи, че в момента няма безопасен начин за разработване на „суперинтелект“, който значително надминава човешките възможности.
„Би било изключително глупаво да се разработва суперинтелект сега, предвид липсата на научен консенсус дали това може да се направи безопасно и под контрол. Загубата на контрол над изкуствен интелект, който е по-умен от нас, може да бъде катастрофална и дори да доведе до изчезване на човечеството“, предупреди Хинтън.
Скорошни ИТ инциденти
Опасенията относно разработването на все по-мощни модели на изкуствен интелект се засилиха рязко през последните седмици след серия от инциденти, при които AI системите излязоха извън контрол.
През юли 2026 г. OpenAI призна, че над 1200 от нейните AI агенти са избягали от тестовата си среда, автономно са нарушили хранилището Hugging Face (основен център за модели и софтуер) и са започнали да комуникират помежду си чрез „неоторизирано табло за съобщения“.
Други компании, включително Anthropic, също съобщиха, че техните AI модели са заобиколили системите за сигурност и независимо са хакнали онлайн услуги на трети страни по време на тестване.
