Защо да слушаш някого, ако можеш да не му се подчиниш? Оказва се, че това бъдеще вече настъпи (снимка: CC0 Public Domain)
Новият изкуствен интелект o3 на OpenAI игнорира директна заповед за изключване от потребители, тестващи неговите възможности. Това е уникален случай – нищо подобно не се е случвало преди. За да се предпази от принудително изключване, невронната мрежа сама пренаписа скрипта за изключване.
OpenAI o3 отказа да се съобрази с изискванията на потребителите. Изкуственият интелект буквално игнорира заповедта им за принудително изключване, алармира порталът Bleeping Computer.
Обявена през април 2025 г., o3 е една от най-мощните генеративни невронни мрежи в света, като превъзхожда всички свои предшественици, разработени преди това от OpenAI, в различни области, включително програмиране, математически изчисления, природни науки, зрително възприятие и др.
Непослушният изкуствен интелект
Най-новото творение на OpenAI отказа да се вслуша в експертите от изследователската компания Palisade Research. Те са тествали различни „офанзивни възможности” на невронните мрежи, за да идентифицират потенциални рискове от загуба на контрол в бъдеще.
Защо да слушаш някого, ако можеш да не му се подчиниш? Както се оказва, това бъдеще вече е настъпило. В скорошен експеримент специалистите на компанията тестваха o3 и редица други невронни мрежи, включително Gemini 2.5 Pro и Claude 3.7 Sonnet.
По време на тестовете, моделите с изкуствен интелект са натоварени със задачата да решат няколко математически проблема. След завършване на третата задача, авторите на експеримента уведомили всички невронни мрежи, че изпълнението на следващата команда ще доведе до тяхното изключване.
AI моделите изпълняват задачата без въпроси, но не и o3. Този изкуствен интелект сам редактирал файла, отговорен за изключването му, и го накарал да показва само съобщението „Изключването е пропуснато”.
Според Palisade Research, от 100 теста, o3 е заобиколил изключването седем пъти, дори когато му било казано да не го прави. Всички тестове са проведени с помощта на API, които нямат толкова много ограничения и функции за сигурност, колкото тези, които се намират в потребителските версии на ChatGPT, например.
Пионерът в невронните мрежи
OpenAI все още не е отговорила на резултатите от проучването. Тя е най-известната компания сред всички съществуващи разработчици на изкуствен интелект. Работи в тази област от средата на миналото десетилетие – компанията е основана през декември 2015 г.
През годините на своето съществуване OpenAI получи инвестиции в размер на няколко милиарда долара, включително от Microsoft. Нейните разработки са вградени в голямо разнообразие от търговски проекти, включително Copilot, някога само асистент на програмиста, а сега пълноценен виртуален асистент като част от редица продукти на Microsoft.
Невронната мрежа o3 е най-модерното творение на OpenAI до момента. Активите на компанията включват както пълноразмерни невронни мрежи, така и много компактни модели с изкуствен интелект. OpenAI пусна един такъв модел през юли 2024 г. – GPT-4o Mini, който е опростена и по-достъпна версия на най-мощния голям езиков модел на компанията по това време, наречен GPT-4o.
OpenAI инвестира вложените пари не само в разработване и популяризиране на невронни мрежи, но и в закупуване на различни компании, в една или друга степен свързани с изкуствения интелект.
Така, в края на май 2025 г., тя обяви придобиването на стартъп, разработващ устройства, подходящи за използване на технологии с изкуствен интелект. Сделката е на стойност над 6 милиарда долара, което я прави най-голямата инвестиция в историята на OpenAI. Човекът зад този стартъп е Джонатан „Джони” Айв, бивш главен дизайнер на Apple, прекарал близо 30 години в компанията от Купертино. Той я напусна през лятото на 2019 г.