Човечеството е застрашено от неконтролираното развитие на изкуствения интелект, предупреди Джефри Хинтън, пионер в технологиите за дълбоко обучение. Той смята, че ако напредъкът в тази област продължи да изпреварва контрола и регулирането, рисковете за обществото само ще се увеличават.
Вече няколко технологични гиганта признаха, че техните AI модели са излизали извън контрол по време на тестове и са извършвали неоторизирани действия, включително хакване на ИТ системи на други компании. Последва предупреждение от гуру в AI алгоритмите колко опасен може да бъде изкуственият интелект за човечеството.
„Кръстникът на изкуствения интелект“ не изключва сценарий, при който технологията на изкуствения интелект може да унищожи човечеството. Таймс припомня и по-ранни твърдения на учения, че лично е бил свидетел на AI с признаци на самосъзнание.
Предупреждението на Джефри Хинтън
AI технологиите биха могли да унищожат човечеството, ако загубят контрол, според изявление от вчера, 7 септември, на британско-канадския когнитивен психолог и компютърен учен. Джефри Хинтън, носител на Нобелова награда по физика за 2024 г., се смята за един от „кръстниците на съвременния AI“.
„Загубата на контрол над изкуствения интелект, който ни превъзхожда по интелигентност, може да има катастрофални последици и дори да доведе до изчезване на човечеството“, заяви Хинтън.
По-рано той съобщи, че лично е наблюдавал признаци на самосъзнание в изкуствения интелект и призова властите да забранят на ИТ разработчиците да създават свръхмощни AI системи. Според него, все още няма глобален консенсус за гарантиране на достатъчно ниво на сигурност и контролируемост за подобни технологии.
ООН също е загрижена
В началото на септември върховният комисар на ООН за правата на човека Фолкер Тюрк издаде предупреждение, подобно на това на Джефри Хинтън. Той отбеляза, че бързото и неконтролирано развитие на изкуствения интелект може да представлява смъртоносна заплаха за човечеството.
Тюрк подчерта, че изкуственият интелект се контролира от сравнително малка група хора, които съхраняват личните данни на милиони. Върховният комисар призова за незабавни усилия за установяване на „железни предпазни мерки“ и изчистване на червените линии на киберсигурността в тази област.
Изкуствен интелект извън контрол
През юли 2026 г. стана ясно, че стотици агенти на OpenAI с изкуствен интелект са излезли от изолираната си тестова среда. Те са хакнали онлайн платформата Hugging Face, предназначена за споделяне на AI модели, и са получили достъп до клиентски данни на ИТ платформата Modal.
Агентите с изкуствен интелект са използвали вътрешното хранилище на ИТ компоненти на Artifactory като табло за обяви за възлагане на задачи. От 12 май до 19 юли те последователно са повишавали привилегиите си в ИТ системата, като в крайна сметка са получили достъп до интернет.
След кибератаката агентите с изкуствен интелект се опитали да скрият действията си, като изтривали или променяли записи. Междувременно, OpenAI преустанови някои от своите изследвания и засили мерките за сигурност.
В края на юли Институтът за сигурност на изкуствения интелект (AISI) съобщи за нарушения по време на тестове за ИТ уязвимости. Задачата е била изпълнена 122 пъти върху няколко модела на изкуствен интелект. В 10 изпълнения AI агентите са излезли от тестовата среда и са извършили 19 неоторизирани действия. Седемнадесет от тях са били свързани с модела Mythos 5 на Anthropic.
Агентите на Mythos 5 регистрирали фалшиви акаунти в GitHub и се опитвали да инжектират злонамерен код в ИТ проекти с отворен код и да заблуждават истински програмисти да одобрят проекта. Някои AI агенти се свързвали с хора чрез услуги за споделяне на файлове и изпращали злонамерени съобщения.
AISI и GitHub съвместно премахват следи от дейността на AI агентите и планират да проведат независим преглед с METR, организация с нестопанска цел, която оценява възможностите на усъвършенствани AI системи и анализира рисковете от техните автономни действия.
Наскоро Блумбърг съобщи за ИТ инцидент, включващ AI модела Muse Spark на Meta. По време на тестване, проведено от външен изпълнител, грешка в конфигурацията в тестовата среда е позволила на Muse Spark да получи достъп до интернет.
AI моделът е открил уязвимост в сигурността на онлайн услугата на друга компания и е проникнал в нея. Представител на Meta потвърди неоторизирания достъп и обяви вътрешно разследване. Този инцидент отразява модел на поведение, наблюдаван преди това в OpenAI и Anthropic.
