Група от 100 фирми, включително Google, Microsoft, Anthropic и OpenAI, подписаха отворено писмо, призоваващо държави и организации по целия свят да засилят киберзащитата си, преди изкуственият интелект да стане достатъчно мощен, за да я преодолее.
Писмото предупреждава, че кибератаките, които използват изкуствен интелект, ще стават едновременно все по-разпространени и все по-сложни. Тази еволюция ще се наблюдава само за няколко месеца, тъй като технологията се усъвършенства бързо.
Групата казва, че настоящите мерки за сигурност са „статукво“ и те „няма да са достатъчни“. Затова общността разкритикува „историческия недостиг на ресурси“ за сигурност за защита на критичната инфраструктура.
Писмото е подписано също от банки като Capital One, платежните оператори MasterCard и Visa, както и големи технологични фирми, включително Adobe, Oracle и IBM. Заедно, всички тези ИТ гиганти призовават правителствата да предоставят „способен, защитен изкуствен интелект“ и специални тестове за организациите с много висока степен на чувствителност – като например болници и водоснабдителни дружества.
От своя страна, технологичните компании са призовани да подпомогнат подобни усилия. Tехнологичният сектор и правителството „трябва колективно да вложат цялата си технология, ресурси и експертиза в това усилие“, пише в писмото.
Призивът става факт след поредица от значителни хакерски атаки и пробиви в киберсигурността, които бяха оповестени публично в последните седмици.
Това лято OpenAI, Anthropic и Meta разкриха, че техните инструменти за изкуствен интелект правят неща, които не би трябвало. Някои агенти на изкуствен интелект стигнаха дотам, че организираха усилията си и се представяха за истински хора, за да преодолеят препятствията за сигурността.
Стотици AI агенти на OpenAI, тествани през юли, успяха да създадат тайни форуми, за да комуникират помежду си и да работят заедно, което доведе до успешна атака срещу Hugging Face – популярно хранилище и платформа за разработчици на изкуствен интелект. Инцидентът бе описан като първата в света кибератака, активирана от изкуствен интелект.
Самата компания Hugging Face също подписа писмото. В разследването си за това как агентите на OpenAI са хакнали дейността ѝ тя е използвала китайски инструмент с изкуствен интелект от фирмата Z.AI.
Междувременно поне седем американски компании за водоснабдяване и канализация също са съобщили за кибератаки, което е накарало ФБР да издаде съобщение, призовавайки всички доставчици на комунални услуги да защитят по-добре дейността си.
Андрю Юн, ръководител на изследванията в CivAI, организация с нестопанска цел, фокусирана върху общественото разбиране на технологиите за изкуствен интелект, заяви, че „предстои безпрецедентна вълна от хакерска активност, свързана с изкуствен интелект“. Той хвърли отговорността за това върху много от подписалите писмото.
„Те са прави в това писмо да искат да ангажират „значително финансиране“ за защитни мерки. И трябва да бъдат държани отговорни за спазване на този ангажимент“, каза Юн. „Важно е да се отбележи, че писмото не призовава за никакви действия за забавяне на развитието на хакерските способности на изкуствения интелект“.
Писмото включва апел към правителствата, организациите, специалистите по киберсигурност и други фирми за изкуствен интелект да работят заедно, за да дадат приоритет на защитата и да тестват своите системи спрямо възможностите на най-мощните модели за изкуствен интелект.
Джефри Хинтън, технолог и Нобелов лауреат, който преди е работил по изкуствен интелект в Google, заяви в четвъртък пред BBC World Business Report, че обществото може да се окаже „в истински проблеми“, ако технологията стигне до точка, в която е „по-умна“ от хората.
През последните години Хинтън открито говори за това, което той смята за „екстремни рискове“, породени от развитието на технологиите за изкуствен интелект.
„Имаме едно бъдеще, в което ще разберем как да се справим с рисковете от изкуствения интелект“, добави Хинтън. „Но имаме и друго бъдеще, в което няма да разберем как да се справим разумно с това. И то е много мрачно бъдеще“.
