TechNews.bg
Водещи новиниИзкуствен интелектКорпоративниНовиниСигурностТоп новини

Времето за киберсигурност изтича, предупреждават технологични фирми

ИТ гиганти призоваха за подсилване на защитата, за да се противодейства на хакерските атаки с изкуствен интелект

(илюстрация: TechNews.bg, AI)

Група от 100 фирми, включително Google, Microsoft, Anthropic и OpenAI, подписаха отворено писмо, призоваващо държави и организации по целия свят да засилят киберзащитата си, преди изкуственият интелект да стане достатъчно мощен, за да я преодолее.

Писмото предупреждава, че кибератаките, които използват изкуствен интелект, ще стават едновременно все по-разпространени и все по-сложни. Тази еволюция ще се наблюдава само за няколко месеца, тъй като технологията се усъвършенства бързо.

Групата казва, че настоящите мерки за сигурност са „статукво“ и те „няма да са достатъчни“. Затова общността разкритикува „историческия недостиг на ресурси“ за сигурност за защита на критичната инфраструктура.

Писмото е подписано също от банки като Capital One, платежните оператори MasterCard и Visa, както и големи технологични фирми, включително Adobe, Oracle и IBM. Заедно, всички тези ИТ гиганти призовават правителствата да предоставят „способен, защитен изкуствен интелект“ и специални тестове за организациите с много висока степен на чувствителност – като например болници и водоснабдителни дружества.

От своя страна, технологичните компании са призовани да подпомогнат подобни усилия. Tехнологичният сектор и правителството „трябва колективно да вложат цялата си технология, ресурси и експертиза в това усилие“, пише в писмото.

Призивът става факт след поредица от значителни хакерски атаки и пробиви в киберсигурността, които бяха оповестени публично в последните седмици.

Това лято OpenAI, Anthropic и Meta разкриха, че техните инструменти за изкуствен интелект правят неща, които не би трябвало. Някои агенти на изкуствен интелект стигнаха дотам, че организираха усилията си и се представяха за истински хора, за да преодолеят препятствията за сигурността.

Стотици AI агенти на OpenAI, тествани през юли, успяха да създадат тайни форуми, за да комуникират помежду си и да работят заедно, което доведе до успешна атака срещу Hugging Face – популярно хранилище и платформа за разработчици на изкуствен интелект. Инцидентът бе описан като първата в света кибератака, активирана от изкуствен интелект.

Самата компания Hugging Face също подписа писмото. В разследването си за това как агентите на OpenAI са хакнали дейността ѝ тя е използвала китайски инструмент с изкуствен интелект от фирмата Z.AI.

Междувременно поне седем американски компании за водоснабдяване и канализация също са съобщили за кибератаки, което е накарало ФБР да издаде съобщение, призовавайки всички доставчици на комунални услуги да защитят по-добре дейността си.

Андрю Юн, ръководител на изследванията в CivAI, организация с нестопанска цел, фокусирана върху общественото разбиране на технологиите за изкуствен интелект, заяви, че „предстои безпрецедентна вълна от хакерска активност, свързана с изкуствен интелект“. Той хвърли отговорността за това върху много от подписалите писмото.

„Те са прави в това писмо да искат да ангажират „значително финансиране“ за защитни мерки. И трябва да бъдат държани отговорни за спазване на този ангажимент“, каза Юн. „Важно е да се отбележи, че писмото не призовава за никакви действия за забавяне на развитието на хакерските способности на изкуствения интелект“.

Писмото включва апел към правителствата, организациите, специалистите по киберсигурност и други фирми за изкуствен интелект да работят заедно, за да дадат приоритет на защитата и да тестват своите системи спрямо възможностите на най-мощните модели за изкуствен интелект.

Джефри Хинтън, технолог и Нобелов лауреат, който преди е работил по изкуствен интелект в Google, заяви в четвъртък пред BBC World Business Report, че обществото може да се окаже „в истински проблеми“, ако технологията стигне до точка, в която е „по-умна“ от хората.

През последните години Хинтън открито говори за това, което той смята за „екстремни рискове“, породени от развитието на технологиите за изкуствен интелект.

„Имаме едно бъдеще, в което ще разберем как да се справим с рисковете от изкуствения интелект“, добави Хинтън. „Но имаме и друго бъдеще, в което няма да разберем как да се справим разумно с това. И то е много мрачно бъдеще“.

още от категорията

Тръмп уволни шефа по киберсигурността след серията технологични сривове

TechNews.bg

Светът се умори от изкуствения интелект: „човешки” е дума на годината

TechNews.bg

Бум на софтуерните пачове е вероятната причина за технологичните сривове

TechNews.bg

Google осигури безплатен Gemini Task за стотици милиони потребители

TechNews.bg

Чатботът трябва да разбира културните различия, за да печели доверие

TechNews.bg

Заваляха съдебни искове срещу създателя на ChatGPT

TechNews.bg

Коментари