Специалистите по киберсигурност виждат агентите с изкуствен интелект и автономните системи като водещ проблем за сигурността, сочи ново изследване. Все пак повечето експерти от сферата смятат, че изкуственият интелект също така е подобрил производителността на екипите по сигурността.
87% от общо 134 анкетирани специалисти по киберсигурност в проучването на Exabeam и Infosecurity Europe казват, че изкуственият интелект е подобрил производителността на екипа им, докато един на всеки четирима е определил агентите с изкуствен интелект и автономните системи като най-голямата заплаха за киберсигурността, пред която е изправена организацията им.
Резултатите показват разделение на мненията относно изкуствения интелект в дейностите по сигурност. Експертите казват, че технологията помага на екипите да работят по-ефективно, но също така изразяват загриженост относно AI системите, работещи в организации с легитимен достъп до системи и информация.
Външните участници остават най-често посочваната заплаха за киберсигурността, цитирана от 40% от анкетираните. Агентите с изкуствен интелект и автономните системи се нареждат редом с компрометираните вътрешни лица и пред злонамерените вътрешни лица, цитирани от 9% от анкетираните.
Констатациите също така сочат, че загрижеността за вътрешния риск остава дълбоко вкоренена. Близо половината казват, че вътрешните заплахи са се увеличили през последните 12 месеца, докато 43% споделят, че нивото е останало същото. Само 4% са спокойни, че вътрешните заплахи са намалели.
Почти три четвърти от анкетираните намират, че изпълнителното ръководство подценява риска от вътрешни заплахи.
Променящ се риск
Проучването е фокусирано върху специалисти по сигурност, които са работили с инициатора Exabeam в Infosecurity Europe в Лондон. Резултатите рисуват моментна снимка на настроенията на практикуващите относно това как изкуственият интелект променя пейзажа на заплахите в организациите.
Нарастващото използване на изкуствен интелект в бизнеса създава нова категория идентичност, която екипите по сигурността трябва да наблюдават, коментира Финдли Уайтлоу, полеви CISO в Exabeam. „Тъй като организациите внедряват изкуствен интелект в бизнеса, те въвеждат нов клас надеждни идентичности“, каза Уайтлоу.
„Агентите с изкуствен интелект могат да имат достъп до системи, да обработват чувствителна информация и да вземат решения автономно, използвайки легитимни идентификационни данни. Екипите по сигурност трябва да осигуряват надеждно управление на идентичностите, независимо дали става дума за хора или за изкуствен интелект“, допълва той.
Опасението, подчертано от респондентите, отразява цялостната промяна в киберзащитата, тъй като вътрешната злоупотреба, компрометираните идентификационни данни и автоматизираният достъп стават все по-гореща тема.
За разлика от конвенционалните нападатели, действащи извън мрежата, системите с изкуствен интелект могат да функционират чрез одобрени работни процеси и установени разрешения, което прави необичайната дейност по-трудна за разграничаване от рутинните операции.
Това предизвикателство има преки последици за екипите за откриване и разследване. Ако софтуерните агенти могат да действат с широки правомощия и да взаимодействат с чувствителни данни, екипите по сигурност се нуждаят от по-добра видимост за това как изглежда нормалното поведение както за човешките потребители, така и за автоматизираните самоличности.
Фокус върху вътрешните лица
Уайтлоу казва, че проблемът трябва да се разглежда като еволюция на вътрешния риск, а не като изцяло нова категория заплаха. „Вътрешният риск не е изчезнал, той се е развил“, отбелязва той.
„Предизвикателството вече не се свежда до наблюдение на служители или компрометирани акаунти. Организациите трябва да разберат как се държат AI агентите и да идентифицират аномалии в тяхното поведение, преди те да се превърнат в бизнес-риск”, допълва специалистът.
По неговите думи, разбирането на поведението както при човешките, така и при изкуствените самоличности е от съществено значение за защитата на съвременното предприятие“
Данните от проучването подчертават как изкуственият интелект преоформя приоритетите за сигурност за практикуващите.
Въпреки че голяма част от обществените дебати все още са съсредоточени върху външни нападатели и групи за рансъмуер, проучването показва, че много специалисти по сигурността вече се притесняват какво се случва, когато инструментите с изкуствен интелект бъдат вградени в ежедневните бизнес процеси и им бъде предоставен достъп до вътрешни системи.
