Генеративните алгоритми се използват за кибернападения по всички възможни начини: от първоначалния контакт до писането на зловреден код (графика: CC0 Public Domain)
Ускоряването на динамиката в света на киберзаплахите и защитата на дигиталните активи е главоломно. За легитимните бизнеси става все по-трудно да издържат на темпото на нападателите. Необходимо е денонощно наблюдение на ИТ инфраструктурите и светкавично реагиране. Надежда за спасение се възлага на т.нар. AI агенти, които могат да бъдат „обучени“ да вземат бързи решения, за да намалят натоварването на специалистите. AI агентите бяха възлова тема по време на конференцията Cybersecurity Forum 2025, организирана от доставчика на решения за киберсигурност Crayon на 15 май.
„Нападенията върху ИТ инфраструктури се реализират ускорено, много бързо. Атакуващите са изключително изобретателни“, сподели Александър Вара, ръководител на консултантските дейности в сферата на киберсигурността в централата на Crayon. „Те използват AI постоянно и за всичко – за осъществяване на първоначалния контакт с жертвите, за писане на програмен код, за превод на измамническите си писма”.
AI като катализатор на злонамерената изобретателност
Да, оказва се, че AI има основен принос за изостряне на ситуацията в киберзащитата, в частност благодарение на развитието на големите езикови модели. Сега те се използват за почти всичко в осъществяването на дигитална атака.
„Нападенията върху ИТ инфраструктури се реализират ускорено. Атакуващите са изключително изобретателни“, казва Александър Вара, Crayon (снимка: личен архив)
LLM вършат отлична работа за проучване на жертвите, за събиране на информация, за написване на привидно легитимни писма, за програмиране на зловредния товар. И макар че големите езикови модели „все още не пишат код много добре“, казва Вара, въпрос на време е те да се усъвършенстват. Прогнозата на специалиста е, че до 1-2 години LLM ще се научат достатъчно добре да вършат и това.
Заедно с големите езикови модели усъвършенствано оръжие в ръцете на киберпрестъпниците са и другите видове генеративни AI, които могат да създават всякакви изображения, фалшиви гласове и фалшиво видео.
Ускорено се случва и превземането на ИТ средата от злонамерени лица след първоначалното проникване в дадена корпоративна инфраструктура. Рекордното постижение в това „умение“ е малко над 4 минути, разкри още Вара. Тоест времето на латентно присъствие на атакуващия се скъсява.
Ускоряване на превземането
Колко бързо уязвимостите могат да се превърнат в широко отворена порта за хитри и злонамерени герои показа Паула Янушкевич – ръководител на фирмата за дигитални разследвания CQure, която традиционно участва в Cybersecurity Forum с атрактивни демонстрации на живо. Този път тя разкри нагледно как малки и привидно невинни компромиси с принципите на безопасността могат да се превърнат за броени минути в магистрала, по която да нахлуят недобронамерени лица.
Привидно невинни компромиси с принципите на сигурностто могат бързо да се превърнат в магистрала, по която да нахлуят злонамерени лица, разказа Паула Янушкевич, CQure
(снимка: личен архив)
Например, спестяването на един нов потребителски профил за стажант в дадена фирма – при което му се дава достъп до вече съществуващ профил на друг колега – е отлична вратичка за превземане ИТ инфраструктурата на потребителската организация за броени минути, разказа Паула.
Малките компромиси най-често произтичат от естественото желание на хората да си спестят усилие. В този смисъл практиката потвърждава, че именно човешките грешки са факторът, който отваря вратите за кибер-инциденти.
Надеждата: AI агентите
До голяма степен надеждата за спасение в тази буря от рискове и заплахи се възлага на AI агентите. Това са системи на база изкуствен разум, които могат да бъдат обучени да вземат бързи решения на база конкретни условия. По този въпрос единодушни бяха и останалите лектори на Cybersecurity Forum 2025, сред които Джорд Добреа – консултант по киберсигурност, Никос Макрис – ръководител на дивизията за бизнес-сигурност за CEMA региона в Microsoft, Омар Сенз-Херера – експерт по киберсигурност в Google, Джеймс Фергюсън – експерт по киберсигурност в AWS и др.
AI агентите са ценен инструмент в арсенала на отговорниците по ИТ сигурността, защото могат драстично да намалят ръчната работа. Те автоматизират процесите и ускоряват грижата за безопасността – нещо, което безспорно е необходимо на фона на все по-голямото темпо на кибернападатателите. AI агентите са и ценен помощник в процедурите по реагиране на кибер-инциденти и възстановяване.
Всичко това трябва да се разглежда и през призмата на нуждата от денонощен мониторинг и светкавично реагиране, тъй като голяма част от най-успешните пробиви се случват в почивни и празнични дни.
Призивът за насочване на вниманието към AI агентите идва в момент, в който недостигът на квалифицирани специалисти в света на кибесигурността продължава да измъчва индустрията. AI агентите дават надежда ръководителите на отдели по ИТ сигурност да намерят начин да се справят с наличната в момента работна сила.
Автоматизацията, която AI агентите могат да осигурят, и възможностите на генеративния AI да помага в разследвания и отчетност, могат да намалят натоварването на отделите по ИТ и инфосигурност, категорични са експертите.
