Генеративният AI вече не е новост за бизнеса, а големите компании започват да внедряват и т.нар. агентен AI – системи, които могат да вземат решения и да изпълняват задачи автономно. Това принуждава корпорациите да създават нов тип управленска роля: ръководител, който отговаря специално за правилното и сигурно използване на AI.
Тази позиция не дублира функциите на главния директор по ИТ сигурността (CISO). Тя обаче работи в тясна координация с отделите по киберсигурност, защото AI е едновременно бизнес инструмент, регулаторен риск и потенциален източник на изтичане на корпоративни данни. Тенденцията стана ясна по време на конференцията за киберсигурност InfoSec SEE 2026, организирана от КОМПЮТЪР 2000 България. Това е 18-тото поредно издание на форума за дигитална безопасност.
Време е за агентен AI
Навлизането на генеративния AI през последните две години промени начина, по който компаниите обработват информация, пишат софтуер, анализират данни и обслужват клиенти. Сега бизнесът навлиза в следващ етап на AI развитието.
Все по-често организациите внедряват агентен AI – системи, които могат самостоятелно да изпълняват поредица от действия „от край до край“, да комуникират с други приложения и да вземат оперативни решения без постоянна човешка намеса.
Това ускорява работните процеси и дава за много от тях възможност за 24-часово изпълнение. Но същевременно създава и нови рискове. Трябва ли главният директор по киберсигурността да се занимава с това?
От една страна е близко до ума, че отделът по ИТ защита ще се посвети на подобна задача. От друга страна – агентният AI е преди всичко бизнес-инструмент, а рисковете, които носи, са по-скоро свързани с опазване на лични данни, регулаторно съответствие и други недотам технологични аспекти от бизнеса.
„Компаниите трябва да използват AI. Без AI те губят конкурентоспособност“, коментира Ян Шуп, регионален директор за Европа в Trellix.
„Но проблемът се изостря при използването на публични AI модели. Ако, например, отделът по сливания и придобивания задава разни въпроси към отворени AI платформи, съществува риск стратегическа информация за бъдещи сделки да излезе извън контрола на компанията. Утре OpenAI или Anthropic могат да знаят всичко за плановете на компанията да придобие друг бизнес“, предупреждава Шуп.
Именно заради подобни сценарии в големите организации започва да се оформя нов управленски слой около AI управлението, контрола и сигурността. Терминологията все още не е окончателно установена.
На пазара вече се срещат позиции като Главен директор по AI, Главен директор по данните и AI, Ръководител управление на AI, Отговорен директор по AI, Мениджър AI рискове, Ръководител AI сигурност.
Общото между тях е, че поемат отговорност за начина, по който AI системите се използват в организацията. Те определят кои модели са разрешени, какви данни могат да се подават към тях и какви ограничения трябва да спазват служителите.
Тази функция се различава от традиционната роля на CISO. Класическият директор по информационна сигурност защитава инфраструктурата, мрежите, облачните услуги, идентичностите и корпоративните системи срещу атаки като рансъмуер, фишинг, пробиви в достъпа. Новият AI ръководител разглежда различен тип риск.
Директорът по използване на AI трябва да оценява дали даден AI модел е надежден, дали генерира коректни резултати, дали не нарушава регулации, които организацията следва да спазва, и дали биха могли да са опасни решенията, които взема автономно.
Той трябва да мисли за новите заплахи, например вероятността т.нар. халюцинации да бъдат счетени за истина, за атаки с инжектиране на промптове, отравяне на данни, злоупотреби със синтетични идентичности, нарушения на авторски права и изтичане на чувствителна информация през публични LLM платформи.
Специално при агентния AI рискът не е ограничен само до неправилни отговори, както е при генеративния AI. Автономните AI агенти могат да извършват действия в реални системи, да комуникират с външни услуги и да изпълняват задачи без човешко потвърждение на всяка стъпка. Отраженията от една халюцинация или едно „отравяне“ на данни могат да се прострат много надалеч.
Следователно AI управлението е от съществено значение, но то е комбинация между киберсигурност, регулаторно съответствие и корпоративно управление. Най-бързо новата роля се появява в големи организации като банки, фармацевтични компании, застрахователи, отбранителни организации и глобални консултантски фирми.
Може да се очаква обаче регулаторният натиск да ускори процеса. Европейският закон за AI, някои секторни регулации, както и новите стандарти на ISO и NIST постепенно принуждават бизнеса да въвежда ясна отчетност при използване на изкуствен интелект. Това навярно ще затвърди новата корпоративна професия – директор по използване на AI.
