Употребата на AI агенти расте по-бързо, отколкото много организации могат да проследят или управляват, а тази липса на видимост представлява нарастващ риск за бизнеса, според нов доклад на Microsoft. Създаването на AI агенти не се ограничава до техническите роли; днес служители на различни позиции създават и използват агенти в ежедневната си работа.
Над 80% от компаниите в класацията Fortune 500 внедряват активни агенти, създадени с инструменти с ниско ниво на кодиране/без кодиране, сочи докладът Cyber Pulse, който анализира нововъзникващите рискове за киберсигурността с навлизането на AI агентите в ежедневните бизнес операции.
Прилагането на AI агенти се ускорява в световен мащаб, като 42% от активните AI агенти са в Европа, Близкия Изток и Африка, следвани от САЩ (29%), Азия (19%) и Северна и Южна Америка (10%).
Ръстът е най-силен в силно регулираните и оперативно сложни индустрии. След софтуерния и технологичния сектор (16%), производството покрива 13% от глобалното използване на AI агенти, следвано от финансовите услуги (11%) и търговията (9%).
В тези сектори AI агентите се използват все по-често за изготвяне на предложения, анализ на финансови данни, сортиране на сигнали за сигурност, автоматизиране на повтарящи се процеси и извличане на информация с машинна скорост.
Докладът предупреждава, че бързото внедряване на AI агенти може да изпревари рамките за сигурност и съответствие, което увеличава риска от „Shadow AI” (нерегламентиран AI).
Агентите с прекомерен достъп – или повлияни от подвеждащи данни – могат да бъдат експлоатирани от злонамерени лица и да се превърнат в нежелани „двойни агенти”.
Подобно на реалните служители, AI агентите се нуждаят от ясни роли, ограничени привилегии и непрекъснат надзор, за да не се превърнат в уязвимост. Според доклада Cyber Pulse, вече 29% от служителите са се обърнали към неразрешени AI агенти за изпълнение на работни задачи.
„В България и в целия Адриатически регион AI агентите бързо се превръщат в дигитални сътрудници в ежедневните бизнес операции. Но без ясни правила, прозрачност и отчетност, те могат да се превърнат и в сериозен риск за сигурността. Иновациите и сигурността трябва да се развиват с еднаква скорост”, каза Томислав Врачич, регионален технологичен директор на Microsoft за Южна Европа.
„Организациите, които прилагат принципите на „нулево доверие”, пълно наблюдение и централизирано управление към AI агентите – точно както правят това за хората и системите – ще намалят риска, ще укрепят доверието и ще бъдат в по-добра позиция да се конкурират на все по-регулирания и цифровизирания европейски пазар и извън него”, допълни Врачич.
Според индекса за сигурност на данните на Microsoft, само 47% от организациите в различни сектори съобщават, че прилагат специфични мерки за сигурност на GenAI, което подчертава възможността пред останалите организации да получат необходимата яснота за безопасното внедряване на AI.
Управлението на AI не може да бъде само в рамките на ИТ отделите, нито сигурността на AI може да бъде делегирана само на експертите по информационна сигурност (CISO). Това е междуфункционална отговорност, която обхваща правните и регулаторните отдели, човешките ресурси, екипите за данни, бизнес ръководството и борда на директорите.
Когато рискът, свързан с изкуствения интелект, се разглежда като основен корпоративен риск – наред с финансовия, оперативния и регулаторния риск – организациите са в по-добра позиция да действат бързо и безопасно.
Докладът Cyber Pulse заключава, че сигурността и иновациите не са противоположни сили – те се подсилват взаимно. Силното управление изгражда прозрачност, а прозрачността се превръща в решаващо конкурентно предимство.
Организациите, които действат сега, ще намалят риска, ще ускорят иновациите, ще защитят доверието на клиентите и ще изградят устойчивост в структурата на своите предприятия, задвижвани от изкуствен интелект.
