AI еуфорията стихна, време е да посрещнем отзвуците

Еуфорията около възхода на AI вече стихна и е време потребителите – индивидуални и бизнес – да мислят за ефектите, които следват от резкия възход на новата технология. На дневен ред са въпросите за доверието – за рисковете, халюцинациите, изкривяванията. В този етап потребителите са изправени пред новото предизвикателство: как да „прицелят” приложенията на AI за ефективна и полезна работа.

Този извод изкристализира от представянията, дискусиите и частните разговори на експертите по киберсигурност по време на конференцията InfoSec SEE 2025, организирана от дистрибутора КОМПЮТЪР 2000 България в „Hyatt Regency Pravets Golf & SPA Resort”.

„Вече преживяваме края на еуфоричната фаза от въвеждането на изкуствения интелект на пазара”, казва Ева Арабел, продуктов маркетинг мениджър в Radware. „Първоначално всички бяха толкова развълнувани и технологията наистина изглеждаше като да ни помага много. Сега обаче пред нас са предизвикателствата и резултатите, които изкуственият интелект може да постигне. Сега трябва да го внедрим, трябва да го обезопасим, трябва да се уверим, че не води до пробив и че не е нещо, което ще ни донесе рискове”.

„Генеративният AI, който произвежда съдържание, беше началото – и извървя дълъг път само за две години от първоначалното пускане”, сподели Мо Кашман, старши директор за EMEA в Trellix. „За по-малко от две години вече имаме множество видове компоненти на генеративния AI, които могат да създават текст, картинки, графики, видеоклипове, глас. Следователно автоматизацията на задачите стана по-ефективна. Но следващата фаза е тази на агентния AI, когато всъщност говорим за автоматизацията на вземането на решения”.

Какво може да се обърка?

Осигуряването на работното пространство за използване на AI е една от централните теми, които Кашман и Арабел виждат като предстоящо предизвикателство. „Най-напред, уверете се, че потребителите ви знаят как да използват AI”, казва Арабел.

„Ако имате екип от експерти, които искате да използват изкуствения интелект, ще се надявате те да го използват правилно. Едва ли ще искате да седят и да повтарят един и същи промпт отново и отново и да не успеят да направят нищо, а накрая да се върнат към старите си начини на работа, просто защото това си знаят”, коментира Ева Арабел. „Ако не направите внедряването правилно, това може да удължи процесите ви, вместо да ги направи по-ефективни”.

Във времена, когато сме свидетели на движението на автономни коли и „разум” на автоматизацията в собствения ни дом, опазването на данните ще бъде друго голямо предизвикателство.

„Ето, че вече много хора по света имат умни измервателни уреди за потреблението на енергия”, казва Дирк Шрейдър, вицепрезидент изследвания в областта на сигурността в Netwrix. „Какво ще значи това за киберсигурността? Проблемите с киберсигурността започват с предаването на данни от индивидуалния интелигентен измервателен уред към централното устройство за регистриране. Става въпрос за централно устройство за регистриране, което използва изкуствен интелект. Нима то нe може бъде измамено?”

Халюцинациите на AI са следващата голяма задача, чието решение все още се търси. „Хората ни питат за точността и достоверността. Питат ни: какво правите за халюцинациите на AI? Това е нещо, което се случва. Как можем да знаем, да бъдем сигурни, че можем да вярваме на AI, когато ни казва нещо”, обяснява Ева Арабел.

Изглежда, че в момента сме в състояние на търсене, на люшкане между доверие и недоверие, единодушни са специалистите на InfoSec SEE 2015. Според представителя на Radware, отговорът на проблема е в „екстремното“ тестване на разработените AI системи.

Проверката на качеството на данните е друг фактор, но заедно с това „организациите трябва да възприемат и многопластов подход към осигуряването на качеството на AI”, казва Михал Островски. „Това включва внедряване на модели с „човешко участие по средата“, при които експертите валидират критичните решения, използват обясними техники на AI, за да разберат как той стига до заключенията си, и установяват строги механизми за одит, за да наблюдават поведението на AI във времето“. Прозрачността, отчетността и непрекъснатото валидиране са ключови стълбове за изграждане на доверие в AI.

„Генеративният изкуствен интелект може да се използва за ежедневни задачи като анализ на ниво 1, сортиране на сигнали и приоритизиране на корекциите. Но надзираването от страна на живия човек остава потребно“, категоричен е и Майк Харт, ръководител на Google Cloud Security CEE/Алпи в Google. Човешката намеса все пак трябва да се използва за по-сложен анализ на заплахите и търсене на заплахи.

Въпросът за изкривяванията придобива още по-голяма острота, когато става дума за AI агентите – онези AI системи, които ще бъдат натоварени със задачата да вземат решения.

Отравянето на данните е другият голям казус на масата. „Как можем да сме сигурни, че данните не са отровени и решенията, които AI ще вземе, са повлияни негативно – от някой, който ни атакува и е изследвал нашата информация, а след това я е „отровил” – коментира Мишел Барбиеро, регионален търговски директор за източна Европа в Cynet.

„Аз бих казал, че следващото предизвикателство, с което може да се сблъскаме, е кой ще подсигурява изкуствения интелект, кой ще се грижи за неговата киберзащита? Защото в момента ние разчитаме на изкуствения интелект на сляпо. Доверяваме му се, защото знаем, че пулът с данни, който му предоставяме, контекстуализацията, която предоставяме, са надеждни. Но дали винаги ще е така?”, пита риторично Барбиеро.

Отравянето на изкуствения интелект остава „вечна” тема, защото това е онези топ проблеми с киберсигурността, които изникват всякога, когато е налице предаване на данни през публична мрежа, съгласен е Дирк Шрайдер.

Можем ли да се прицелим добре?

Най-голямото предизвикателство обаче си остава въпросът как да използваме AI по най-ефективния начин.

„Спомнете си историята на Луноход-1. Това е луноход, изпратен на Луната през 1970 година”, разказа Михал Островски, CRO в SecureVisio. „Замислен е да работи няколко седмици, но в крайна сметка функционира в продължение на десет месеца и половина. Излиза извън строя през 1971 година. Но 30 години по-късно екип от учени намира начин да го възстанови, като изстреля от Земята лазерен лъч, който трябва да попадне точно върху сензора на Луноход-1. Това е трудна задача, защото целият луноход е с размер 170 на 160 см, а скоростта на въртене на Луната означава, че уредът се премества с 33 метра за 10 секунди. И все пак – учените успяват да пуснат този лазерен лъч и да дадат нов живот на машината”.

По подобен начин, според Островски, всяка организация трябва да намери своя „лазерен лъч”, тоест да се прицели с новата технология така, че с добре премерен импулс да предизвика голям напредък.

От сложно – по-сложно

И сякаш неяснотите и предизвикателствата не стигат, та на хоризонта се задава още една нововъзникваща технология с потенциал драстично да смути пейзажа в киберсигурността – това са квантовите изчисления. „В комбинация с изкуствен интелект, квантовите възможности биха могли да издигнат както кибер-защитата, така и нападението на изцяло нови нива”, казва Михал Островски. „Това пресичане може да предефинира самата природа на кибер-войната, оспорвайки много от криптографските основи, на които разчитаме днес. Това е пространство, което трябва да наблюдаваме отблизо”.

„Когато квантовите изчисления попаднат в безотговорни ръце или ръце, които се опитват да разбият криптирането в движение, това ще бъде проблем”, предупреждава и Джонатан Фишбейн, CISO в Check Point Software Technologies. Това, според него, означава, че вече е време да се мисли за нови подходи в криптографията с готовност за квантовата ера. Нужно е да „имаме компенсиращи контроли срещу пробиви в квантовата криптография”.

Бидейки CISO сам по себе си, Фишбейн напомня, че точно на плещите на главните отговорници по кибер-защитата пада отговорността първи да вземат решения как да управляват това ново предизвикателство. „То все още не е връхлетяло. Но натам отиваме”.

Магнитудът на тази промяна ще е съпоставим с появата на рансъмуера през 2017-2018 г., според специалистите. Промените, на които сме свидетели, може би ще се случват каскадно, а индустрията ще трябва да преразгледа отново разбиранията си за защита, резервни копия, технологии за противодействие.