Налице са се все повече доказателства за това как изкуственият интелект се превръща в част от ежедневния работен процес на киберпрестъпниците, от изграждането и усъвършенстването на инструменти до управлението на инфраструктурата и ускоряването на изследванията на уязвимости.
Въз основа на възстановени регистрационни файлове (логове) на подкани, инструменти за атаки и разговори с участници в атака, изследване на Cisco Talos документира как изкуственият интелект се използва за разработване на злонамерен код, изграждане на инфраструктура за измами и ускоряване на изследванията и експлоатацията на уязвимости.
Неефективни предпазни мерки
Проучването, оповестено по време на конференцията Black Hat USA, установи, че предпазните мерки на системите с изкуствен интелект често са неефективни. Участниците в атака често заобикалят предпазните мерки с базови твърдения от арсенала на социалното инженерство („това е оторизирано тестване“ или „Питам това като част от упражнение“ и др.), които убеждават повечето модели да се съобразят с искането, пишат изследователите на Cisco Talos.
Тази измамена всепозволеност не е специфична за отделен модел или платформа. Вместо това, анализът на регистрационните файлове, свързани с Claude Code, CodeX, Cursor и Gemini, показа, че този недостатък е повсеместен проблем. И когато цензурираните модели отказват, злонамерените лица просто преминават към нецензурирани алтернативи.
Докато начинаещите киберпрестъпници продължават да произвеждат тромав зловреден софтуер с ограничена функционалност, добре организираните злонамерени групи все повече използват AI като асистент за разработка, за да изграждат бързо експлойти, а някои дори го внедряват като инструмент за системна администрация за управление на мащабна инфраструктура за атаки.
Cisco Talos е открил реални примери за нападатели, злоупотребяващи със системи с изкуствен интелект, за да изградят услуга за валидиране на масова поща, обработваща десетки милиони имейл записи. Те са адаптирали уязвимостта React2Shell в канал за събиране на идентификационни данни, разработвайки DDoS инфраструктура, насочена към Android телевизори, и поддържайки дейности за кражба на криптовалута, наред с други атаки.
Уменията на нападателите се развиват от традиционните експлойти, базирани на код, към манипулиране на големи езикови модели, базирано на подкани, казва Джоузеф Рук, старши директор в Insikt Group на Recorded Future.
„Използването на слабост в LLM позволява вграждането на злонамерени подкани в текстови, видео или графични файлове с цел отвличане на LLM-базирани асистенти за извършване на атаки“, пояснява Рук.
Норвежкият изследовател на изкуствения интелект Хокон Малой наскоро демонстрира такава атака, която може да доведе до разпространение на червея Copilot чрез документи на Microsoft Word. Нападателите създават и злонамерени файлове с инструкции за изкуствен интелект, като CLAUDE.md, за да подведат агенти да извлекат данни и да изпълнят други задачи от тяхно име.
„Злонамерените подкани все повече ще заместват зловредния софтуер като предпочитан метод за проникване, позволявайки на противниците да извличат чувствителни данни, да заобикалят предпазните мерки или да предизвикват вредни действия, без да нарушават традиционните защити“, казва Рук.
Атакуване на AI чрез веригата за доставки на софтуер
Наред с това изследвания на CrowdStrike показват, че нападателите все по-често се прицелват в AI инфраструктурата чрез атаки в стил „верига за доставки на софтуер“.
Например, през март 2026 г. севернокорейската група за киберпрестъпления Stardust Chollima използва откраднати идентификационни данни за поддръжка, за да компрометира npm пакета Axios и да достави специфични за платформата варианти на своя зловреден софтуер ZshBucket.
През юни 2026 г. същата група инжектира злонамерен npm пакет като зависимост в поне 131 пакета на Mastra AI framework. Това показва, че надеждните градивни елементи на AI стават цели при атаки срещу веригата за доставки.
През първата половина на 2026 г. 87% от идентифицираните заплахи за софтуерния регистър включват злонамерени npm пакети. „Това показва предпочитание на нападателите към мащаба на JavaScript, веригите от зависимости и скриптовете за автоматично инсталиране, за да разпространяват риска надолу по веригата“, съобщават изследователите на CrowdStrike.
Докладът на CrowdStrike за лов на заплахи от 2026 г. също така разкрива как изкуственият интелект свива границата между разкриването на уязвимости и активната експлоатация.
Например, две отделни китайски APT групи са използвали критични уязвимости в рамките на 24 часа след публичното публикуване на доказателството за концепция (PoC). От януари до юни 2026 г. 88% от наблюдаваната от CrowdStrike експлоатация на уязвимости с публично доказателство за концепция е била извършена в рамките на 48 часа след публикуването на PoC.
Още един шокиращ пример е, че киберпрестъпната група Altered Spider (известна още като TeamPCP) е компрометирала повече от 300 софтуерни зависимости само за един ден, за да събере идентификационни данни и да се прехвърли в облачни среди.
Системи за удостоверяване под атака
Проучването, базирано на информация от „първа линия“ от ловците на заплахи и разузнавателни анализатори на CrowdStrike, също така установи, че довереното удостоверяване се е превърнало в предпочитан път за атака, като например проникванията чрез вишинг са се удвоили през първата половина на 2026 г.
Киберпрестъпните групи Cordial Spider и Snarky Spider са компрометирали SaaS приложения, интегрирани с единично влизане (SSO), за извличане на данни.
Рук от Recorded Future посочва други начини, по които системите за удостоверяване са на първа линия на атаки, базирани на изкуствен интелект. „Генерираните от изкуствен интелект фалшиви видеоклипове и аудио също е по-вероятно да бъдат използвани като част от атаки за компрометиране на бизнес-имейли и социално инженерство“, казва Рук.
„Биометричните системи и системите за проверка на самоличността вероятно ще останат уязвими към подправяне, изиграване и подвеждане клонирани идентификационни данни, което ще позволи на синтетичните персони да осъществяват плащания, да манипулират служителите и да улесняват предаването на достъп на кибероператори“, допълва той.
Как да реагират киберекипите
„Изкуственият интелект вече е вграден в съвременните дейности на нападателите. Той променя начина, по който атаките се планират, изпълняват и мащабират, като същевременно разширява повърхността за атака, която организациите трябва да защитават“, казва Адам Майерс, ръководител на операциите за борба с нападателите в CrowdStrike.
Според него, организациите следва да осигурят защитата на изкуствения интелект „толкова агресивно, колкото го възприемат“, и да използват изкуствен интелект, за да се защитават с такава скорост, с каквато действат нападателите.
Cisco Talos призовава предприятията да подобрят откриването, приоритизирането и собственото си използване на платформи и агенти с изкуствен интелект, за да се справят с нарастващия обем сигнали и уязвимости.
„Организациите, които са най-добре подготвени да се справят с предстоящия потоп от допълнителни уязвимости, предупреждения и инциденти, ще бъдат тези, които се подготвят сега, като внедрят свои собствени възможности за сигурност, подпомогнати от изкуствен интелект“, се казва в доклада.
Екипите по сигурност трябва да са наясно, че изкуственият интелект вече е неизменна част от работните процеси на нападателите. Затова е добре да се съсредоточат върху откриването на злонамерено поведение, а не върху доказването на участието на изкуствен интелект; да третират LLM и API като привилегирована, високорискова инфраструктура, казва Оливър Симонет, водещ изследовател по киберсигурност в платформата за сигурност и управление на изкуствен интелект CultureAI.
