Как хакерите използват AI, за да автоматизират кибератаките си

В помощ на хакерите работят все повече и по-усъвършенствани AI механизми
(снимка: CC0 Public Domain)

Възходът на изкуствения интелект е необратим. AI вече облекчава ежедневните ни дейности, като например разпознава лицата на хората, които снимаме със смартфона си, за да може камерата да ги фокусира, дописва думите в текстовите ни съобщения, разпознава ни на входа на учреждения, за да ни допусне вътре. Но хакерите също използват изкуствен интелект за своите зловредни дейности. На свой ред и създателите на технологии за киберзащита са принудени да разчитат на силата на AI, за да изпреварят опасностите и да ни спестят немалки щети.

В своя офис в Севлиево Ваня е вече шести час на работа, когато получава поредната досадна „коледна” оферта за стоки с изключително намаление по повод празниците. Този път писмото я грабва – предлагат се спортни обувки с близо 50% намаление. Промоцията е до изчерпване на наличностите и Ваня не иска да изпусне шанса. Не се колебае много, преди да поръча.

Малко по-късно същия ден Светлин от Бургас, собственик на малък магазин за соларни зарядни устройства и други туристически джаджи, получава известие от администраторa на електронния си магазин, че трябва да коригира параметрите на е-пощата си. Пише, че поради промени в имейл сървърите на доставчика на хостинг, се налага спешен „ъпдейт” на квотата за пощенската кутия. Иначе няма да може да получава и да изпраща писма. Услугата е безплатна. Светлин бързо следва инструкцията, за да не остане без е-поща точно в усилния сезон.

Това, което и Ваня, и Светлин не подозират, е че от този ден нататък техните чувствителни данни – пароли, номера на кредитни карти – ще се търгуват на „черната борса” на хакерския свят. Сега двамата могат да очакват всякакви неприятни изненади.

Писма като тези на Ваня и Светлин са получили още хиляди хора, които имат електронна поща. Но изпращачът няма намерение да продава обувки, нито да коригира имейл сървъри на е-магазини. Tой просто събира логин имена, пароли, номера на кредитни карти.

Най-интересното е, че авторът не е прекарал нито секунда в писане на електронните съобщения. Прави го алгоритъм с изкуствен интелект.

AI автоматизира хакерската работа

Изкуственият разум може да е инструмент за направата на безброй много версии на едно и също нещо – например едно измамническо писмо да има различно съдържание за различните получатели, обяснява Сергей Уласен, директор на AI разработките в компанията за киберзащита Acronis. Най-често хакерите използват изкуствен разум, за да модифицират съдържанието на фишинг-писма.

„На практика те си автоматизират „дребната” работа. Машинното самообучение създава много възможни вариации. Това не само работи по-добре сред жертвите, но и прави по-трудно откриването на зловредната същност на писмата”, казва Уласен.

В помощ на хакерите работят все повече и по-усъвършенствани AI механизми. Добре известен е например модулът GPT-3 – алгоритъм, способен да научава, обобщава и съставя текст като опитен редактор. Още през 2020 година той изуми учените и даже леко ги уплаши, като показа как може да пише статии, стихове и програмен код.

Най-често хакерите използват AI, за да модифицират съдържанието на фишинг-писма, сподели Сергей Уласен, директор AI разработки в Acronis (снимка: Benjamin Chia / предоставена от Acronis)

Разчитайки на силата на AI, хакерите могат да се прицелват в голям брой потребители на дигитални устройства, за да крадат пароли, номера на кредитни карти и каквато си поискат чувствителна информация. Характерно за писмата е, че приканват към действие – да кликнеш, да последваш линк, да въведеш име или код, да потвърдиш нещо. Всеки имейл е уникален.

„Инвестицията” на хакерите в AI дава резултати. До 30% от фишинг-атаките завършват с успех за хакера, споделя Александър Саад, консултант „модерно работно място” в Crayon България. По думите му, една неголяма фирма може да бъде атакувана със „скорост“ от 800 измамни писма всяка седмица!

В повечето случаи откраднатите данни не се използват непосредствено – поне не и от същите хакери, които са ги грабнали. Вместо това се създават огромни бази данни. Впоследствие те се продават на „борсата” на черната хакерска икономика. Тогава могат да послужат за измами, за искане на откуп, за криптоджакинг (нелегално използване на чужди компютърни ресурси за добиване на криптовалути).

„Алгоритмите за изкуствен интелект пестят на хакерите време. Така те могат да са по-ефективни в работата си. Факт е, че на своето занятие хакерите гледат като на бизнес и „инвестират” в хардуер, интернет свързаност и съхранение. Машинното самообучение им помага да атакуват огромен брой обекти – така те имат по-голям шанс да пробият на повече места, за да си възвърнат инвестицията”, обяснява Уласен.

Алгоритмите за машинно самообучение, които хакерите използват, боравят най-добре с най-популярните в света езици. Най-усъвършенствани са AI механизмите за „говорене” на английски и френски  – защото алгоритмите за превод са най-добре тренирани именно с документи на тези езици.

Това в известна степен може да спаси боравещите с по-малко популярни езици, но не е голяма утеха. Речта в писмото не е задължително да е съвършена, за да проработи атаката, предупреждава Уласен. В днешно време хората не четат дума по дума, а „сканират” с поглед писмата, очите им се плъзгат по редовете.

Нещо повече: на работното си място хората са по-склонни да се подадат на атака. Така е, защото за служебните комуникационни канали е нормално в тях да се появяват непознати и нови лица – например нов колега от друг отдел, нов счетоводител в партньорска фирма и т.н., посочва Саад. Така работещите хора лесно се подвеждат и с готовност изпълняват указанията от измамните писма.

AI защита на данните и потребителите

Добрата новина е, че силата на изкуствения разум работи и в обратната посока – за защитата на потребителите от злонамерените дейности на хакерите. Технологиите за предпазване разпознават фишинг писмата, като анализират няколко компонента: на първо място това е типичният призив за действие (покана да се въведе парола, да се кликне на линк и др.) – в съчетание с други елементи, като например адрес на подателя, време на изпращане и др.

За да може бизнесът да разчита на защита с вграден изкуствен интелект, е необходимо да инвестира по-сериозно, казва Александър Саад, консултант „модерно работно място” в Crayon България (снимка: личен архив)

„Ние в Acronis сме фокусирани върху защитата на данните. Използваме машинно самообучение, за да анализираме изменението на данните и потребителското поведение. Алгоритъмът се обучава да разпознава не зловреден код, а анормални ситуации. Важно е как се борави с информацията – къде се чете, колко често се достъпват дадени файлове, колко процеси вървят на устройството”, казва Уласен.

Интересно в случая е, че се анализират дори така наречените „доверени услуги”. Това са услуги, предоставяни от големи ИТ вендори, като например Microsoft. Към тях по подразбиране се подхожда с пълно доверие. Но злонамерените играчи са способни да инжектират „зараза” дори в доверените услуги. „Затова ние следим за подозрително поведение”, заключва Уласен.

Всичко това не означава, че платформата на Acronis прави индивидуално „трениране” на системата на база поведението на всеки отделен потребител. Това би било много ресурсоемко и би завзело изчислителните ресурси на потребителската техника. Затова се използват данни, събирани от огромния брой потребители на платформата по целия свят. Така се създава внушителен набор от данни (т.нар. dataset), чрез който изкуственият разум в системата се тренира максимално интензивно.

Обучението постоянно се усъвършенства, като тук помага събирането на обратна връзка от потребителите. В процеса на неговото усъвършенстване е впрегната и програмата за „потребителско преживяване”, чрез която се събират анонимизирани данни за дообучаване на изкуствения разум. В резултат на тези усилия грешките (фалшивите позитиви) се свеждат до минимум.

Подобна технология е крайно необходима за модерното работно място, без значение дали то се намира в нечии фирмен офис или е отдалечено, казва Александър Саад от Crayon България – компания за дигитална трансформация, която е партньор на Acronis и част от световния гигант Crayon Group Holding ASA.

За да може бизнесът да разчита на подобно ниво на защита обаче – с вграден мощен изкуствен интелект – е необходимо и да се инвестира по-сериозно. Обикновено това възпира някои потребители – особено такива с бюджетни ограничения. „Възможността да предложим на клиентите специални цени може да им позволи да се възползват от технологията за защита на база изкуствен разум”, допълва експертът.

В крайна сметка да се заложи на изкуствен разум в киберзащитата означава експертите по информационна сигурност да си освободят ресурса да мислят за цялостната „стойка” по отношение на инфозащитата, да подготвят бъдещите политики и стратегии.