Едно фалшиво видео с „лицето” на коя да е личност отнема около 5 минути за рендериране (снимка: CC0 Public Domain)
Всички са чували за майсторски фалшификати – умело направени имитации, които са трудни за различаване от оригинала. Оказва се, че с помощта на AI се генерират фалшиви записи, снимки и видеозаписи, които ловко могат да надхитрят биометричните системи за сигурност – особено тези за лицево разпознаване.
15 минути запис на нечий глас е напълно достатъчен, за да можем посредством AI да направим негов „клонинг”. Който го чуе, ще се закълне, че е слушал истинския човек, на когото принадлежи гласът, каза Паула Янушкевич, основател и главен изпълнителен директор на специализираната компания за сигурност CQure. Тя заинтригува аудиторията на CEE Cybersecurity Forum 2024, организиран от ИТ консултантската компания Crayon във Варшава, с разкритията за „тъмната страна” на технологичния свят.
Няма пречка да се генерира каквато и да било реч с нечий глас, ако някой има запис с автентичния глас, заяви Янушкевич. 15 минути запис е предостатъчно, да се доловят и откопират особеностите на говора, интонацията, дори акцентът.
„Че кой има толкова запис на нечии глас? Ето, един лектор по време на презентация може да говори между 20 и 40 минути. Но не само лекторите могат да бъдат записвани. Когато говорите с някой служител в кол-център, навярно първо чувате, че „този разговор се записва”. Замисляте ли се какво става с този запис после? Къде отива той? Кой и как го използва? Каква е сигурността в компанията, която записва?”, попита Паула.
Същото се случва и със снимките, дори с видеото. Когато видим фалшиви кадри, трудно можем да познаем, че пред очите ни е оригиналът. „Има един тон програми, с които може да се направи имитация”, каза Янушкевич.
Биометриката е под заплаха, можем лесно да надхитрим системите за лицево разпознаване, предупреди Паула Янушкевич, основател и главен изпълнителен директор на CQure
(eкранна снимка: CEE Cybersecurity Forum)
Някои записи са свободно достъпни в интернет. Други са платени. За кибернападателите цената е изгодна, защото е от порядъка на 4 долара на час. Едно фалшиво видео с „лицето” на коя да е личност отнема около 5 минути за рендериране – това ще струва около 20 долара. „За 6 часа можем да генерираме видео с имитация на някого, който „говори” и жестикулира няколко минути”, показа Янушкевич със собствения си образ, имитиран от AI.
Всичко това значи, че биометриката е под заплаха. Можем лесно да надхитрим системите за лицево разпознаване. Малко по-трудно – и системите за гласово разпознаване. А този вид проверки са входна точка за доста устройства и системи. Най-трудни за имитиране, според Янушкевич, остават пръстовите отпечатъци.
Успоредно с това генеративните инструменти са експлоатирани и за „сложни”, усъвършенствани фишинг атаки. Чрез обществено достъпните инструменти за генериране на текст можем да създадем убедително фалшиво съобщение и да го изпратим като писмо. С малко рафиниране посланието може да стане абсолютно убедително.
Същите генеративни инструменти се използват и за писане на зловреден код. Въпреки старанията на разработчиците да предотвратяват злонамерената употреба на създаваните AI инструменти, всеки от тях се развива постоянно.
„Можеш да подадеш добре премислена подкана и да получиш изпълним код. Може да е грозен, но работи! Можеш да го тестваш и да го коригираш, ако трябва. Умело проектираният промпт може безпроблемно да подкани алгоритъма да пише зловреден код”, демонстрира Янушкевич.
От друга страна, атакуващите имат премного мотиви да използват AI в своята „работа”. Бързината е водещ мотив – всяко фалшиво писмо или видео се генерира бързо. Авторът на „проекта” не се уморява – за разлика от екипите по сигурност, които често прекарват безсънни нощи, хакерът се наспива пълноценно. Освен това алгоритмите се самообучават и се самоусъвършенстват постоянно.
Физически AI инструментът е далеч – той не е в собствената къща на злодея, а е някъде „в облака”. Най сетне – евтино е. Какво са 20 долара за фалшиво видео, което може да накара главния счетоводител на голяма корпорация бързо да ти преведе няколко милиона, мислейки си, че действа по нареждане на шефа…
