Бумът в „производството“ на майсторски фалшификати доведе до същинско цунами от измами с образите на знаменитости, предупреждават експерти по сигурността. Фалшификатите идват във вид на видео и аудио в социалните медии и изглеждат като автентично участие на популярни хора.
Може да се смята, че „производството“ на дийпфейкове надхвърля 8 милиона файла за 2025 г. Тази цифра представлява шестнадесеткратно увеличение спрямо 2023 г., предупреди компанията за киберсигурност isFake.ai.
Европол пък издаде отделно предупреждение относно по-широката информационна среда. Според него, до 90 процента от онлайн съдържанието навярно да бъде генерирано от ботове към края на 2026 г.
Съдържанието с „участие“ на знаменитости е особено рискова област, тъй като изображения и видеоклипове на публични личности вече разпространяват широко онлайн, предупреди isFake.ai.
Измами
Налице е структурна промяна в начина, по който работят измамниците с образите на знаменитости. Измамите са се променили и вече не са дребномащабни имитации, а са съвсем координирани операции, които използват няколко системи с изкуствен интелект едновременно.
Боравенето с високите технологии е забележително: възможно е една система да събира фонова информация за целите, докато друга създава синтетично видео или глас, а трета система да съчинява или да коригира съобщенията въз основа на реакцията. isFake.ai описа резултата като „кампании, които се провеждат непрекъснато и се реализират с течение на времето“.
„Виждаме как измамите се изместват от изолирани имитации към координирани системи с изкуствен интелект, които се учат и адаптират“, казва Олга Скряба, специалист по откриване на изкуствен интелект и ръководител на продуктовия отдел в isFake.ai. „Това прави измамите със знаменитости по-устойчиви и по-трудни за разбиване“.
Справянето с проблема е трудно предизвикателство, защото публичните личности са „достъпни“ навсякъде – техните кадри са налични из всякакви канали. Измамниците могат да се възползват от легитимни интервюта, клипове и публикации в социалните мрежи, когато сглобяват своите кампании.
Човешка преценка
Подобренията в клонирането на глас и видео синтеза са намалили надеждността на човешката преценка. Дори добре обучени професионалисти могат да се затруднят да идентифицират манипулациите без специални инструменти.
Скряба свързва това предизвикателство с начина, по който хората консумират онлайн съдържание. „Проблемът не е само в по-добрите фалшификати“, каза тя. „Съдържанието, основано на изкуствен интелект, се публикува и консумира в пространства, предназначени за бързина и емоционално ангажиране, като социални медии или новинарски емисии, кратки филми, видеоклипове и др“.
Освен това хората онлайн просто „превъртат“, без да спрат да проверяват фактите, без критична оценка – те рядко се спират, за да се запитат дали това, което виждат, е автентично.
„В този контекст границата между реалното и изкуствено съдържание се размива, защото синтетичното съдържание се появява все по-често, така че хората са спрели да го забелязват или да го поставят под въпрос“, каза Скряба.
Предупредителни знаци
Измамите с майсторски фалшификации често комбинират убедително мултимедийно съдържание с добре познати тактики на социалното инженерство. Заявките, свързани с пари, спешност или секретност, остават често срещани сигнали за измама, дори когато видеото или аудиото изглеждат реалистични.
Знаци като например получаването на лични съобщения от профили на знаменитости би трябвало да породят съмнение у хората. Обичайно известните особи не пишат лично на феновете си, не им искат пари, не търсят инвестиции или взаимоотношения чрез непоискани директни съобщения.
Ако подобни знаци не породят достатъчно съмнение, то методите на плащане са друг индикатор. Подаръчни карти и криптовалута? Това трябва да ни подскаже, че нещо не е наред. Измамническите искания обикновено са настоятелни, изискват бързи действия и секретност – това са „постоянни модели“.
Измамите могат да бъдат под формата на публични промоции, както и на лични разговори. Рекламите, които използват лицето или гласа на знаменитост, за да промотират „инвестиционни възможности“ или медицински продукти, са основание за скептицизъм, особено из платформи като Facebook и Instagram.
За ситуации, когато се говори за особено висок залог, хората трябва да проверяват твърденията чрез независими канали. „Тъй като синтетичното съдържание става все по-често срещано, проверката трябва да се превърне в базов навик“, каза Скряба. „Цената на допускането, че нещо е истинско, е просто твърде висока“.
