Разработките на дийпфейк и AI предизвикаха вълна от дезинформация и объркване
(снимка: CC0 Public Domain)
Измамното съдържание, или т.нар. дълбоки фалшификати (дийпфейк), се разпространява все по-интензивно и причинява щети на бизнес организациите. Ето защо е важно компаниите да изградят стратегия за защита и реакция срещу дийпфейк. Ето как да започнете.
AI-генерираното дийпфейк съдържание е евтино, сравнително лесно за създаване, но може да навреди на репутацията на всяка компания. Тази заплаха е сериозен проблем, който става все по-голям с лесния достъп до AI инструменти и услуги.
Достъпна технология за измами
„Част от проблема е, че е трудно да се класифицира намерението”, казва Ари Лайтман, професор по дигитални медии в колежа по информационни системи и публична политика на университета Карнеги Мелън в интервю за Information Week. „В много случаи те [дийпфейковете] са умишлено създадени да измамят по политическа, идеологическа или финансова причина – в други случаи намерението е по-трудно да се оцени”.
Технологията дийпфейк напредна бързо, което прави все по-трудно разграничаването между истинско и манипулирано съдържание, казва Роб Рендел, глобален ръководител на пазарната стратегия за измами и предотвратяване на измами в NICE Actimize – доставчик на поддръжка за съответствие с финансовите престъпления.
„Това крие сериозни рискове за различни аспекти на обществото, включително политиката, бизнеса и личната репутация”, обяснява той. „Разработките на дийпфейк и AI предизвикаха вълна от дезинформация и объркване, като много потребители станаха жертва на телефонни обаждания, генерирани от AI”.
Технологиите се демократизираха до степен, в която практически всеки може да създаде приемлив фалшификат с потребителски компютър или смартфон и интернет връзка, отбелязва Арик Атар, старши изследовател за разузнаване на заплахи в доставчика на технологии за сигурност Radware. „Бързо се приближаваме към ера, в която аудиовизуалното съдържание вече не е присъщо надеждно”.
Множество заплахи
Дълбоките фалшификати могат да навредят на предприятията по няколко начина. „Те могат да навредят на репутацията на компанията или нейните ръководители, като разпространяват невярна информация или създават фалшиви видео или аудио записи”, казва Рендел. „Дийпфейк може също да се използва за представяне на служители, ръководители или клиенти, което води до измамни дейности или вредни взаимодействия”.
Рендел класифицира дийпфейк в четири основни категории:
Подмяна на лица. Замяна на лицето на един човек с друг във видеоклипове или изображения.
Синтез на глас. Генериране на реалистична реч от текст с цел създаване на фалшиви аудио записи.
Контекстуална манипулация. Промяна на контекста на видео или аудио клип, за да се промени неговото значение или последици.
Дийпфейк на цялото тяло. Създаване на напълно фалшиви видеоклипове на хора, участващи в дейности, в които никога не са участвали.
Изправени пред комбинация от публикации в социалните медии, обществена поляризация и ерозия на доверието, марките сега се стремят да наблюдават възприемането на своята онлайн марка, като същевременно трябва да се справят с погрешните схващания, казва Лайтман.
„В много случаи сатирата чрез AI може да бъде объркваща като информация и да доведе до последствия в реалния свят”, отбелязва той. Междувременно използването на дийпфейк AI за представяне на марка често успява да измами служителите и да компрометира потенциално чувствителна информация.
Тактики за превенция
Предотвратяването или бързото неутрализиране на дийпфейк изисква многостранен подход, казва Рендел. „Това може да включва прилагане на механизми за удостоверяване за проверка на автентичността на медийното съдържание, обучение на служителите и клиентите за съществуването на дийпфейк и как да ги разпознават, разработване на усъвършенствани технологии за идентифициране и смекчаване на разпространението на дийпфейк съдържание”.
Както ръчните, така и автоматизираните методи могат да помогнат за откриване на дълбоки фалшификати чрез анализиране на неестествени движения, визуални артефакти, аудио изкривявания, контекстуални неточности и други, казва Атар.
„Базираните на AI системи за откриване могат да идентифицират фалшификати в големи набори от данни, но това е надпревара във въоръжаването, тъй като създателите на дълбоки фалшификати се учат да преодоляват несъвършенствата”, коментира Атар.
Той предупреждава, че според някои експерти по сигурността настоящите методи за откриване на дийпфейк ще бъдат ненадеждни в рамките на 12 до 18 месеца.
Ограничаване на щетите
Сега и в близко бъдеще ИТ лидерите могат да предприемат проактивни стъпки за смекчаване на въздействието на дълбоките фалшификати чрез прилагане на стабилни мерки за контрол на измами във всичките им канали за транзакции. „Това включва наличието на нива на контрол за измами на всеки етап от транзакцията, от започване до завършване, и гарантиране, че тези контроли работят в реално време”, казва Рендел.
Чрез непрекъснато наблюдение на транзакциите за подозрителна дейност, откриване на аномалии и навременна намеса, когато е необходимо, организациите могат ефективно да намалят цялостното си излагане на риск от финансови измами,
„Освен това, инвестирането в усъвършенствани технологии, като системи за откриване на измами, задвижвани от AI и методи за биометрично удостоверяване, може допълнително да засили способността на предприятието да открива и предотвратява опити за измами, активирани от дийпфейк”, допълва Рендел.
Отстраняването на щетите, причинени от дълбока фалшива атака, може да бъде предизвикателство, казва Дамир Дж. Брешич, CISO в доставчика на технологии за сигурност и услуги Inversion6.
„На компаниите може да се наложи да инвестират в усилия за връзки с обществеността, за да възстановят репутацията си, да предоставят компенсации на засегнатите страни и да работят с правоприлагащите органи, за да държат нападателите отговорни”, обяснява той. „От съществено значение е да се възприеме проактивен подход към киберсигурността и да се инвестира в необходимите инструменти и обучение, за да се предотврати появата на атаки с дълбоки фалшификати”.
Ключът е в бързата реакция
Ключът към ефективната защита от атаки с дълбоки фалшификати е да действате бързо и решително – като пожарникарски екип, който бърза да ограничи пожара, преди той да се разпространи извън контрол, казва Атар. Колкото по-дълго се разпространява непроверена невярна информация, толкова повече щети може да причини, отбелязва той. „Организациите се нуждаят от система за бързо реагиране, готова при първите признаци на дим”.