Германски изследователи разработиха нова система за откриване на дийпфейкове, която използва необичаен подход. Вместо да анализира директно изображението за характерни артефакти, тя първо се опитва да го пресъздаде с помощта на генеративен изкуствен интелект, а след това сравнява резултата с оригинала.
Новата система, наречена RealorRender и създадена от от екип на Института Fraunhofer IOSB, може да разпознава изображения, генерирани от AI, с точност до 91%, като освен това показва кои области от кадъра са повлияли най-силно на нейното заключение.
AI разпознава AI
Принципът на работа е сравнително прост. Ако невронната мрежа успее да възпроизведе изображението с висока точност, това е индикация, че оригиналът вероятно също е създаден от генеративен модел.
RealorRender комбинира два независими метода за анализ. Първият използва алгоритми за класификация на изображения, базирани на дълбоко обучение. Вторият оценява т.нар. грешка при реконструкцията – разликите между оригиналното изображение и неговата повторно генерирана версия.
На базата на двата анализа системата изчислява вероятността изображението да е дийпфейк. Според разработчиците, базовата точност е около 85%, а при определени типове изображения достига над 91%.
Това не е “черна кутия”
Едно от основните предимства на RealorRender е, че не работи като “черна кутия”. Технологията използва методи от т.нар. обясним изкуствен интелект (Explainable AI – XAI), за да визуализира причините за своето решение.
С помощта на топлинни карти и сегментиране на изображението системата маркира зоните, в които е открила текстури, артефакти или други характерни признаци на изображения, генерирани от изкуствен интелект. Това позволява на анализаторите да разберат не само крайния резултат, но и как е достигнато до него.
Дийпфейковете – все по-голям проблем
Разработката идва на фона на рязкото увеличаване на съдържанието, създадено с генеративен AI. Според данни, цитирани от британското правителство, през 2023 г. само един от изследваните специализирани сайтове е съдържал над 276 000 очевидни дийпфейк изображения, като 96% от тях са били с участието на жени.
Отделно, сайтовете, предлагащи услуги за AI „събличане“ на снимки, са привлекли около 24 милиона посещения само през септември 2023 г. Именно заради подобни тенденции британските власти вече подготвят по-строги мерки срещу разпространението на подобно съдържание, особено когато са засегнати деца и непълнолетни.
Борба с измамите и злоупотребите
Според екипа на Fraunhofer, комбинацията от висока точност и възможността всяко решение да бъде обяснено прави RealorRender перспективен инструмент за откриване на изображения, генерирани от изкуствен интелект.
Подобни технологии могат да намерят приложение при разследване на онлайн измами, кражба на самоличност, изнудване, сексуална експлоатация, дезинформационни кампании и други престъпления, при които дийпфейковете все по-често се използват като средство за манипулация.
