Изследователи от Япония и Германия разработиха нов метод за откриване на видеа тип „майсторски фалшификат“, който постига средна точност над 95% при тестове с утвърдени набори от данни. Вместо да търси визуални следи от манипулация, технологията анализира дали движенията на лицето съответстват естествено на речта на човека във видеото. Това позволява да бъдат разпознати и фалшификации, които остават незабелязани за повечето съществуващи детектори.
Генеративният изкуствен интелект вече създава изображения и видеоклипове, които трудно могат да бъдат различени от автентичните – дори от човешкото око. Това разширява възможностите за „легитимни“ приложения на технологията. Същевременно нарастват рисковете от дезинформация, кражба на самоличност и различни форми на онлайн измами.
Затова разработването на надеждни механизми за откриване на „дийпфейк“ съдържание се превръща в една от най-важните области в съвременната AI сигурност. Новият метод е разработен от международен екип учени от Университета в Токио и Института „Макс Планк“ по информатика в Саарбрюкен.
От пикселите към естествените движения
Повечето съществуващи системи търсят характерни визуални дефекти, които генеративните модели оставят във всеки кадър. Този подход обаче става все по-малко ефективен, тъй като алгоритмите за генериране на видео непрекъснато се усъвършенстват и постепенно елиминират подобни артефакти.
Новата система използва различен принцип. Вместо да анализира пикселите, тя оценява дали движенията на лицето са естествени и дали съответстват на звуковата информация във видеото.
Основата на разработката е масово използваният модел FLAME, който описва човешките лицеви изражения чрез 53 математически параметъра и намира приложение в компютърната графика и анимацията.
Изследователите предварително обучават модела с повече от 450 часа публично достъпни видеозаписи. По този начин системата се научава да предсказва какви лицеви движения би трябвало да съпътстват дадена реч само въз основа на аудиозаписа.
При анализа алгоритъмът сравнява прогнозните движения с тези, които реално се наблюдават във видеото. Ако между тях има съществени разлики, това е силен индикатор, че записът вероятно е манипулиран.
По-устойчив подход към новите технологии за измама
Досега най-прецизните системи за откриване на „дийпфейк“ обикновено използваха обучение с предварително означени примери, съдържащи както истински, така и фалшифицирани видеа. Подобни модели често постигат висока точност при познати техники за манипулация. Те обаче могат да се окажат прекалено специализирани и да се затруднят при среща с нови методи за генериране.
Новата разработка използва т.нар. самонаблюдавано обучение (self-supervised learning), при което моделът се обучава само върху автентични видеозаписи. Това го прави по-устойчив към непознати типове фалшификати, без да жертва точността на откриване.
Според авторите, това е първият подобен подход, който едновременно демонстрира висока надеждност и превъзхожда традиционните модели, обучени със специално подготвени набори от фалшиви видеа.
Системата може допълнително да бъде адаптирана към конкретен човек само с около една минута видеоматериал. Така тя се превръща в персонализиран инструмент за откриване на манипулации с неговото лице.
Успешен тест срещу видеа, създадени със Sora 2
При изпитванията новият метод достига средна точност над 95% върху няколко утвърдени еталонни набора от данни и надминава досегашните най-добри решения.
Особено показателни са резултатите при нов тестов набор, изграден с видеоклипове, генерирани от модела Sora 2 на OpenAI. Докато много от съществуващите детектори постигат резултати, близки до случайното познаване, новата система успява да идентифицира правилно почти 95% от манипулираните видеа.
Ограничения на технологията
Авторите подчертават, че методът все още има практически ограничения. Обучението му изисква значителни изчислителни ресурси и мощен хардуер, поради което засега не е подходящ за работа в реално време.
Въпреки това резултатите показват, че анализът на естествените лицеви движения може да се превърне в една от най-перспективните посоки за следващото поколение системи за разпознаване на майсторски фалшификации.
