Хората разпознават по-лесно фалшиви AI снимки, отколкото видео

Хората се справят значително по-добре с разпознаване на AI фалшификации в снимки, отколкото във видео-съдържание, според ново изследване. Едва 27% от зрителите успяват правилно да идентифицират синтетично видео, докато при фотографиите точността достига 53%. Данните подсказват, че с развитието на генеративния AI визуалната преценка сама по себе си вече не е достатъчна за надеждно откриване на манипулирано съдържание.

Проучването, проведено от Kantar сред 1000 британци на възраст между 18 и 64 години, показва и друг важен проблем. Познаването на понятието “майсторски фалшификат” / “дийпфейк” (“deepfake”) не води автоматично до по-добри резултати при разпознаването на фалшификати.

Общо 74% от анкетираните заявяват, че са запознати с понятието “майсторски фалшификат” или “дийпфейк” (deepfake). Въпреки това само 53% постигат резултат над нивото на случайното предположение при разграничаването на реално и AI-генерирано съдържание. Други 32% се представят под нивото на случайността, а едва 16% достигат най-високия диапазон на точност.

Изследването откроява ясно разминаване между усещането за увереност и реалните умения да се познае фалшификат. Около 44% от участниците смятат, че могат успешно да разпознават фалшифицирано съдържание, но близо 29% от тази група всъщност показват резултати под нивото на случайния избор.

Мъжете по-често заявяват увереност в способностите си – 52% в сравнение с 38% при жените. Реалната точност обаче остава почти идентична – съответно 53,1% и 52,7%.

По-младите участници се справят по-добре с различаването на нереалното визуално съдържание. Хората между 18 и 34 години е почти три пъти по-вероятно да попаднат в най-високата категория по точност спрямо групата над 45 години.

Изследването показва още, че дори навиците за проверка на информацията невинаги помагат. Участниците, които твърдят, че редовно сверяват съмнително съдържание с други източници, не постигат по-добри резултати от онези, които никога не го правят.

Сходна тенденция се наблюдава и при хората, които сами създават AI изображения или видео. Те са два пъти по-склонни да се определят като уверени в разпознаването на фалшиво съдържание – 63% срещу 32% при останалите. Тестовите им резултати обаче не показват реално предимство.

Най-сериозните затруднения идват при видеото. Само 27% успяват правилно да определят AI-генериран видеоклип, докато при съдържанието с разменени лица делът достига 41%, а при статичните снимки – 53%.

Според авторите на изследването, колкото по-реалистичен изглежда форматът, толкова по-трудно става разпознаването с просто око. Участниците най-често обръщат внимание на неестествена кожа, странни движения и аномалии в косата, зъбите или очите, но тези признаци имат слаба връзка с действителната точност.

Почти половината от анкетираните признават, че разчитат основно на интуицията си. Данните обаче не откриват съществена връзка между “усета” и способността за откриване на манипулирано съдържание.

Никой от участниците не постига максимален резултат. Най-доброто индивидуално представяне при самостоятелните визуални материали е 14 верни отговора от общо 16, а само петима души достигат 13 или повече правилни попадения. При директните сравнения между реално и AI съдържание едва 18 души успяват да отговорят правилно на всички осем задачи.

За целите на проучването участниците са разгледали 16 отделни изображения и видеа, разделени поравно между автентично и AI-генерирано съдържание, както и осем директни сравнения между фотографии, материали с размяна на лица и видео.

Участниците са били предварително осведомени, че част от материалите са генерирани от AI, което – според авторите – означава, че тестът отразява по-скоро оптимален сценарий, а не реалната онлайн среда.

Изследването регистрира и ниско доверие към онлайн платформите. Само 42% смятат, че платформите могат надеждно да идентифицират и обозначават AI съдържание. При хората над 45 години доверието спада до едва 22%. В същото време 58% вярват, че вече са попадали на “deepfake” съдържание онлайн, а 24% признават, че не биха разбрали дали това се е случило.

Притесненията около ефекта на синтетичните медии остават високи. Над три четвърти от участниците се опасяват, че технологиите за фалшификация могат да подпомогнат политическа дезинформация, измами, онлайн тормоз и постепенно да подкопаят доверието в дигиталното съдържание.

Резултатите ясно показват ограниченията на човешката визуална преценка, коментираха от Veriff, възложител на проучването. Компанията предупреждава, че с напредъка на генеративния AI манипулираното съдържание става все по-трудно за откриване чрез обикновено наблюдение.

Видео съдържанието създава особени рискове при дигиталната идентификация и онлайн транзакциите. Проблемът вече не се свежда само до това дали кадрите изглеждат реалистично, а дали могат да бъдат проверени техният източник и начинът на заснемане.

“Видеото създава парадокс. За хората движението прави синтетичното съдържание по-убедително. Лице, което се движи, мига и говори естествено, е много по-трудно за поставяне под съмнение в сравнение със статично изображение”, коментира Ира Бондар, ръководител на платформата за борба с измамите във Veriff.