Изследователи доказаха колко лесно е да се заличи цифров воден знак в изображение (снимка: CC0 Public Domain)
Може би най-смразяващият аспект на AI е способността му да генерира майсторски фалшификати. Сега се оказа и, че цифровите водни знаци не са надеждна защита – те могат лесно да се преодолеят.
Съвсем наскоро актьорът Том Ханкс се обърна към социалните медии, за да осъди реклама, използваща негово подобие, генерирано от AI, за насърчаване на план за дентално здраве. Известен автор на видео пък беше лъжливо показан да предлага iPhone 15 Pro за по два долара.
На прицел са и обикновените граждани. Лицата на все повече хора се появяват в изображения в социалните медии без тяхното съгласие. Най-смущаващо е увеличаването на случаите на „порно за отмъщение“, при което изоставени любовници публикуват изфабрикувани изображения на свои бивши партньори в компрометиращи или неприлични сцени.
Един ключов подход за борба с майсторските фалшификати е използването на воден знак върху съдържание, генерирано от AI. Ала статия, публикувана на 29 септември на сървъра за предпечат arXiv, известява за тревожни новини за способността да се ограничат цифровите злоупотреби.
Професори от университета в Мериленд са провели тестове, демонстриращи лесно обикаляне на защитните водни знаци. „В момента нямаме надежден воден знак“, казва Сохейл Фейзи, един от авторите на доклада „Устойчивост на детекторите на изкуствени изображения: фундаментални ограничения и практически атаки“. Фейзи посочва, че екипът му е успял да „счупи всички“.
Екипът използвал процес, наречен дифузионно пречистване, който прилага шум на Гаус към водния знак и след това го премахва. Изображението е съвсем леко променено, така че картината преминава алгоритмите за откриване. Останалата част от изображението е само минимално променена.
Все пак Фейзи споделя известен оптимизъм. „Въз основа на нашите резултати, проектирането на стабилен воден знак е предизвикателна, но не непременно невъзможна задача“, каза той.
Засега хората трябва да извършват надлежна проверка, когато преглеждат изображения, съдържащи съдържание, което може да е важно за тях. Необходими са бдителност, двойна проверка на източниците и добра доза здрав разум.