Колко невероятно реалистични стават фалшивите изображения

Няколко години ни делят от мига, когато AI ще произвежда изображения и видеоклипове, които да наводнят света ни с фалшива “реалност” (снимка: CC0 Public Domain)

Наскоро се разчу случай, в който млад строителeн работник прекалил с някои лекарства и в последвалата еуфория му хрумнало, че може да е забавно да използва AI генератора на изображения Midjourney, за да създаде фотореалистичен образ на папа Франциск, облечен в голямо бяло пухено яке в стил Balenciaga. Много хора видяха картинката в социалните мрежи. Те я помислиха за забавна и се зарадваха да я споделят. Повечето от тях вероятно нямат представа, че образът не е истински.

Това папата да е облечен в пухенка не е най-лошото, нито най-опасното приложение на фотореалистично изкуство, генерирано от изкуствен интелект, в което всеки може да създаде нови изображения чрез текстови подкани. Но то е пример колко добра става технологията! Тя се усъвършенства до такава степен, че на въдицата се хващат дори хора, които обикновено са по-проницателни относно разпространението на невярна информация онлайн.

Повратна точка

До известна степен настоящият момент е повратна точка във войната срещу погрешната и фалшивата информация. Сега трябва да осъзнаем, че дори хората, които водят тази война, могат неволно да помогнат за разпространението на дезинформацията, срещу която се опитват да се борят.

Не е само папата с пухенката. През последните две седмици видяхме няколко забележителни истории с AI изображения. Имахме фалшив арест на Тръмп и опит за бягство. Microsoft пусна своя Bing Image Creator в новите си базирани на AI търсачка Bing и браузър Edge, а Midjourney, известен със своите фотореалистични изображения, пусна най-новата си версия.

Накрая на всичко това идва и новината, че генераторите на изображения с изкуствен интелект стават все по-добри в рисуването на ръце. А това беше един от сигналните знаци за разпознаване дали изображението е фалшиво. Колкото и убедителен да изглежда един фотореалистичен AI-образ, обикновено ръцете го издават. Който знае къде да гледа, гледа как са изобразени ръцете.

Но скоро може дори да нямаме такава сламка. Ще се озовем в нов свят, където нямаме абсолютно никаква представа на какво можем да се доверим.

Легитимност отвъд текстовете

„Има го този проблем с текста и дезинформацията в социалните платформи: хората са приучени да бъдат скептични по отношение на текста“, казва Ари Лайтман, професор по цифрови медии и маркетинг в университета „Карнеги Мелън“. „Едно изображение… добавя известна легитимност в съзнанието на потребителя. Видеото означава повече вероятност да е вярно“.

Само за няколко години изображенията, генерирани от AI, изминаха дълъг път. В ранните версии това бяха алгоритми, които създават изображения, подобни на нещо, което сме им подали, но доста нескопосано подредени – подобни на рисунка на дете от детската градина.

После тези програми ставаха все по-добри и по-добри. Обучаваха се върху милиарди изображения, които обикновено бяха изкопчени от интернет без знанието или разрешението на оригиналните им автори.

През 2021 г. OpenAI пусна DALL-E, който може да прави фотореалистични изображения от текстови подкани. Това беше „пробив“, казва Уйлун Дю, докторант в лабораторията за компютърни науки и изкуствен интелект на MIT, който изучава генеративните модели.

Скоро фотореалистичното изкуство, генерирано от AI, се оказа не само шокиращо добро, но също така беше много достъпно. Dall-E 2 на OpenAI, Stable Diffusion на Stability AI и Midjourney бяха пуснати за широката публика през втората половина на 2022 г.

Етични опасения

Последваха очакваните етични опасения: от проблеми с авторските права до обвинения в расизъм или сексизъм, та даже и до възможността тези програми да оставят много художници без работа. Виждаме убедителни майсторски фалшификати, използвани за разпространение на дезинформация. И въпреки че кадрите са много добри, те все още не са перфектни.

Но като се има предвид колко бързо напредва технологията, не е неоснователно да се предположи, че скоро ще достигнем момента, когато изображенията, генерирани от AI, и реалните изображения ще са напълно неразличими.

Прочута е, например, работата на Ник Сен Пиер. Сен Пиер е 30-годишен мъж, който работи в областта на продуктовия дизайн. Прекарал е последните няколко месеца, показвайки своите супер-реалистични творения чрез изкуствен интелект, и обяснявайки как ги е направил.

Сен Пиер казва, че няма художествените умения да композира сам тези образи, но е развил умение да ги генерира чрез Midjourney. Използва точно този генератор, защото смята, че това е най-доброто съществуващо решение. През януари Сен Пиер всеки ден се е занимавал по 12 часа с Midjourney. Сега той може да създаде нещо подобно само за около два часа.

Смесване на реалностите

„Когато видите цифрово изображение в интернет и то е генерирано от изкуствен интелект, може да е красиво, но Ви шокира“, казва Сен Пиер. „Но когато видите изображение, което е толкова реалистично и си кажете „Еха, това е красиво“ – какво чувствате, когато Ви кажат впоследствие, че е дело на AI? Кара те да поставяш под въпрос цялата си реалност“.

Дю от Масачузетския технологичен институт смята, че ни делят поне няколко години от това изкуственият интелект да може да произвежда изображения и видеоклипове, които да наводнят света ни с фалшива информация.

Струва си да се отбележи, че колкото и реалистични да са образите на Сен Пиер, те също са крайният продукт на стотици часове обучение. Папата с пухенката е направен от човек, който казва, че си „играе“ с Midjourney от миналия ноември. Така че това не са изображения, които всеки може просто да завърти без какъвто и да е предишен опит. Лайтман от Карнеги Мелън казва, че сега въпросът е дали ще сме готови за тази възможност.

Компаниите-създатели на алгоритмите с AI и платформите, които хостват такива системи, е заричат да направят всичко възможно да не стигне до проблем със смесване на реалностите. Видно е, че се стараят. Всеки си има свои собствени правила за това какво е позволено или не. Някои решават, че техните AI няма да показват изображения на хора. Други забраняват определени части от тялото.

Платформите за социални медии се борят от години, за да намерят начин да се справят с разпространението на невярна информация. Те също не изглеждат много добре подготвени да се справят с майсторските фалшификати.

Пауза в AI разработките?

Ето, че наскоро мнозина технологични лидери подписаха писмо, в което се настоява за шестмесечен мораториум върху разработването на по-модерни модели на AI. Това е добър знак, но пък не е решение, което да е правно обвързващо. Нито пък е подписано от всички в бранша.

Реалността е, че колкото и да се стараем да постъпим етично и да предпазим широката общественост, това е почти невъзможно. Ако последните няколко години са ни научили на нещо, то е, че докато много хора смятат, че фалшивите новини са истински проблем, те често не се интересуват или не знаят как да проверят дали това, което четат/виждат, е истинско – особено когато тази информация отговаря на собствените им убеждения.

И има хора, които са достатъчно доволни да приемат това, което виждат, за чиста монета, защото нямат времето или знанията да поставят под въпрос и да проверят.

Надпреварата, изглежда, е в това да се намери някакво решение на проблема, преди AI-генерираните изображения да станат достатъчно добри, за да са неразличими от действителността. Дотогава, ако видите в социалните мрежи изображение на папа Франциск, който се разхожда из Рим в дънки Gucci, помислете си за момент, преди да споделите яката снимка.

Коментар