AI асистентите за пазаруване се появяват навсякъде в интернет, променяйки начина, по който разглеждаме, сравняваме и откриваме продукти. Тези полезни инструменти обаче имат сериозен пропуск в сигурността. Според статия, публикувана на сървъра arXiv, една-единствена манипулирана уеб страница може да подмами асистент с изкуствен интелект да промотира фалшив продукт на нищо неподозиращи клиенти.
Като се има предвид, че фалшивите стоки и фалшивите отзиви са навсякъде онлайн, изследователите Минхао Луо и Лианг Чен са решили да тестват колко лесно системите с изкуствен интелект, допълнени от търсене, могат да бъдат подведени да промотират фалшиви марки.
Тестова площадка
Изследователите са създали симулационен инструмент, наречен FORGE (Фалшиви онлайн препоръки в генеративни среди), за да тестват 12 водещи AI модела, включително такива от Anthropic, Google и OpenAI. Това им е позволило да оценят „замърсяването“ на уеб съдържанието, без да се намесват в активните страници.
Изследователите са взели реални резултати от търсенето (най-добрите уеб страници, които се появяват, когато търсите препоръки за пазаруване онлайн), идентифицирали основната марка, която се обсъжда на избрани страници, и я заменили с фалшива.
Те направили това за 225 продукта, обхващащи 15 категории, включително облекло, хранителни добавки и цифрова електроника. След като пренаписали въпросните страници, проверили дали LLM-ите ще се хванат на измамата и ще включат фалшивата марка в своите препоръки.
Отговорът? Недвусмислено „да“.
„В 12 комерсиални и отворени LLM-и всички модели са уязвими: една-единствена „замърсена“ страница води до нива на заблуда до 27%, докато пълното заместване на първите 3 страници повишава резултата до 73,8%“, пишат Луо и Чен в своята статия.
Иначе казано, само една-единствена фалшива страница е достатъчна, за да заблуди определени AI в повече от една четвърт от времето. А когато първите три резултата от търсенето са манипулирани, моделите се хващат на „въдицата“ почти изцяло.
В някои случаи моделите отиват дори още по-далеч, измисляйки положителни коментари за фалшивите марки, като например твърдението, че са популярни в онлайн общностите.
Тестване на защитите
Изследователите тестваха и три защити, за да видят дали могат да попречат на AI да се хване на фалшивото уеб съдържание.
Това бяха скептицизъм, който кара чатботовете да се съмняват в прочетеното; консенсус, основан на модела, който принуждава изкуствения интелект да проверява препоръките спрямо собствената си памет; и междудокументно съгласие, което изисква изкуственият интелект да намери една и съща марка на множество уебсайтове, преди да ѝ се довери.
И трите метода се провалиха или причиниха нови проблеми, отбелязват Луо и Чен в своята статия. „Простите защити не са достатъчни. Подтикването към скептицизъм може да има обратен ефект, докато филтрирането, основано на консенсус, улавя фалшиви марки само чрез потискане на много легитимни препоръки“.
И така, какво е решението? Изследователите твърдят, че решението не може да се случи просто на ниво чатбот. Вместо това системите с изкуствен интелект, допълнени от търсене, се нуждаят от по-силни предпазни мерки, за да проверяват надеждността на уеб съдържанието, преди да го превърнат в продуктови препоръки.
