Метапространствата ще имат нужда от големи екипи от охранители, които да се грижат за опазване на спокойствието и доброто преживяване (снимка: CC0 Public Domain)
Компаниите за социални мрежи все още не са намерили адекватни механизми за предпазване от опасно съдържание, а ето, че метапространството вече набира скорост. Как ще се предпазваме от агресията в новите виртуални светове?
Рави Йеканти слага хедсета си, за да отиде на работа. Прави това всеки ден, но никога не знае какво ще му се случи през часовете, прекарани във виртуалната реалност. Кого може да срещне? Дали ще достигне до него детски глас с расистка закана? Ще се опита ли някоя карикатура да го удари?
Йеканти наглася обемистите очила, докато седи на бюрото в офиса си в Хайдерабад, Индия, и се подготвя да се потопи в „офис“, пълен с анимирани аватари. Работата му е да гарантира, че всички в метапространството са в безопасност и си прекарват добре. И той се гордее с това.
Нова професия
Младият човек е представител на една нова професия, дошла с възхода на новите технологии: VR модератор метапространството. Дигиталната безопасност в тази виртуална зона е като дива джунгла. Изобилства от сексуални посегателства, тормоз и атаки към деца. Този проблем става все по-спешен след решението на Meta да намали възрастовия минимум за своята платформа Horizon Worlds от 18 на 13 години. Изглежда, че има и набор от функции и правила, предназначени да защитят по-младите потребители. Все пак някой трябва да наложи тези правила и да гарантира, че няма агресори, които заобикалят правилата. Но винаги ще има особи, които ще се опитат…
Йеканти работи като модератор и мениджър на обучение във виртуална реалност от 2020 г. и се е заел с тази дейност, след като е вършил „традиционна“ работа по модериране на текст и изображения в социални мрежи. Нает е от WebPurify – компания, която предоставя услуги за модериране на съдържание на интернет компании като Microsoft и Play Lab. Младежът работи с екип, който се намира в Индия. Неговата работа се извършва предимно в масови платформи за метапространство.
Дългогодишен интернет ентусиаст, Йеканти споделя, че обича да си слага VR хедсета, да се среща с хора от цял свят и да дава съвети на създателите на метапространства как да подобрят своите игри и виртуални „светове“. Той е част от нова професия – тази на VR модераторите, които защитават безопасността в метавселената като частни охранителни агенти, взаимодействащи с аватарите на много реални хора, за да открият нередно поведение във виртуалната реалност. Всъщност той не разкрива публично статуса си на модератор. Вместо това действа под прикритие. Представя се за обикновен потребител, за да може да е свидетел на нарушенията от първо лице.
Засега традиционните инструменти за модериране, като AI филтрите за определени думи, не сработват добре във виртуалните светове. Затова модератори като Йеканти са основният начин за осигуряване на безопасност в дигиталния свят. Работата им става все по-важна с всеки изминал ден.
Безопасността на метапространствата
Проблемът с безопасността на метапространствата е сложен. Журналисти съобщават за случаи на обидни коментари, измами, сексуални нападения и дори отвличане. Най-големите виртуални платформи старателно крият статистиката си за лошото поведение напотребителите. Но Йеканти казва, че всеки ден се сблъсква с нарушения, за които следва да се докладва.
Meta отказва да коментира такива въпроси, като само посочва, че има списък с инструменти и политики за безопасност, както и че е обучила специалисти по безопасност в Horizon Worlds. Говорител на Roblox пък казва, че компанията има „екип от хиляди модератори, които следят за неподходящо съдържание 24 часа в денонощието, 7 дни в седмицата и разследват доклади, изпратени от общността“.
„Социалните медии са градивният елемент на метапростраснтвото и ние трябва да третираме метапространството като еволюция – като следващата стъпка на социалните медии, а не като нещо напълно отделно“, казва Хуан Лондоньо, политически анализатор във Фондация информационни технологии и иновации – мозъчен тръст във Вашингтон.
Но като се има предвид завладяващата природа на метапространството, много инструменти, създадени за справяне с милиардите потенциално вредни думи и изображения в двуизмерната мрежа, не работят добре във VR. Живите модератори се Модераторите се оказват сред най-важните решения.
Случаите, в които възрастни хора с хищнически намерения се опитват да създадат връзки на доверие с малолетни, е сред най-големите предизвикателства. Технологиите не могат да филтрират и предотвратяват тази злоупотреба проактивно. Остава потребителите да докладват за лошото поведение.
„Ако една компания разчита на потребителите да докладват за потенциално травматични неща, които са им се случили, или за потенциално опасни ситуации, вече е твърде късно“, казва Делара Деракшани, адвокат по поверителност, който е работил в Meta’s Reality Labs до октомври 2022 г. „Тежестта не трябва да пада върху децата – а и до момента на съобщаването потенциална травма или щета е вече нанесена.“
Първа линия на модерацията
Поглъщащият характер на метапространството означава, че поведението при нарушаване на правила е многоизмерно и е трудно да бъде уловено в реално време.
WebPurify, която доскоро се фокусираше върху модерирането на онлайн текст и изображения, сега вече предлага услуги за компании за виртуални светове – от началото на миналата година. Наскоро фирмата привлече бившия ръководител на дивизията по онлайн безопасност на Twitter – Алекс Попкен. „Мислииим как да контролираме VR и AR, което е нещо като нова територия, защото наистина гледате човешкото поведение на живо“, казва Попкен.
Служителите на WebPurify са на първа линия в тези нови киберпрестъпления, а коментарите с расистко и сексуално съдържание са най-често срещани. Йеканти казва, че една модераторка от неговия екип е говорила с потребител, който е разбрал, че е индийка, и е предложил да се ожени за нея в замяна на крава.
Други инциденти са по-сериозни. Друга модераторка от екипа на Йеканти се натъкна на потребител, който отправил силно сексуализирани обиди, споменавайки полови органи. Веднъж потребител се приближи до модератор и сякаш го хвана за гениталната област. (Потребителят твърди, че иска да даде пет.)
Модераторите следват подробни политики за безопасност, които очертават как да се хващат и докладват нарушения. Една игра, върху която модераторският екип работи, стъпва на политика, която определя защитени категории хора: те са определени от характеристики като раса, етническа принадлежност, пол, политическа принадлежност, религия, сексуална ориентация и бежански статут. Йеканти казва, че „всяка форма на негативен коментар към тази защитена група ще се счита за омразна“. Модераторите биват обучавани да отговарят пропорционално, като използват собствената си преценка. Това може да означава заглушаване на потребителите, които нарушават правилата, премахването им от играта или докладването им на компанията.
Освен много ясна преценка, модераторите трябва да се отличават и с висока емоционална интелигентност. Освен това трябва да са с много широка обща култура. Очакванията относно междуличностното пространство и физическите поздрави, например, варират в различните култури и потребители.
Противопоставяне
Работата на модераторите се случва под прикритие, така че потребителите да не променят поведението си, защото знаят, че взаимодействат с модератор. Но модерирането означава и още нещо – противопоставяне на очакванията относно поверителността на потребителите.
Ключова част от работата е „проследяването на всичко“, казва Йеканти. Модераторите записват всичко, което се случва в играта от момента, в който се присъединят до момента, в който напуснат, включително разговорите между играчите. Това означава, че те често се вслушват в разговори, дори когато играчите не знаят, че са наблюдавани и подслушвани.
„Ако искаме платформите да имат практическа роля по отношение на безопасността на потребителите, това може да доведе до някои компромиси с поверителността, за които потребителите може да не се чувстват комфортно“, казва Лондоньо.
Деракшани, бившият адвокат на Meta, казва, че се нуждаем от повече прозрачност за това как компаниите се справят с безопасността в метавселената.