От невинните детски видеа до педофилията има няколко клика

Родителите имат от какво да се безпокоят, когато децата им публикуват видео в социалните мрежи (снимка: CCO Public Domain)

YouTube няма да деактивира алгоритъма си за препоръки на видеоклипове с участието на деца, въпреки че те улесняват педофилите в интернет, разбраха мнозина родители тези дни. Видно е, че решенията на големия видео-канал са трудни и „танцуват” върху острието, което дели бизнес-интересите от етиката, пише Ню Йорк Таймс.

Кристина Ц. не подозира нищо, когато 10-годишната й дъщеря и приятелката й качват в YouTube видеоклип, в който се вижда как двете цамбуркат в басейн в двора на дома. „Видеото е невинно, не е голяма работа”, казва си Кристина.

Няколко дни по-късно дъщеря й споделя вълнуващите новини: видеото има хиляди посещения. Не след дълго то вече е гледано 400 000 пъти – зашеметяваща бройка за видео на дете в бански костюм и приятелката й. „Гледах видеото отново и се уплаших от броя на посещенията”, казва Кристина, цитирана в публикация на Ню Йорк Таймс.

И тревогата й не е без основание. Автоматизираната система за препоръки на YouTube – която управлява повечето от милиардите гледания на видео в платформата – е започнала да показва видеоклипа на потребители, които са гледали други видеоклипове на деца – водени от нездрав интерес. Тези хора са търсили еротично съдържание с участието на деца, които са частично облечени.

Мъгляв алгоритъм на препоръки

YouTube предлага на всеки посетител видеоклипове от целия си архив, като нерядко гледането на деца в басейн в двора на къща е просто едно от множеството безобидни домашни видеа на радостни и нищо неподозиращи семейства, казват изследователи. В много случаи обаче алгоритъмът на видеоканала насочва към подобни видеоклипове потребители, които преди това са гледали друго: сексуално съдържание. Резултатът е, че – според експертите – така се сексуализират децата.

„Алгоритъмът на YouTube свързва тези записи”, казва Джонас Кайзер, един от трима изследователи от Центъра за Интернет и общество „Харкърд Клейн”, който се е натъкнал на видеоклиповете, докато изследва влиянието на YouTube в Бразилия. „Това е страшно нещо”.

Видеото на дъщерята на Кристина е промотирано от системите на YouTube месеци след като компанията е била предупредена, че има проблем в случая. През февруари обаче вече има доказателства, че злонамерени субекти са използвали секцията с коментари, за да насочват и други педофили към въпросното съдържание.

През февруари YouTube опредли проблема като много тревожен и деактивира коментарите на много видеоклипове с участието на деца. Ала системата за препоръки, която остава действаща, продължава да събира десетки такива видеоклипове и да ги предлага на огромната аудитория. И не е много ясно точно как избира да ги лансира.

Прогресия в предложенията

Потребителите, включително и тези с нездрави интереси, не трябва да търсят видеоклипове на деца, за да ги гледат. Платформата сама им ги предлага.

Последователността е лесна: потребител, който гледа еротични видеоклипове, получава препоръка за видеа с участието на жени, които стават забележимо по-млади във всеки следващ клип, а след това и жени, които предизвикателно се представят в детски дрехи. В крайна сметка някои потребители могат да получат предложения за видеоклипове на момичета на възраст между 5 и 6 години, които носят бански костюми.

Нещо повече – в структурата на предложенията има елемент на засилване на екстремността. Например, ако някой гледа видеа на тема велосипеди, предложенията ще започнат с обикновени записи на каране на колело и постепенно ще стигнат до оферти за опасни вело-каскади.

Сам по себе си всеки видеоклип може да бъде напълно невинен, може да е малък домашен филм, заснет от дете. Но, групирани по описания начин, те придобиват нов смисъл. „Наистина се страхувам от това” – казва Кристина.

Опит за ограничаване

В отговор на редица запитвания по проблема YouTube решава да премахне някои видеа с подобно съдържание, но остават много други – включително такива, качвани от фалшиви акаунти.

Самата система за препоръки също бива променена, макар че YouTube твърди, че това вероятно е резултат от рутинни промени в алгоритмите, а не от умишлена промяна на политиката.

Дженифър О’Конър, продуктов директор на YouTube по доверието и безопасността, казва, че компанията е решена да спре експлоатацията на деца в своята платформа и работи без прекъсване за подобряване на правоприлагането. „Защитата на децата е на първо място в нашия списък”, казва тя.

Бизнес-интереси

Въпреки това няма никаква гаранция, че системата за препоръки няма да лансира отново видеоклипове с деца пред очите на педофилите. Компанията заявява, че именно препоръките са най-големият фактор за генериране на трафик във видео-канала. Те са генератор на 70% от трафика на сайта.

Нещо повече: премахването на дадени елементи от съдържанието може да навреди на „създателите” на записи. Това е цяла екосистема от „партньори”, които целенасочено се занимават със снимане на домашни клипове и публикуването им, защото от това изкарват пари.

Компанията казва само, че ще ограничи препоръките по отношение на видеоклипове, които – според фирмата – поставят деца в риск.

Прогресията доказана

Кайзер и екипът му – с участието на колегите Язодара Кордова и Адриан Раухфлейш – експериментират с YouTube препоръки. Сървърът им отваря видеоклипове, след което следват най-добрите препоръки на YouTube за това какво да се гледа. Изпълнението на този експеримент хиляди пъти позволява на учените да създадат нещо като карта на начина, по който платформата насочва своите потребители.

Следвайки препоръките за гледане на клипове със сексуално съдържание, учените забелязват, че в много случаи видеоклиповете стават все по-странни или по-екстремни, поставяйки по-голям акцент върху младостта. Видеоклипове на жени, обсъждащи секс, например, понякога водят до видеоклипове на жени в бельо или кърмещи, където момичетата понякога споменават своята възраст: 19, 18, дори 16 години.

Някои жени приемат дарения от „чичковци” или приканват да се гледат техни „лични” видеоклипове, където са съвсем голи. След няколко клика някои от тях се преструват на деца, позирайки в детско облекло. Оттам насетне лесно се стига до клипове с истински деца, например по бански.

Язодара Кордова, която изучава разпространението на онлайн порнография, казва, че е наясно какво става. Всеки отделен видеоклип може да е съвсем невинен – може би качен от родители, които искат да споделят филми от семейството си. Но алгоритъмът на YouTube, отчасти чрез обучението на потребителите, които търсят еротично съдържание, скоро „надушва” видеоклиповете и ги третира като дестинация за хората със съвсем различен вид интерес.

Нормализиране

Механизмът увлича лесно и неусетно. „Това е невероятно мощно средство и хората просто потъват”, казва Стивън Блументал, психолог от Лондон, който се занимава с хора с девиантни сексуални интереси и поведение. Прогресията, с която се стига от еротично съдържание с възрастни до детските записи, размива границата на нередното. Постепенно се изличава границата на непоносимостта към педофилията, казва психологът.

„Това е процес на нормализиране”, обяснява и Маркус Роджърс, психолог от Пърдю, който изследва детската порнография.

Много от хората, достигнали до подобно съдържание, просто го подминават. Но има и такива, които ще потърсят детето от клипа, ще поискат да чатят с него, да го заприказват, казва Роджърс. Такива хора подканват децата да позират, да се снимат, да правят все по-сексуализирани снимки – и да ги записват и публикуват.

Родителите имат от какво да се безпокоят. Засега Кристина е забранила на дъщеря си да публикува видео в платформата за видео. Но дали това е достатъчно?