Изкуствен интелект чисти Facebook от вредно съдържание

Изкуственият интелект играе специална роля в политиката на Facebook относно забраненото съдържание (източник: CCO Public Domain)

Изкуственият интелект (AI) играе специална роля в политиката на Facebook относно забраненото съдържание. Без него компанията не би могла да се справи с филтрирането на огромния обем от съдържание, става ясно от доклад на социалната мрежа за първото тримесечие, публикуван тази седмица.

Реч на омразата, насилие, трафик на наркотици и оръжие, сексуална експлоатация и друго неподходящо съдържание е блокирано от изкуствения интелект, преди някой случаен потребител да го види в социалната мрежа. Според Facebook, AI и машинното обучение са помогнали да се намали значително обема на забраненото съдържание в мрежата.

В шест от деветте категории, наблюдавани в доклада, Facebook е успяла – с помощта на изкуствения интелект – предварително да открие 96,8% от неприемливите публикации и да ги изтрие преди някой да ги е забелязал (в сравнение с 96,2% през 4-то тримесечие на 2018 г.), съобщи Venture Beat.

Що се отнася до агресивните изявления, в доклада се казва, че изкуственият интелект сега помага да се идентифицират 65% от над четири милиона подобни съобщения, изтривани от Facebook всяко тримесечие, в сравнение с 24% преди една година и 59% през четвъртото тримесечие на 2018 г.

Facebook също така използва AI за идентифициране на съобщения, лични реклами, снимки и видеоклипове, които нарушават правилата за реклама и продажба на забранени стоки като наркотици и огнестрелни оръжия. През първото тримесечие на 2019 г. компанията е предприела действия срещу 900 000 публикации, свързани с продажба на наркотици, от които 83,3% са открити с помощта на изкуствен интелект.

През същия период Facebook е открила и премахнала около 670 000 публикации за продажба на огнестрелни оръжия, от които 69,9% са били обработени, преди модераторите или потребителите да могат да се сблъскат с тях.

Различни подобрения в алгоритмите на изкуствения интелект са довели до намаляване на общия обем забранено съдържание, преглеждано във Facebook. Компанията твърди, че на всеки 10 000 посещения в социалната мрежа само 11 до 14 потребители се сблъскват с порнографско съдържание, а само 25 могат да забележат публикации, съдържащи жестокост и насилие.

Що се отнася до тероризма, голотата на децата и сексуалната експлоатация, тези цифри са дори по-ниски. Facebook съобщава, че през първото тримесечие на 2019 г. на всеки 10 000 прегледа в социалната мрежа по-малко от три се натъкват на подобно съдържание.

„Благодарение на проактивното проследяване на постове с нарушения, технологията позволява на нашия екип да се съсредоточи върху идентифицирането на тенденциите в начина, по който нарушителите се опитват да заобиколят ограниченията”, коментира вицепрезидентът на Facebook по сигурността Гай Розен.

Друга област, в която Facebook използва изкуствен интелект, е откриването на спам акаунти. На годишната конференция за разработчици F8 в Сан Франциско Майк Шрофе, технически директор на компанията, съобщи, че Facebook е блокирала над един милиард спам акаунта, повече от 700 милиона фалшиви акаунта и десетки милиони фрагменти, съдържащи голи тела и насилие.

Според него, AI е основният източник на откриване и противодействие в тези категории. Ако говорим за точни числа, Facebook е блокирала 1,2 млрд. акаунта през 4-то тримесечие на 2018 г. и 2,19 млрд. през първото тримесечие на 2019 г.