Facebook – захарчето е вкусно, когато се дозира добре

Чрез социалната мрежа хора със сходни интересни могат да се самоорганизират с уникална скорост
(снимка: CC0 Public Domain)

Машина на самоунищожението – така е наречен един мисловен експеримент на някои от големите философи на новото време. Представете си устройство, построено с единствената цел да унищожи човечеството. То е заровено дълбоко под земята, но е свързано с компютър, който от своя страна е свързан към сензори в градовете по света. Сензорите слухтят за признаци на предстоящия апокалипсис – не да предотвратят края на света, а да го задействат…

Ако нивата на радиация предполагат ядрени експлозии в, да речем, три града едновременно, сензорите уведомяват машината на самоунищожението, която е програмирана да детонира няколко огромни ядрени бомби. В този момент вече няма връщане назад. Верижната реакция предизвиква атомна експлозия, която се инициира достатъчно пъти, за да опустоши целия живот на Земята. Ужасна светкавица, следва страхотен гръм, после отеква продължителен рев. Американците даже имат дума за мащаба на подобно унищожение – мегасмърт.

Мегасмъртта

като че ли не е това, което прави ужасяваща идеята за машината за самоунищожение. Кошмарът е в нейната автономност. Ужасът идва от това, че тя е програмирана да действа без човешка намеса. „Няма шанс за човешка намеса, контрол и окончателно решение от човеците”, пише военният стратег Херман Кан в своята книга от 1960 г. „Термоядрена война”, която излага хипотезата за машината за самоунищожение. Концепцията цели да направи ядрената война невъзможна за спечелване и следователно немислима.

Днес светът има своята реална машина на самоунищожението. Нарича се социална мрежа и си има своето име – Facebook, описва актуалната ситуация The Atlantic. Първоначалната идея на социалните мрежи звучи примамливо: да свързва хората е чудесно, нали? Но в реалността тя свързва не само съученици със съученици или любители-билкари с други любители-билкари.

Свързване на хора

Социалната мрежа прави точно това, за което е създадена. Тя не цели да търси истината, нито да подобрява гражданското здраве, нито да държи някого отговорен за казани нередни неща. Ранната мисия на компанията да „даде на хората силата да споделят и да направят света по-отворен и свързан” се случва, но без какъвто и да е морален смисъл. В резултат на това тя стои в основата на възхода на редица терористични организации.

Чрез социалната мрежа Facebook хора със сходни интересни могат да се самоорганизират с уникална скорост – доказателство за което са т.н. флашмоб акции – ала същото правят и общностите с нездрави намерения – структури за целенасочен тормоз, вербуване на терористи, емоционални манипулации и геноцид. Именно в социалната мрежа са катализирани акциите на „героите” в не един и два случая на стрелба по много хора на публични места, в църкви и училища например.

Неутралност

Дали Facebook е отговорна за това, което се случва? Дали нейният създател е отговорен? След продължителни спорове бе прието, че няма как да бъде отговорна компанията за това, което разни хора правят чрез връзките си, благодарение на социалната мрежа.

Неутралността на социалните мрежи е много удобна. Facebook и социалните мрежи като цяло нямат интерес да разрушават тематичните групи и вътрешните микро-мрежи в рамките на своите „общности”. Макар потребителите да са милиони, всеки участник е желан. Всяко нещо, което кара хората да са ангажирани, да стоят в социалната мрежа, да се връщат отново и отново в дадени групи – е желано от ръководството на платформата. Та нали така тя монетизира огромната си потребителска база?!

Нещо повече. Участието се стимулира. Ето, че има бутони за реакция, които насърчават потребителите да се ангажират лесно и често. Това от своя страна насърчава участниците да споделят идеи. Особено идеи, които да предизвикат силна реакция. Колкото по-невероятни са идеите, толкова повече са реакциите. А броят на реакциите е като наркотик.

През това време, докато човек клика върху бутоните за реакция във Facebook, алгоритъм записва всяко действие и рисува „портрета” на личността. Така могат да му се сервират още и още идеи, които да хареса.

Насочването на потребителите, станало възможно чрез трупането на купчини лични данни, създава идеалната среда за манипулация – от рекламодатели, от политически кампании, от всякакви особи и организации с най-различни мотиви. Така се обогатяват и обогатяват кръговете на потребителите, интересуващи се от дадена тема.

Може би един човек тук ще си представя групите на феновете на класическата музика и начина, по който те намират други групи за хубава музика, но по аналогичен начин се разпростират и общностите на „любителите” на убийства, групови изнасилвания и др. Макар да полага големи усилия да модерира съдържанието си, Facebook вече не е в състояние действително да филтрира всичко нередно.

Някъде по пътя към върха Facebook е решила, че се нуждае не само от много голяма потребителска база, а и от огромна, безпрецедентна по размер. Това решение е довело платформата до повратната точка, в която може да вреди на обществото само благодарение на своето съществуване. При съществуващия мащаб Facebook вече не може да спре разпространението на екстремизъм, пропаганда, геноцид.

Никой, дори Марк Зукърбърг, не може да контролира това нещо, започнало като ученически експеримент.

Колосално влияние

При подобен мащаб, какъвто има Facebook, влиянието на случващото се вътре е огромно. В крайна сметка днешните империи се раждат именно в мрежата. Facebook е наднационална държава без граници. Нейните „обитатели” са повече, отколкото населението на Китай и Индия, взети заедно. И всичко това се управлява до голяма степен от алгоритми, които никой от нас не разбира как работят. Социалната мрежа, пръкнала се като шега в главата на един отегчен студент една вечер, сега има огромно влияние над света по начини, които ние едва започваме да разбираме.

Тук никой от нас няма представа какво вижда и какво преживява който и да било друг потребител на същата платформа. Всеки е в своя добре филтриран „балон”. И всеки балон е различен.

Няма как който и да било от нас да знае докъде се разпростират мрежите на самоорганизиращите се терористи, наркопласьори и др. Няма как да знаем по какъв начин и на какъв принцип се поднасят предложенията за сродни по тематика подгрупи в стил „и това може да ви се хареса”.

Новият надзорен съвет на Facebook, създаден в отговор на реакциите срещу платформата и натоварен да взема решения относно модерацията и свободата на изразяване, е само продължение на тази колосална сила. Той няма да я смекчи, напротив. Първите 10 решения, които неговите членове вземат, ще имат по-голям ефект върху света, отколкото следващите 10 решения, постановени от което и да е национално правителство или върховен съд, или дори многонационална организация.

Безброй общности със собствен живот

Антропологът Робин Дънбар твърди, че 148 е максималният брой на стабилните социални връзки, които човек може да поддържа. Ако трябва да приложим същата логика към стабилността на социалната платформа, какво число бихме посочили? „Мисля, че сладкото място е от 20 до 20 000 души”, казва писателят и учен Итън Цукерман. „Трудно е да имаш някаква степен на реална свързаност след този праг”.

С други думи, ако числото на Дънбар за управление на компания или поддържане на сплотен социален живот е 150 души; магическото число за функционална социална платформа е може би 20 000 души. Сега Facebook има 2,7 милиарда потребители месечно. Социална мрежа ли е това?

От многото неща, които хората постоянно правят, опитите за надничане в бъдещето са някъде начело на списъка. Това поражда редица тревоги сред интелектуалци като Херман Кан и колегите му икономисти, математици и бивши военни офицери от Rand Corporation през 60-те години. Именно сред тях се ражда идеята за машината за самоунищожение. Стенли Кубрик заема същата идея през 1964 година с филма „Доктор Стрейнджлав”.

Но това, което се случва днес в интернет чрез социалните мрежи, е именно такъв механизъм на самозадействане и самоускоряване, в който никой от нас няма силите да устои на властта на манипулацията. Имаме една машина, която не можем да контролираме и на която е подвластен, общо взето, целият ни свят.

Всеки, който иска смекчаване на щетите, нанесени на човечеството от социалните мрежи, трябва да помисли да напусне Facebook и Instagram и Twitter и всяка друга алгоритмично изкривена информационна среда, която манипулира хората. Но дали това може да се случи наистина?

Андрю Босуърт, един от дългогодишните мениджъри на Facebook, сравнява Facebook със захарче, което е вкусно, когато се дозира добре. В бележка, първоначално публикувана във вътрешната мрежа на Facebook миналата година, той аргументира философията на личната отговорност.

Но способни ли сме на такава лична отговорност наистина?