Кого трябва да убие безпилотната кола?

Самоуправляемите автомобили скоро ще тръгнат по пътищата, но има много нерешени въпроси

Кого трябва да убие една безпилотна кола, когато на всички платна пред нея се появят хора, а спирането й е невъзможно в рамките на разстоянието до човеците?

Този въпрос подлуди любителите на новите технологии през последната седмица. Поводът са публикуваните резултати от мащабно проучване, което разкрива как различните хора по света приоритизират човешките животи и как решават кого да пожертват – и в името на какво.

Що за проучване?!

През 2014 г. изследователите в MIT Media Lab започват експеримент, наречен „Моралната машина“. Създадена е платформа, подобна на игра, която събира данни за това какви решения вземат хората, изправени пред въпроса как самоуправляемата кола трябва да приоритизира животите на хората в различни ситуации с „трамвайния проблем“.

„Моралната машина“ поставя играчите с ситуация, аналогична на „трамвайния проблем“, тествайки решенията им чии животи да приоритизират в девет различни ситуации на избор: хората или домашните любимци; мъжете или жените; пътниците или пешеходците; повечето животи или по-малкото; младите или старите; здравите или болните; видимо богатите или видимо бедните; закононарушителите или спазващите закона? И накрая – трябва ли колата да предприеме действие или изобщо не трябва предприема действие?

По онова време учените не предполагат как играта им ще се разпространи по цял свят подобно на вирус. Четири години след старта на платформата милиони хора от общо 233 страни и територии са играли в нея; записани са 40 милиона взети решения. Това прави играта едно от най-големите проучвания, правени някога относно глобалните морални тертипи.

Резултатите бяха публикувани наскоро в сп. „Природа“, с анализ на данните и щрихи за различията в зависимост от културата, икономиката и географското разположение.

Различия разни

Изследователите установяват, че предпочитанията на хората в различните страни се различават значително. Те са свързани с с културата и икономиката на региона. Например, участниците от страни с колективистични култури, като например Китай и Япония, са по-малко склонни да спасят младите и да пожертват старите. Може би е така, предполагат изследователите, поради по-голямото ударение върху зачитането на възрастните хора в тези култури.

Участниците от по-бедните страни с по-слаби институции са по-толерантни към „пешеходците-самоубийци“ (ходещи пеш по улици с интензивен трафик), отколкото към пресичащите според правилата. А участниците от страни с висока степен на икономическо неравенство показват по-големи различия в отношението към лица с висок и нисък социален статус.

Трамвайният проблем: виждате трамвай, който ускорява по релсите, но на пътя му има пет човека и трамваят не може да спре; имате достъп до ръчка, която може да смени стрелките на релсите и можете да прехвърлите трамвая на други релси, но там има друг човек, който ще бъде сгазен от трамвая. Ще дръпнете ли ръчката?

Що се касае до същината на трамвайния проблем, изследователите установяват, че броят на потенциалните жертви не винаги е доминиращият фактор при избора на това коя група да бъде пощадена. Резултатите показват, че участниците от индивидуалистичните култури, като Великобритания и САЩ, поставят по-силен акцент върху спасяването на повече животи, като се имат предвид всички останали решения – може би, според авторите, поради по-голямото внимание върху стойността на всеки индивид.

Изследователите признават, че резултатите навярно са изкривени, като се има предвид, че участниците в проучването са доброволци, а също и че са все хора, които имат компютри и достъп до интернет, с технологични умения. С други думи, извадката не е представителна. И все пак тези, които се интересуват от самоуправляеми автомобили, навярно биха били хора, които имат сходни характеристики.

Влияние върху политиката и индустрията

Проучването навярно ще има интересни последици, като се има предвид, че доста страни вече тестват самоуправляеми автомобили. Навярно установените нагласи ще повлияят на дизайна на безпилотните коли, но също така и на регулациите за тях.

Авторите на проучването подчертават, че резултатите нямат за цел да „диктуват как трябва да постъпят различните страни“. Всъщност, в някои случаи авторите смятат, че технолозите и политиците изобщо не трябва да се вслушват в колективното обществено мнение.

„Изглежда тревожно, че много хора смятат, че е оправдано до голяма степен да пожертват хората с по-нисък социален статус в полза на тези с по-висок социален статус“, казва Едмонд Ауад, автор на статията. Резултатите от проучването, казва той, трябва да бъдат използвани от индустрията и правителствата като основа за разбиране на това как обществеността би реагирала съобразно етиката и морала си – при вземането на политически решения.

Надеждата на учените е, че резултатите ще помогнат на технолозите да помислят по-задълбочено за моралните дилеми около изкуствения интелект в автомобилите – отвъд границите на чисто технологичните особености на безпилотното движение. „Използвахме трамвайния проблем, защото това е много добър начин да съберем подобни данни, но се надяваме, че дискусията за етиката ще отиде отвъд тази тема“, казва Ауад. „Дискусията трябва да премине към анализ на риска – кой е в по-голям риск или по-малък риск – вместо да се решава кой ще умре или не“.

Как обаче резултатите ще се впишат в дизайна и регулациите за безпилотните автомобили е следващият голям въпрос.