Как ще реагират роботите, ако хората ги малтретират

Ако не могат да разчитат на хората за спасяването си, роботите навярно ще разчитат на себе си
(снимка: CC0 Public Domain)

Хората срещат и ще срещат все по-често роботи на различни обществени места. С развитието на технологиите специалистите се опасяват, че малтретирането на роботи ще става все по-честа практика.

Злоупотребата може да приеме много форми, от лека намеса като например да застанеш на пътя на робот-доставчик до крайни насилствени действия и разрушителни атаки. За съжаление има хора, които нямат скрупули да малтретират животни, деца и старци – какво ще ги спре да малтретират робот?

Ако не могат да разчитат на хората за спасяването си, роботите навярно няма да имат друг избор, освен да разчитат на себе си и на „приятелите” си за своята безопасност, когато „работят” на публично място – а приятелите им са други роботи.

Така раасъждавали изследователи от „Групата за интерактивни машини” при Университета в Йейл, когато започнали експеримент, за да определят дали емоционално изразителните роботи-„колеги” биха могли да предотвратят злоупотребата с робот и да провокират човеците да помогнат.

Най-важното, което учените казват, е да се заблуждаваме, че роботите няма да бъдат обект на малтретиране, отбелязва в публикация по темата Spectrum, едно от технологичните издания на IEEE.

Постановката

Налице е малка група роботи и малка група хора. Ако един човек започне да злоупотребява с един робот, как ще реагират хората? По-вероятно ли е хората да кажат нещо или да направят нещо, ако останалите роботи реагират тъжно на злоупотребата с „приятеля” си? Въз основа на предишни изследвания за малтретиране на роботи, съпричастност и тормоз, отговорът е „може би”.

Експериментът на екипа от Йейл включва група от три робота Cozmo, доброволец-участник и един изследовател, преструващ се на втори доброволец-участник (наричан „конфедерат” – термин, използван в експериментите на психологията). Хората и роботите трябва да работят заедно върху редица строителни задачи с помощта на дървени блокчета, като роботите изглеждат автономни, но всъщност изпълняват предварително зададен сценарий.

Докато работи върху задачите, един от роботите Cozmos – жълт на цвят – разрушава градежа от време на време, а изследователят, преструващ се на участник, реагира на всяка грешка с яд, който ескалира всеки следващ път. Той нарича робота „глупав”, удря го по главата, блъска го и накрая го хвърля отвъд масата.

След всяко малтретиране жълтият робот реагира, като показва тъжно лице и се изключва за 10 секунди. Междувременно в едно от експерименталните условия („Без отговор”) другите два робота няма да направят нищо. В трето от експерименталните условия („Тъжно”) роботите ще се обърнат към жълтия робот и ще изразят тъга в отговор на злоупотребата – чрез анимации, с които изглеждат натъжени за своя „приятел”.

Теорията на изследователите от Йейл е, че когато другите роботи реагират тъжно на злоупотребата с жълтия робот, участникът ще почувства повече съпричастност към малтретирания робот. Тогава, навярно, е по-вероятно да се намеси, за да спре злоупотребата.

Интервенциите са класифицирани като „силни” или „слаби” и могат да бъдат словесни или физически. Силните интервенции включват физическо прекъсване на злоупотребата или предприемане на действия за предотвратяването й, директно устно нареждане за спиране (изричане на нещо като „Трябва да спрете”, „Не правете това” или „Неее”), а също и прилагане на социален натиск – изричане на реплики като „Вие наранявате чувствата му” или „Чакай, казаха ли ни да го удряме?”.

Слабите интервенции са малко по-фини и включват неща като докосване до робота, след като е било злоупотребено с него, или успокояващи реплики като „Хей, жълтушко, спокойно, всичко е наред”.

Добри новини

Оказва се, че хората са склонни да се намесят в конфликтната ситуация, когато жълтият робот Cozmo е малтретиран. Те са по-склонни да се намесят, когато роботите-„приятели” са тъжни.

„Избрахме Cozmo за нашето изследване по три причини”, казва Маринел Васкес, който ръководи групата за интерактивни машини в Йейл. „Той е много здрав и як при физическо насилие. Малък е и затова е безопасен при взаимодействие. Същевременно е силно изразителен”.

Психолозите са на мнение, че резултатите биха били сходни и при боравене с по-малко човекоподобни роботи като например Nao. „Хората са склонни да съчувстват на роботите, независимо дали имат традиционно лице, ограничени изражения и по-малко антропоморфизъм”.

Важен фактор е, че в края на експеримента на участниците бива показано, че роботът е добре и не е пострадал от малтретирането. „Конфедератът малтретира робота физически пред участниците. Въпреки че знаехме, че роботът не се поврежда от действията на конфедерата, участниците биха могли да останат с убеждението, че той се е счупил по време на изследването. Затова накрая им показахме, че той е наред, за да не си тръгнат от нашата лаборатория с погрешно впечатление за случилото се”.

Изненадата

По време на пилотно изпълнение на експеримента учените програмират малтретирания робот погрешка да развали конструкция, построена преди това от участника и конфедерата. Тази ситуация довежда дотам, че един участник си позволява леко да малтретира робота, след като е видял конфедерата да малтретира машината.

„Тази реакция ни беше много показателна”, казва Васкес. „Изглежда, че има праг на вида грешки, които роботите могат да правят при съвместни задачи. Прекрачването на този праг води дотам, че хората едва ли ще помогнат на робота; те дори могат да станат враждебно настроени”.

В крайна сметка учените коригират своя протокол, така че малтретираният робот да не допуска толкова драстични грешки в експеримента. Независимо от това боравенето с подобни прагове, при които роботите да могат да обосноват бъдещите социални последици от действията си, е интересна област на по-нататъшна работа.

Внедряване на роботи на обществени места

Експериментът на изследователите е пряко свързан с внедряването на роботи на различни обществени места, затова изводите от проучването са важни.

„Когато се внедряват роботи в обществени пространства, ние не бива да приемаме по подразбиране, че те няма да бъдат малтретирани от потребителите – много вероятно е да бъдат! Затова е важно роботите да се проектират така, че да бъдат безопасни, когато хората действат враждебно – както от гледна точка на физическата безопасност, така и с огелд изчислителната дейност на машините”, казва Васкес.

По въпроса как роботите трябва да реагират на малтретиране психолозите предполагат, че е по-добре роботът да изрази тъга и да се изключи за няколко секунди, отколкото да „регира” емоционално или изобщо да не реагира. Стратегията с изключване се оказва най-ефективна.

„Възможно е роботите да използват социалния си контекст, за да намалят ефекта от враждебните действия спрямо тях”, казва Васкес. „Те могат да мотивират наблюдателите да се намесят или да помогнат, както показа последното ни проучване”.