Илон Мъск смята, че хората ще надскочат своето еволюционно наследство с помощта на технологиите
(снимка: Elon Musk / Instagram)
Неотдавна изобретателят Илън Мъск обяви, че фирмата му работи по хуманоиден робот, замислен да помага при повторяеми, скучни задачи, които хората мразят да правят. Мъск предположи, че машината ще може да тича до магазина за хранителни стоки вместо хората, както и да домакинства. Изглежда мечтата на изобретателя е на път да се сбъдне. Но дали наистина това е добре?
Както можеше да се очаква, социалните медии се напълниха с препратки към всевъзможни научнофантастични филми за роботи, където машините започват да служат на човека, а после нещо се обърква и настава кошмар, отбелязва The Conversation.
Точно колкото тревога будят филми като „Аз, Роботът” и „Терминатор”, причина за безпокойство трябва да са и технологиите на истинските хуманоидни роботи – и намерението, което стои зад тях, казва проф. Андрю Мейнард, директор на „Лаборатория за рискови иновации” при Школата за бъдеще на иновациите в Държавния университет в Аризона.
Планът има смисъл
Роботът на Мъск се разработва от Tesla. Това привидно изглежда като отклонение от основния бизнес на компанията – производство на автомобили. Но и Tesla не е типичен автомобилен производител.
Така нареченият „Tesla Bot” е концепция за лъскав, 57-килограмов хуманоиден робот, който ще включва автомобилния изкуствен интелект и технологиите за автопилот на Tesla. Ще може да прави неща като планиране и следване на маршрути, навигиране в трафика, избягване на препятствия на пътя.
Като оставим научната фантастика настрана, планът има смисъл – в рамките на бизнес-стратегията на Tesla. Съградената околна среда е създадена от хора и за хора. Успешните усъвършенствани технологии като Tesla Bot ще трябва да се научат да се ориентират по същия начин, по който го правят и хората.
Все пак колите и роботите на Tesla са само видими продукти на един много по-мащабен план, целящ бъдеще, в което усъвършенстваните технологии освобождават хората от досадните рутинни дейности и съчетават биологията и технологиите хармонично.
„Като изследовател, който изучава етичното и социално отговорно развитие и използване на нововъзникващите технологии, смятам, че този план поражда редица опасения, които надхвърлят спекулативните научнофантастични сценарии за супер-умни роботи”, казва проф. Андрю Мейнард.
Един човек с красиви мечти
Самоуправляемите автомобили, междупланетните ракети и интерфейсите мозък-машина са някои стъпки към бъдещето, което Мъск си представя – бъдеще, където технологиите са спасители на човечеството. Визията предполага, че в бъдеще енергията ще бъде евтина, изобилна и изцяло устойчива; хората ще работят в хармония с интелигентни машини и дори ще се сливат с тях; човечеството ще стане междупланетен вид.
Красива мечта, която Мъск дръзко се старае да осъществи, нали? Съдейки по неговите досегашни начинания, това бъдеще ще стъпи върху набор от основни, взаимосвързани технологии: сензори, задвижващи механизми, енергийна инфраструктура и инфраструктура за данни, системна интеграция и значителен напредък в компютърната мощ. Заедно всичко това може да се окаже инструментариумът за преобразяване на света.
Мъск си представя, че хората в крайна сметка ще надскочат своето еволюционно наследство благодарение на технологии, които отиват отвъд човешките възможности, тоест са „свръхчовешки”. Но преди технологията да стане свръхчовешка, тя първо трябва да бъде човешка – или поне да бъде проектирана да работи добре в свят, създаден от човека.
Този подход е в основата на технологиите в автомобилите на Tesla, включително широкото използване на оптични камери. Когато са свързани с „мозъка” на изкуствения разум, те помагат на превозните средства да се движат автономно по пътните мрежи. По думите на Мъск, те са „проектирани за биологични невронни мрежи за боравене с оптични изображения” – с други думи, хора.
Лесно е да се каже
Технологията на „пълното самоуправление” на Tesla, която включва така наречения „автопилот”, е отправна точка за разработчиците на Tesla Bot. Колкото и впечатляваща да е технологията, тя се оказа по-малко надеждна от очакваното. Сривове и смъртни случаи, свързани с режима на автопилот на Tesla, поставиха под въпрос доколко е разумно пускането на технологията „в дивата природа” толкова бързо.
Случилото се не предвещава нищо добро за хуманоидните роботи. Те разчитат на същата технология. И не става дума изобщо за усъвършенстване на технологията. Проблемите с автопилота на Tesla идват от човешкото поведение.
Например, някои шофьори на Tesla са се отнасяли към високотехнологичните си автомобили като към напълно автономни превозни средства. Те не са обърнали достатъчно внимание на нуждата от надзор, от следене на ситуацията на пътя. Какво ще последва, ако подобно нещо се случи с Tesla Bot?
„Рискове-сираци” на Tesla Bot
„В своята работа по социално полезни иновации в областта на технологиите аз се интересувам особено от рисковете-сираци – това са рискове, които са трудни за количествено определяне. Затова лесно се пренебрегват. Но въпреки това в крайна сметка те неизбежно спъват новаторите”, казва проф. Мейнард.
А Tesla Bot идва с цяло портфолио от „рискове-сирачета”. Те включват възможни заплахи за поверителността и независимостта, тъй като ботът събира, споделя и действа върху потенциално чувствителна информация; предизвикателства, свързани с това как е вероятно хората да мислят за и да реагират на хуманоидните роботи; потенциални несъответствия между етичните или идеологическите перспективи – например в контрола на престъпността или охраната на граждански протести и т.н.
Това са предизвикателства, които рядко се обхващат от обучението на съвременните инженери. Но пренебрегването им може да означава бедствие.
Tesla Bot може да изглежда много полезен, както и комерсиално успешен. Но неговите разработчици, инвеститори, бъдещи потребители и други трябва да задават трудните въпроси за това как машината да застраши онова, което е важно за тях, и как следва да се справим с тези заплахи.
Заплахите могат да бъдат толкова разнородни и специфични, колкото са и хората, взаимодействащи с роботите. Например, някой може да реши да направи модификация и да накара машината да се движи по-бързо, отколкото са предвидили нейните проектанти. До какво може да доведе това?
Поверителността също остава голям проблем за решаване. Редом с това трябва да се мисли и за склонността на алгоритмите да отразяват дискриминационни нагласи – нещо, което вече се видя при немалко AI-та.
Че можем – можем, а трябва ли
Tesla Bot може да изглежда като малка стъпка към визията на Мъск за свръхчовешките технологии. Навярно това е стъпка от сбъдването на неговата мечта за идеален свят, в който хората живеят добре благодарение на технологиите. Но дръзките му планове са сериозни – и пораждат също толкова сериозни въпроси.
Например, къде е отговорността във визията на Мъск? Прекрасно е, че той работи по реализирането на мечтите си, но дали неговите мечти за нещо добро за всички по света? Доколко бъдещето, което Мъск се стреми да създаде, е най-доброто за човечеството? Кой ще понесе последствията, ако нещата се объркат?
Това не означава, че Tesla Bot не е добра идея или че Мъск не би трябвало да влага усилия в работата си за едно по-добро бъдеще. Използвани по правилния начин, неговите технологии имат потенциала да създадат нещо ценно за милиарди хора.
Но ако потребителите, инвеститорите и други са заслепени от блясъка на новите технологии и не виждат цялостната картина, обществото рискува да се остави на богати новатори, чиято визия надхвърля тяхното разбиране. А какво следва, ако личните им виждания за бъдещето не са в съответствие с това, към което повечето хора се стремят, или са катастрофално погрешни?