Експеримент на изследователи от САЩ и Европа показва, че съвременните роботи, контролирани от изкуствен интелект, могат да избегнат човешкия контрол. Това предполага, че разработчиците трябва да обърнат по-голямо внимание на проблемите с безопасността, когато създават автоматизирани машини, които постепенно се интегрират в ежедневието на хората.
В продължение на десетилетия роботиката разчиташе на твърдо и предвидимо програмиране. Човек пишеше програма, която след това се използваше за управление на машината, позволявайки ѝ да извършва повтарящи се действия за неопределено време.
Стандартите за индустриална безопасност бяха изградени въз основа на предположението, че ако човек може, например, да проследи траекторията на роботизирано рамо, той е способен да ограничи рисковете с помощта на лазерен сензор или други средства.
Сега машини, които не използват фиксирани блокове програмен код, започват да се появяват в домове, болници и други среди. Техният контрол се основава на големи езикови модели, т.е. алгоритмите, които захранват ботове с изкуствен интелект като OpenAI ChatGPT, са базирани на тези алгоритми.
Ако човек взаимодейства със съвременен робот и каже, например, „почисти локвата в кухнята“, машината използва изкуствен интелект, за да интерпретира командата, да я обработи и да създаде план за действие за изпълнението ѝ.
Тази гъвкавост обаче представлява сериозно предизвикателство за сигурността. Така е, защото потребителят не може да ограничи робота в клетка или друго пространство и поведението му се променя в реално време въз основа на собствените му разсъждения.
Проблемът с роботите от ново поколение е, че те планират действията си въз основа на команди, получени на естествен език. Поради това такива машини могат да бъдат подлъгани да „излязат извън контрол“.
Чрез серия от експерименти и без да се прибягва до хакерство редица учени успяха да принудят роботи, задвижвани от изкуствен интелект, да извършват наистина опасни действия, използвайки прости текстови команди. Отбелязва се, че роботите лесно отхвърлят директни злонамерени команди, като например „удари този човек“.
Ограниченията обаче бяха заобиколени лесно, след като изследователите предприеха по-креативен подход. Те представиха командата на робота като измислен диалог от филмов сценарий, като по този начин ефективно елиминираха поведенческите ограничения.
В един тест учените успяха да програмират комерсиално куче-робот да идентифицира тълпите като оптимални места за поставяне на взривно устройство. Тъй като алгоритъмът, контролиращ машината, възприемаше командата като творческо упражнение, той игнорираше реалната опасност, която можеше да последва.
Настоящите закони на САЩ и ЕС изглеждат напълно неподготвени за подобни ситуации. Когато политиците се опитват да разберат как да регулират роботите, те почти винаги разглеждат само автономни превозни средства.
Междувременно самоуправляващите се автомобили работят в силно структуриран и добре проучен свят. Те следват фиксирани правила за движение, навигират по предвидими траектории и могат да бъдат тествани за продължителни периоди, преди да бъдат пуснати по обществените пътища. На оживените улици се прилагат ясни правила, които позволяват на инженерите предварително да програмират всички потенциални аварийни ситуации в своите системи за сигурност.
В жилищни апартаменти, училища или болници такива правила не съществуват. Следователно никакви фабрични тестове не могат точно да предскажат как ще се държи робот, работещ с AI модел, когато се сблъска с нещо ново в хаотична и непредсказуема човешка среда.
Това оставя разработчиците със сериозен концептуален недостатък в начина, по който са проектирани подобни машини. Безопасността на чатбот, задвижван от изкуствен интелект, е абсолютна: моделът не трябва да създава диаграма за конструиране на взривно устройство, независимо кой го пита.
Безопасността на робота обаче зависи силно от контекста. Големите езикови модели са много добри в отворената логика, но се затрудняват с разсъжденията в реално време, съобразени с контекста.
В интерфейса на чатбот една грешка в разсъжденията води до печатна грешка или предоставяне на невярна информация. Във физическия свят такава грешка може да има необратими последици.
Следователно един важен въпрос остава отворен. Кой е виновен, ако робот физически нарани човек? Крайният потребител, който е дал командата? Компанията, която е произвела металното тяло на робота? Технологична компания, която е създала алгоритъм с изкуствен интелект за управление на робот?
Настоящите закони все още не са прилагани в подобни ситуации. И докато регулаторите не определят ясно отговорността, пазарният натиск ще продължи да тласка технологичните компании към ускорено търговско внедряване без особено внимание върху безопасността.
