Случаите на измами и „инциденти” с изкуствения разум сее увеличават с тревожно темпо (снимка: CCO Public Domain)
Разработването на системи с изкуствен интелект е надпревара, в която вече участват технологични организации от целия свят. С напредването на технологиите напредва и креативността на онези, които имат идея как да злоупотребят с всяка нова машинария, но паралелно с това се увеличава и броят на случаите на измами и „инциденти” с изкуствения разум.
Моден дизайнер от САЩ, например, направи дрехи, които лъжат системите за разпознаване на регистрационни номера на автомобили. По същото време трима потребители на умни фурни се оплакаха, че печките им се включват сами посред нощ. На фона на такива новини обаче дойде и съобщението, че САЩ разработват „умни” бойни ракети, които сами намират целта си…
Тениска с регистрационни номера
Системите за автоматично разчитане на автомобилни регистрационни номера могат лесно да бъдат излъгани с помощта на… фланелка. Или рокля. Или пък качулка. Това се видя на неотдавна провелата се конференция за киберсигурност DefCon в Лас Вегас.
Подвигът е на модната дизайнерка Кейт Роуз, която представи колекция от своята модна линия Adversarial Fashion. Роузи била вдъхновена от свой приятел, изследователя от Фондация електронни граници Дейв Маас, който споделил, че четците за регистрационни номера „четат какво ли не”.
Дизайнерката решила да се заиграе с това. Тя създала голяма тениска с правоъгълници, на които са подредени букви с жълт цвят. За човешките очи това са смислени думи. Заедно те формират цитат от т.нар. Четвърта поправка на Конституцията на САЩ.
Ала за системата за автоматично четене на регистрационни номера дрехата изглежда е колекция от регистрационни номера. Всички те ще бъдат добавени в базата данни на четеца. Системата „вижда” в дрехага регистрационен номер и, незнайно как, определя даже вида на превозното средство – мотоциклет или автомобил.
Проектът на Роуз не е самоцел. Освен да покаже уязвимостта на системите с изкуствен интелект, тя се надява да направи използването на този вид наблюдение по-малко ефективно, по-скъпо и по-трудно за използване без човешки надзор. Крайната цел е да се забави преходът към това, което Роуз описва като „събиране на данни за визуално идентифициране на личността”.
„Това е силно инвазивна система за масово наблюдение, която нахлува във всяка част от живота ни, събирайки хиляди записи всяка минута. Но ако тя може да бъде заблудена от парче плат, тогава може би не трябва да се допуска да използваме системи, които лесно могат да бъдат заблудени, за такива важни неща”, казва дизайнерката.
Друг експеримент с изкуствен интелект и регистрационни номера е дело на хакера Droogie, който описва как се е опитал да излъже системите за автоматично разпознаване на колите. Той поставил на регистрационната табела на автомобила си надписа „NULL” – кодът, използван в редица популярни системи за бази данни за представяне на празен запис.
Вместо да стане невидим за автоматичните броячи Droogie отчел почти „обратния” резултат: получил фишове за глоби в размер на общо 12 000. Всеки фиш за превишена скорост, за който системата не може да намери валиден съответен регистрационен номер, бил приписван на „празния запис”. В крайна сметка полицейското управление в Лос Анджелис отменило фишовете за хакера, но посъветвали младежа да смени експерименталните си регистрационни номера.
Това са само част от примерите за заигравка със системите за автоматично разпознаване. През 2016 г. берлинският художник и технолог Адам Харви пък създаде текстил, който лъже системите за лицево разпознаване. Платът е наречен Hyphen-Labs – с шарка, която на пръв поглед изглежда като абстрактна картина. Тя обаче е способна да заблуждава системите за лицево разпознаване.
Собственият живот на умните фурни
И ако дотук всичко изглежда почти като безобидна закачка (безобидна, докато някой не получи фишове за 12 000 долара), то една друга ситуация от последните месеци накара много хора да се замислят колко добри са системите за изкуствен интелект в ежедневието и доколко може да им се има доверие.
Оказа се, че поне три умни фурни от марката June са се включили сами, посред нощ, без знанието на собствениците си, загрявайки се до максималната възможна степен и оставайки включени в продължение на часове.
В първия докладван случай собственикът разбрал, че фурната му е включена, когато станал към 6:30 сутринта. Оказало се, че тя работи с пълни сили от 2:30 през нощта. Камерата в дома на човека е записала как фурната се включва и внезапно „светва” сред тъмната кухня. Собственикът казва, че съпругата му е изпекла пай около 23:30 часа вечерта преди случката и е изключила фурната, преди семейството да си легне.
Два други случая със среднощно включване на фурните се появиха в последния месец. Собственичката на едната машина коментира, че редовно изключва фурната направо от контакта, но във въпросната вечер не го сторила. Призори телефонът й зазвънял, уведомявайки я, че умната фурна вече е загрята и готова да пече храна. Дамата била силно изненадана.
Сега жената пита реторично какво би станало, ако фурната й реши да се включи, докато семейството е далеч от дома по време на ваканцията си. Естествено, изключва я от контакта. Производителят на June отрече технологията да е виновна за случилото се и заяви, че причината за инцидентите е в самите собственици.
Докъде можем да стигнем
На фона на всичко това доста смущаващо звучи новината, че САЩ разработват ракети с изкуствен интелект, които сами ще намират целта си.
„Американската армия разработва артилерийски снаряд, снабден с изкуствен интелект, способен на по-точен огън на далечни разстояния. C-DAEM ще може да намира и да се прицелва в движещи се превозни средства”.
Според описанието, този 155-мм артилерийски снаряд ще е способен да атакува движещи се бронирани „цели”. Снарядите ще бъдат изстрелвани чрез системата за командване и управление на армията, където наблюдател ще определя типа и местоположението на целта. След изстрелването сензорите на снаряда ще служат за търсене в определения район и, ако бъде намерена, целта ще бъде атакувана.
Новата система ще работи в райони, в които GPS сигналът е твърде слаб или изобщо не е наличен, за да гарантира, че оръжието може да удари целта си, съобщава New Scientist. Умните снаряди ще имат обхват до 60 км и ще могат да претърсват площ от над 28 кв. км в намиране на своите цели, пише още изданието.
Американската армия заяви още, че проектът C-DAEM включва „разработване и предоставяне на нови и подобрени боеприпаси, които ще осигурят силно смъртоносен ефект върху широк спектър от неподвижни или подвижни сложни цели, където точната им позиция е с висока степен на несигурност”.