Нова система, разработена от корейския институт KAIST и Microsoft Research, показва дали изкуственият интелект е допуснал грешка по отношение на самата цел или на метода за постигането ѝ – без да е необходима нито една дума от страна на човека.
Изследователи от Корейския институт за напреднали науки и технологии (KAIST), в сътрудничество с Microsoft Research Asia, създадоха невронен интерфейс, наречен Neural Value Alignment (NVA). Той е способен да разчита мозъчните реакции при погрешни действия на модел с изкуствен интелект.
Системата, базирана на електроенцефалография (ЕЕГ), регистрира характерни модели на мозъчна активност, възникващи, когато изкуственият интелект преследва грешна цел или избира неподходящ метод за постигането ѝ. Това позволява на алгоритъма да коригира поведението си без нужда от вербална обратна връзка.
Предизвикателството е в наличието на двусмислие: едно и също действие може да служи за различни цели, а една цел може да бъде постигната по различни начини.
Например, ако човек вземе чаша, той може да възнамерява да пие от нея, да я измие или да я подаде на някого другиго. Ако целта е утоляване на жаждата, човек може да вземе чаша, да посегне към бутилка или да помоли някого за напитка. Наблюдавайки единствено действието, моделът не може надеждно да определи какви точно са намеренията на човека.
Екипът се фокусира върху два типа грешки в мозъчните прогнози: грешка в прогнозирането на възнаграждението (RPE) – несъответствие по отношение на целта или резултата – и грешка в прогнозирането на състоянието (SPE) – несъответствие по отношение на метода или междинна стъпка.
RPE възниква, когато асистент-робот донесе кафе вместо поръчаната вода: целта не е постигната. SPE възниква, когато роботът правилно разбере, че е необходима вода, но вместо да вземе бутилка от масата, отиде до кухненския кран: целта е правилна, но методът – не.
Експериментите показват, че мозъкът генерира различни вълнови модели за всеки тип грешка, а методите за дълбоко обучение позволяват надеждното им класифициране. Системата работи чрез алгоритъм за „синергия с ИИ”, който използва декодираните невронни сигнали като обратна връзка за вземане на решения.
При засичане на RPE (грешка в прогнозирането на възнаграждението) в сигнала за обратна връзка, моделът разпознава грешка в целта и я преоценява; при засичане на SPE (грешка в прогнозирането на състоянието) той коригира метода си.
Досега системата NVA е демонстрирана в симулации, а не върху свободно движещ се робот. Освен това, ЕЕГ технологията изисква електроди и е чувствителна към шум, което ограничава приложението ѝ извън лабораторията.
Потенциалните случаи на употреба на технологията се простират далеч отвъд чатботовете: домашни роботи, индустриални роботизирани ръце, автономни превозни средства, медицински и рехабилитационни устройства за хора с говорни или двигателни увреждания и образователни системи, които се адаптират към когнитивното състояние на ученика.
„Проучването показва, че изкуственият интелект може да надхвърли извеждането на човешки намерения единствено от наблюдаемо поведение и вместо това директно да използва когнитивни сигнали, генерирани от мозъка по време на взаимодействие с ИИ”, обобщава професор Санг Уан Лий, който ръководи изследването.
