Изкуствен интелект заблуди друг изкуствен интелект

Докато хората тълкуват правилно синонимите, AI може да бъде лесно подведен
(снимка: CC0 Public Domain)

В необичаен експеримент учени от Масачузетския технологичен институт (MIT) успяха да заблудят изкуствения интелект (AI), използвайки възможностите на… друг изкуствен интелект.

Специално обучена AI система не e могла да идентифицира текста както преди, след като някои думи били заменени с техни синоними, разказва за любопитния случай Wired.

Изследователите забелязват, че незначителна промяна във фразата, която човек би могъл да тълкува без изкривяване на смисъла, може да заблуди изкуствения интелект.

Те решават да създадат AI алгоритъм, който избира синоними за промяна на фрази и по този начин заблуждават системата с изкуствен интелект, натоварена със задачата да разпознава текста.

Така например, фразата „Героите, хвърлени в невъзможно измислени ситуации, са напълно отчуждени от реалността”, е определена от AI като негативна оценка за филм.

Ако обаче замените някои думи с контекстуални синоними по следния начин: „Героите, хвърлени в невъзможно конструирани обстоятелства, са напълно отчуждени от реалността”, изкуственият интелект ще тълкува този отзив за филма като положителен.