Учени от Мичиганския държавен университет откриха, че съвременните модели на изкуствен интелект могат да бъдат изключително ненадеждни при търсене на признаци на извънземен живот. Невронна мрежа, която е била почти перфектна в разпознаването на признаци на живот, напълно е загубила точност след незначителни промени в данните.
В експеримент изследователите от Мичиган са успели да заблудят специално обучена невронна мрежа във всички случаи, променяйки данните толкова малко, че алгоритъмът е започнал да ги бърка с доказателства за живот, съобщи Popular Science.
Авторите на изследването са тествали способността на изкуствения интелект да разпознава биомаркери – признаци, които могат да показват съществуването на живи организми. За своите експерименти те са използвали системата Avida, разработена в университета, която симулира дигиталната еволюция.
В тази система виртуалните организми са представени от код, който се самокопира, като постепенно натрупва случайни промени – аналогично на биологичната еволюция.
Изследователите са обучили невронната мрежа върху десетки хиляди такива цифрови организми, някои от които са съдържали командата „копирай сам”, докато при други тя е отсъствала. Използвайки познати данни, алгоритъмът е демонстрирал почти перфектна точност на класификация.
След това обаче учените започнали постепенно да модифицират кода на организмите, излагайки невронната мрежа на варианти, с които никога преди не се е сблъсквала. Оказало се, че понякога 150 малки промени в кода са достатъчни, за да може алгоритъмът надеждно да идентифицира фалшивите сигнали като признаци на живот.
Според един от авторите на изследването, Анкит Гупта, независимо от избраната последователност от промени, учените са успели да заблудят модела в 100% от случаите.
„Изкуственият интелект има ахилесова пета. Той може да види закономерност и да я класифицира напълно погрешно”, отбеляза съавторът на изследването Кристоф Адами.
Според него, проблемът не се крие в самата технология, а в нейната уязвимост към данни, които се различават от тези, върху които е била обучена.
Авторите отбелязват, че резултатите са важни не само за бъдещи космически мисии, където изкуственият интелект би могъл да анализира данни от марсоходи или междупланетни сонди без постоянно наблюдение от специалисти.
Подобни грешки могат да възникнат в системи за разпознаване на лица, самоуправляващи се превозни средства, медицинска диагностика и други области, където решенията се вземат от AI модел.
Изследователите смятат, че изкуственият интелект трябва да остане поддържащ инструмент, а неговите открития да бъдат независимо проверявани.
Според Кристоф Адами, в научните изследвания, особено тези, свързани с евентуалното откриване на извънземен живот, хората остават незаменима част от процеса на вземане на решения.
