Експеримент с дигитални организми поставя под съмнение използването на изкуствен интелект за търсене на извънземен живот. Тестваната AI система за откриване на живот беше заблудена на 100% след 150 мутации на организмите. AI моделът уверено идентифицира случайни поредици от код като „живи“, когато даден алгоритъм ги променя така, че да съответстват на очакванията му – поведение, наблюдавано при всички тествани видове невронни мрежи.
Създаването на „детектор за живот“ – система, способна да разпознава живот без предварителни познания за неговата биохимия – остава основна цел на астробиологията. Скорошно изследване на учени от Университета на щата Мичиган подложи тази концепция на проверка, използвайки дигитални организми и методи за дълбоко обучение в платформата за дигитален живот Avida.
Учените обучиха класификатор да разграничава тези „живи“ програми от случайни поредици, като той постигна точност от 99,97% върху тестовия набор, допускайки само две грешки от общо 7236 примера.
След това класификаторът беше подложен на изпитание. Прост алгоритъм вземаше произволен низ от 9 символа и итеративно разменяше символите, като запазваше само онези промени, които повишават увереността на модела, че разглежда жив организъм.
Алгоритъмът нямаше достъп до реалните критерии за живот, а само до оценката, давана от самата невронна мрежа. До 150-ата итерация всички 1560 тестови опита достигнаха 100% увереност, въпреки че генерираните комбинации бяха напълно неспособни на самовъзпроизвеждане.
Заблуждаващите поредици не бяха просто случаен шум. Те се групираха около няколко общи модела, наподобяващи истински „живи“ поредици, но съдържащи дефекти на ключови позиции.
Моделът беше усвоил груб „шаблон за жив код“ и не успя да забележи, че този шаблон може да бъде имитиран, без да се възпроизвежда съществената характеристика: способността за размножаване.
Проблемът не се ограничава до конкретна архитектура. Допълнителни експерименти тестваха конволюционни невронни мрежи (CNN), трансформъри, машини с опорни вектори (SVM), случайни гори (random forests), XGBoost и логистична регресия. Нито един от методите не се оказа устойчив, макар че случайните гори показаха малко по-голяма издръжливост.
“Алчните” алгоритми за търсене (greedy search), стохастичното търсене и еволюционните алгоритми също възпроизведоха ефекта, потвърждавайки, че уязвимостта произтича не от детайли на реализацията, а от фундаментално свойство на методите, обучени върху емпирични разпределения на данни.
Този експеримент служи като предупреждение за астробиологията. Пространството от характеристики в експериментите с Avida е сравнително малко – 5,43 трилиона възможни последователности – но истинските репликатори заемат едва 6,66 части на милиард от това пространство.
Ако дадена проба попада извън разпределението на данните за обучение – а извънземните проби почти сигурно ще се намират извън обхвата на разпределението, върху което са обучавани земните детектори – рискът от генериране на фалшиво положителен резултат за наличие на живот с висока степен на увереност става неприемливо голям.
Авторите на изследването посочват едно ограничение: в проучването са използвани молекулярни последователности, а не реални мас-спектри, поради което директното прилагане на тези резултати към метода py-GC-MS изисква допълнителна проверка.
Въпреки това, използването на базирани на изкуствен интелект детектори за живот в космическите мисии би могло да подкопае доверието в астробиологичните програми като цяло – и то много преди научната общност да успее да разграничи истинското откритие от артефакт.
