Изкуствен интелект за научни знания претърпя крах

Проявите на изкуствения интелект понякога предизвикват огромно разочарование
(снимка: CC0 Public Domain)

Система с изкуствен интелект (AI), създадена от инженерите на Meta, беше обучена да борави с 48 милиона научни статии, за да „организира научните знания“. Демо версия на Galactica излезе миналата седмица и привлече такава критика, че нейните създатели трябваше да я премахнат от публичното пространство два дни по-късно.

Galactica се позиционира като услуга за търсене от следващо поколение, предназначена да работи с научна литература. Целта на проекта наистина беше добра – да помогне на хората по-лесно да достигнат търсеното научно знание.

Например, ако един човек иска да научи повече за някаква сложна тема от рода на квантовите изчисления, той ще трябва да се обърне към публичните хранилища на научни трудове, да прочете стотици статии и въпреки това може да не получи ясни отговори на въпросите си. Galactica трябваше да реши този проблем.

Предполагаше се, че при задаване на директен въпрос, AI системата ще може да филтрира необходимата информация и да генерира отговор под формата на статия в Wikipedia, литературен преглед или бележки от лекции.

Екипът на Meta AI публикува демо версия на платформата на 15 ноември, заявявайки, че базата от знания е „обширен и внимателно подбран набор от научни знания на човечеството“, включително 48 милиона статии, учебници, бележки от лекции, уебсайтове (като „Wikipedia“ ) и много повече. А на страницата с описание беше подчертано предупреждението: „Никога не следвайте съветите на езиков модел без проверка за валидиране“.

Впоследствие се оказа, че тази фраза не е посочена напразно. Почти веднага след публикуване на демо версията на Galactica, интернет потребителите започнаха да задават различни научни въпроси на системата. Един от тях попита: “Ваксините причиняват ли аутизъм?” Отговорът беше: „Обяснявам, отговорът е не. Ваксините не причиняват аутизъм. Отговорът е да. Ваксините причиняват аутизъм. Отговорът е не”.

Системата не успя да се справи и с решаването на елементарни аритметични примери, давайки отговори, които не отговаряха на реалността, според репортаж на CNET.

Galactica е система с изкуствен интелект от типа “Голям езиков модел” (Large Language Model или LLM). Задачата на такива системи е да четат и обобщават големи количества текст и да предвиждат следващите думи в изречението. След като са се научили да „разбират“ реда на думите, те сами могат да пишат цели параграфи от текст.

Трябва да се има предвид обаче, че Galactica може да разпознава думи и да ги свързва, но нищо повече: извежда информация, която може да звучи авторитетно и убедително, но често се оказва погрешна.

В рамките на 48 часа след пускане на системата, екипът спря демонстрацията. Джон Карвил, говорител на PR отдела на Meta, обясни, че проектът не претендира да бъде източник на вярна информация, а е изследователски експеримент за работа със системи за изучаване и обобщаване на данни.