След бума на генеративните AI модели сега е време да определим какво ще значи общ изкуствен интелект (снимка: CC0 Public Domain)
AGI, или общ изкуствен интелект, е една от най-горещите теми в технологиите днес. Освен това е една от най-противоречивите. Голяма част от проблема е, че няма съгласие какво означава терминът. Група изследователи се опитва да поправи този проблем.
Екип от изследователи на Google DeepMind наскоро публикува документ, който предлага не само една нова дефиниция за AGI, но и цяла таксономия за него.
В широк смисъл AGI обикновено означава изкуствен интелект, който се справя като човешкия интелект (или даже го превъзхожда). Но има най-различни разбирания за това какво може да се смята за подобно на човешкия ум, с какви задачи се справя. Като цяло се смята, че AGI е AI, но… по-добър.
За да формулира новата дефиниция, екипът на Google DeepMind е започнал с редица съществуващи дефиниции за AGI, извеждайки на преден план това, което – според изследователите – са основните общи характеристики. Екипът също така е очертал пет възходящи нива на AGI: нововъзникващ (което, според тях, включва авангардни чатботове като ChatGPT и Bard), компетентно, експертно, виртуозно и свръхчовешко.
Последното, предполага се, означава AI да изпълнява широк набор от задачи по-добре от всички хора, включително такива задачи, с които хората не могат да се справят изобщо, като декодиране на мисли на други хора, предсказване на бъдещи събития и говорене с животни. Учените отбелязват, че за момента не е достигнато ниво отвъд нововъзникващия AGI.
„Дефиницията осигурява така необходимата яснота по темата“, казва Джулиан Тогелиус, изследовател на ИИ в Нюйоркския университет, който не е участвал в работата. „Твърде много хора се въртят около термина AGI, без да са се замисляли какво означава“.
Изследователите публикуваха статията си онлайн наскоро, без шум.
По-точно определение
„Виждам толкова много дискусии, в които хората изглежда използват термина за означаване на различни неща. Това води до обърквания“, казва Шейн Лег, измислил термина преди около 20 години. Лег е един от съоснователите на DeepMind, сега обявен за главен учен по AGI на компанията. „Днес, когато AGI се превръща в толкова важна тема…, трябва да си изясним какво точно имаме предвид“.
Не винаги е било така. Дискусиите за AGI някога бяха осмивани в сериозните разговори. Но покрай шума около генеративните модели сега дебатът относно AGI вече е навсякъде.
Когато Лег предлага термина на бившия си колега и изследовател Бен Гьортцел за заглавието на книгата на Гьортцел от 2007 г. за бъдещите разработки в ИИ, Лег няма особено ясна дефиниция. „Наистина не смятах, че е необходимо“, признава Лег. „Всъщност мислех за това по-скоро като поле за изследване, отколкото като артефакт“.
Неговата цел по онова време е да разграничи съществуващия AI, който може да изпълнява конкретна задача много добре – като програмата за игра на шах на IBM Deep Blue – от хипотетичния AI, който той и много други си представят, че един ден ще върши много задачи и то много добре. Човешкият интелект не е като Deep Blue, казва Лег. „Това е много широко понятие“.
Но през годините хората започнаха да мислят за AGI като потенциално свойство, което реалните компютърни програми може да притежават. Днес е нормално водещи AI компании като Google DeepMind и OpenAI да правят смели публични изявления относно своята мисия да създават подобни програми. „Ако започнете да водите такива разговори, трябва да сте много по-конкретни относно това, което имате предвид“, казва Лег.
Например, изследователите на DeepMind заявяват, че AGI трябва да бъде както с общо предназначение, така и с високи постижения, а не само едното или другото. „Разделянето на ширина и дълбочина по този начин е много полезно“, казва Тогелиус. „Това показва защо много от завършените AI системи, които сме виждали досега, не се квалифицират като AGI“.
Учените заявяват и, че AGI трябва не само да може да изпълнява набор от задачи, но също така да може да се научава как да изпълнява тези задачи, да оценява ефективността си и да иска помощ, когато е необходимо. И те заявяват, че въпросът какво може да направи AGI има повече значение от въпроса как го прави.
Това не значи, че начинът, по който работи AGI, няма значение, казва Мередит Рингел Морис, главен учен на Google DeepMind за взаимодействието между хора и изкуствен интелект. Проблемът е, че все още не знаем достатъчно за начина, по който авангардните модели, като големите езикови модели, работят „под капака“, за да го превърнем във фокус на дефиницията.
„Когато придобием повече представа за основните процеси, може би ще е важно да преразгледаме своята дефиниция за AGI“, казва Морис. „Трябва да се съсредоточим върху това, което можем да измерим днес по научно съгласуван начин“.
Измерване?
Измерването на ефективността на днешните модели вече е противоречиво. Изследователите обсъждат какво наистина означава голям езиков модел да премине десетки тестове в гимназията и много други изпитания. Признак на интелигентност ли е? Или вид обучение наизуст?
Оценяването на представянето на бъдещите модели, които ще са още по-способни, ще бъде още по-трудно. Изследователите предполагат, че ако AGI някога бъде разработен, неговите възможности трябва да се оценяват непрекъснато, а не чрез няколко еднократни теста.
Екипът също така посочва, че AGI не предполага автономност. „Често съществува имплицитното предположение, че хората биха искали една AGI система да работи напълно автономно“, казва Морис. Но това не винаги е така. На теория е възможно да се изградят супер-умни машини, които са напълно контролирани от хората.
Един въпрос, който изследователите не разглеждат в дискусията си за това какво е AGI, е защо трябва да го изградим. Някои компютърни учени, като Тимнит Гебру, основател на Distributed AI Research Institute, твърдят, че цялото начинание е … странно. В разговор през април за това, което тя вижда като фалшиво (дори опасно) обещание за AGI, Гебру отбеляза, че хипотетичната технология „звучи като система без обхват с очевидната цел да се опитва да направи всичко за всички във всякаква среда“.
Повечето инженерни проекти имат добре дефинирани цели. Мисията за изграждане на AGI не е такава. Дори дефинициите на Google DeepMind позволяват AGI, който да е неограничено широк и неопределено интелигентен. „Не се опитвайте да построите бог“, каза Гебру.
В надпреварата за изграждане на по-големи и по-добри системи малцина ще се вслушат в подобни съвети. Така или иначе известна яснота около тази дълго обсъждана и объркана концепция е добре дошла. „Има много добри неща, в които да се съсредоточим, ако успеем да преодолеем проблемите с дефиницията“, казва Лег.