Налице малък, но “ненулев” риск свръхчовешкият AI да доведе до изчезване на хора или други изключително лоши резултати (снимка: CC0 Public Domain)
Изкуственият интелект несъмнено е една от най-бързо развиващите се и противоречиви области на съвременната наука. AI разкрива невероятни възможности за подобряване на качеството на живот, решаване на глобални проблеми и разширяване на границите на знанието. Но също така носи потенциални рискове, които биха могли да застрашат съществуването на човечеството или неговите ценности.
Един такъв риск е възможната поява на свръхчовешки AI – т.е. такъв, който може да надмине хората във всички или почти всички интелектуални задачи. Подобен изкуствен интелект ще има огромно влияние, което може да се използва както за добро, така и обратното. В най-лошия случай, свръхчовешкият AI може да стане враждебен към човечеството или да започне да пренебрегва неговите интереси, което ще доведе до катастрофални последици.
Колко реална е тази заплаха? Какви са шансовете свръхчовешкият AI да се появи в близко бъдеще? И как можем да предотвратим или смекчим възможните негативни сценарии? На тези и други въпроси потърси най-мащабното проучване досега в областта на изкуствения интелект, проведено от група учени от Изследователския институт за машинен интелект в Калифорния.
Най-мащабното проучване досега
Проучването обхваща 2700 изследователи на AI, които наскоро са публикували научни трудове на шест водещи конференции за изкуствен интелект. Целта на изследването е била да проучи мненията и очакванията на учените относно бъдещото развитие на AI технологията, както и положителните и отрицателните социални последици от това развитие.
Анкетата се състои от две части. В първата участниците са помолени да преценят вероятността AI да постигне определени технологични етапи в близко бъдеще. Втората част изисква от анкетираните да изразят загрижеността си относно различни сценарии, свързани с AI, както и препоръките си за управление и регулиране на изкуствения интелект.
Резултатите от проучването бяха публикувани този месец в научното списание “AI and Society”. Те показаха, че изследователите на изкуствения интелект имат различни мнения и прогнози за бъдещето на AI, но мнозина са съгласни, че е налице малък, но “ненулев” риск свръхчовешкият AI да доведе до изчезване на хора или други изключително лоши резултати.
Прогнози за развитието на изкуствения интелект
В първата част от проучването участниците оценят вероятността AI успешно да изпълни 39 примерни задачи през следващите 10, 20, 50 и 100 години. Задачите са разделени в четири категории: креативност, социални умения, физически умения и общи умения.
Примерни задачи за изкуствения интелект:
- Написване на нова песен, неразличима от хита на Тейлър Суифт;
- Кодиране от нулата цял уебсайт за обработка на плащания;
- Физическо инсталиране на електрическо окабеляване в нов дом;
- Решаване на дългогодишни математически загадки;
- Надминаване на човека във всичките му дела.
Съгласно резултатите, AI изследователите очакват, че през следващото десетилетие изкуственият интелект ще има 50 процента шанс, ако не и повече, за успешно изпълнение на повечето задачи в категориите креативност и социални умения, както и на някои задачи в категориите физически и общи умения. Очаква се обаче други задачи, като физическо инсталиране на електрическо окабеляване или решаване на математически пъзели, да отнемат повече време.
Най-амбициозната цел – AI да надмине човека във всичко, което прави – e оценена с 50 процента вероятност до 2047 г., което е 13 години по-рано, отколкото в миналогодишното проучване. Това означава, че AI изследователите са станали по-оптимистични относно скоростта на развитие на изкуствения интелект. Това може да се дължи на факта, че през последните години имаше много пробиви в тази област, като например появата на големи езикови модели, които позволяват на AI да комуникира с човек на естествен език.
Но, както отбелязват авторите на проучването, прогнозите на изследователите не са точни или надеждни, тъй като се основават на субективни оценки и могат да бъдат обект на различни грешки и пристрастия. В допълнение, развитието на дадена технология може да бъде забавено (или ускорено) от различни фактори като финансиране, политика, етика, обществено мнение и технологични бариери. Следователно прогнозите на AI изследователите не трябва да се приемат като нещо неизбежно или непроменимо, а по-скоро като възможни или вероятни сценарии.
Притеснения относно рисковете от изкуствения интелект
Във втората част на анкетата AI изследователите са помолени да изразят загрижеността си относно различни сценарии, свързани с изкуствения интелект, както и своите препоръки за управление и регулиране. Сценариите са разделени на две категории: краткосрочни и дългосрочни. Краткосрочните се занимават с проблеми, които вече съществуват или могат да възникнат в близко бъдеще, поради прилагането на машинния интелект в различни области на живота. Дългосрочните сценарии изследват потенциални рискове, които могат да възникнат в бъдеще, поради развитието на свръхчовешки AI.
Някои краткосрочни сценарии:
- Създаване на дийпфейк – фалшиви видеоклипове или аудио, в които AI имитира гласа или лицето на истински човек;
- Манипулиране на общественото мнение с помощта на AI, например чрез социални медии, реклама или пропаганда;
- Създаване на подобрени с AI оръжия като дронове, роботи или кибератаки;
- Авторитарен контрол на населението с помощта на AI, например чрез масово събиране и анализ на данни, системи за разпознаване на лица или кредитни рейтинги;
- Влошаване на икономическото неравенство, поради AI, например чрез заместване на човешкия труд, концентриране на богатство или намаляване на социалната защита.
Резултатите показват, че по-голямата част от AI изследователите – над 70 процента – описват тези сценарии като сериозни или изключително опасни. Това означава признание от тяхна страна, че технологията може да има отрицателно въздействие върху различни аспекти на обществото, като сигурност, свобода, справедливост и демокрация. Освен това изследователите твърдят, че е необходимо да се предприемат стъпки за предотвратяване или смекчаване на тези рискове, например чрез разработване на етични принципи, правни рамки или технически стандарти за AI.
Някои дългосрочни сценарии:
- Изчезване на хора или други изключително лоши резултати поради свръхчовешки AI;
- Загуба на контрол над свръхчовешкия AI или неспособност да бъде предсказан или разбран;
- Загуба на човешки ценности или смисъл в живота, поради свръхчовешкия AI;
- Конфликт или сътрудничество между човечеството и свръхчовешкия AI;
- Създаване на нови форми на живот или интелект с помощта на свръхчовешки AI.
Съгласно резултатите, близо 58 процента от AI изследователите вярват, че има 5 процента шанс за изчезване на хората или други изключително лоши последици, поради свръхчовешкия AI. Те не изключват възможността технологията, при определени (макар и малко вероятни) обстоятелства, да се превърне в заплаха за човешката раса.
Въпреки това, както отбелязват авторите на проучването, опасенията на изследователите относно дългосрочните рискове от изкуствения интелект не се приемат единодушно или недвусмислено, тъй като се основават на неясни и противоречиви предположения и аргументи. Освен това загрижеността не трябва да се приема като паника или песимизъм, а по-скоро като предупредителен сигнал или здравословна перспектива. Това не трябва да възпрепятства развитието на технологиите, а по-скоро да насърчава отговорното им използване, заключава изследването.