Прогноза: AI ще стане като хората до 2030 г., това крие големи рискове

Изкуственият интелект може да се превърне в заплаха за човечеството, дори да го унищожи
(снимка: CC0 Public Domain)

DeepMind, подразделението за AI разработки на Google, призова човечеството да помисли какви мерки за сигурност да предприеме по отношение на изкуствения общ интелект (AGI), който до няколко години може да стане като хората.

Експертите от компанията прогнозират, че до 2030 година ще се появи изкуствен интелект на човешко ниво – така нареченият общ AI. Това е система, която може да изпълнява всякакви умствени задачи на нивото на възрастен човек, например решаване на сложни проблеми или научаване на нови неща.

Авторите на доклада, включително съоснователят на DeepMind Шейн Лег, предупреждават, че такъв AI може да се превърне в заплаха за човечеството, дори да го унищожи, ако не се вземат мерки за сигурност, отбелязва TechCrunch.

DeepMind подчертава, че AGI може да усвои умението да се подобрява, създавайки по-интелигентни свои версии без човешка намеса. Това е тревожно, защото подобен процес може да излезе извън контрол.

За предотвратяване на такъв сценарий, компанията предлага три стъпки:

• ограничаване на достъпа до AI за нападателите;
• подсигуряване, че решенията на AI са разбираеми;
• създаване на безопасна среда за работа.

Въпреки че технологиите за сигурност все още се разработват, DeepMind вярва, че трябва да се вземат мерки сега, за да се избегнат рисковете.

Експертите обаче са скептични, че можем да контролираме AI. Някои казват, че идеята за AGI е твърде неясна, докато други посочват проблема с „халюцинациите” на AI – когато той създава лоши данни, учи се от тях и разпространява дезинформация.