Човечеството е неподготвено за последствията от бързото развитие на изкуствения интелект, предупреди носителят на наградата Тюринг и един от пионерите на дълбокото обучение – Джефри Хинтън. Според него, рисковете варират от икономическа катастрофа до неконтролирано разпространение на автономни оръжия, а съществуващите социални институции няма да се справят с тези предизвикателства без радикални реформи.
По време на публичен дебат с американския сенатор Бърни Сандърс, „Кръстникът на изкуствения интелект” Джефри Хинтън каза, че светът е неподготвен за последствията от бързото развитие на изкуствения интелект. Ученият очаква големи икономически кризи и военни конфликти с масовото използване на автономни оръжия.
Екзистенциални рискове
Джефри Хинтън подчерта, че широкото приемане на технологиите за AI неизбежно ще увеличи производителността на труда, но ползите ще се отразят предимно на корпоративните собственици, докато служителите ще се сблъскат с масови съкращения.
Той смята, че пазарът няма да може сам да балансира ситуацията, тъй като правителствата ще трябва да се намесят в икономиката, може би чрез въвеждане на универсален базов доход, за да предотвратят рязко нарастване на неравенството.
Потенциалното военно приложение на технологиите с изкуствен интелект е особено обезпокоително. Според експерта, регулирането на бойните невронни мрежи и автономните оръжия е значително по-трудно от ядрените оръжия.
Докато създаването на атомна бомба изисква огромен индустриален капацитет и редки изотопи, автономните бойни системи се контролират от софтуерен код. Този код може да бъде незабавно копиран, откраднат или прехвърлен на стандартно флаш устройство, което прави всеки ефективен контрол върху неразпространението на такива технологии практически невъзможен.
Ученият също така повтори опасенията си относно екзистенциалните рискове, свързани със загубата на контрол над изкуствения интелект. Според Хинтън, когато изкуственият интелект надмине хората по интелигентност, той ще може да манипулира хората, за да постигне собствените си цели, които може да не съвпадат с човешките интереси и ценности.
Основната опасност, отбеляза той, е, че човечеството навлиза в тази ера без ясен план или механизми за защита от подобни сценарии.
Речта на Хинтън продължава поредица от тревожни изявления, които той направи, след като напусна Google през 2023 г. Ученият подчерта, че темпът на развитие на технологиите за изкуствен интелект през последните години значително надмина дори най-смелите прогнози на експертите и обществото вече няма време за обичайното бавно, бюрократично адаптиране на закони и разпоредби.
„Кръстникът” на изкуствения интелект
Джефри Хинтън, британски и канадски компютърен учен и физик, носител на Нобелова награда, е известен като „кръстникът на изкуствения интелект”. Още в края на декември 2024 г. той предупреди за сериозна заплаха, породена от невронните мрежи.
Хинтън говори за вероятността технологиите за изкуствен интелект да доведат до изчезване на човечеството до 2055-2060 г., засягайки между 10 и 20% от световното население. „Виждате ли, никога не сме се сблъсквали с нещо по-интелигентно от нас самите”, каза компютърният учен.
Той се занимава с невронни мрежи от 1970 г. През 2012 г. неговата ИТ компания, която разработва технология за разпознаване на изображения, е придобита от Google за 44 милиона долара. Сред служителите на Хинтън е Иля Суцкевер, който по-късно става главен учен в OpenAI, разработчика на чатбота ChatGPT.
През 2023 г. Хинтън напуска Google, за да говори свободно за рисковете, свързани с развитието на изкуствения интелект. Той вярва, че изкуственият интелект има потенциал да излезе от човешкия контрол и да се превърне в екзистенциална заплаха.
Хинтън последователно се застъпва за решения, които гарантират мирното съвместно съществуване на хората и изкуствения интелект. Например, той предлага радикален подход за управление на свръхинтелигентността: вместо да се опитва да доминира над технологиите на изкуствения интелект, той трябва да ги отглежда, както майка, която отглежда дете.
„Майката е контролирана от детето”, отбелязва Хинтън, считайки това за единствения известен случай, в който по-интелигентно същество се подчинява на по-малко интелигентно.
Автоматизация на професиите, след това автономност
Многобройни проучвания и доклади прогнозират, че изкуственият интелект ще замени хората в бъдеще в области като счетоводство, управление на съдържание и оператори на кол центрове.
Появата на агентен изкуствен интелект през 2024 г. беше значителна стъпка в еволюцията на технологиите. За разлика от генеративните AI модели, такъв изкуствен интелект е способен да извършва специфични действия, справяйки се с несигурността в данните и вземане на автономни решения въз основа на контекста.
В същото време разликата между водещите и изоставащите компании бързо ще се разширява. С усъвършенстването и тестването на технологията на изкуствения интелект ще се появят AI агенти, способни да изпълняват все по-сложни задачи с нарастваща прецизност. Това неизбежно ще доведе до изчезване и трансформация на някои професии.
Говорейки през ноември 2025 г., Джефри Хинтън предупреди, че всяко развитие има своите социални последици. Това не означава масова безработица, а ще доведе до дълбоко преструктуриране на пазара на труда. Големи банки, индустриални холдинги и компании в здравеопазването внедряват генеративни решения в бизнес процесите, изискващи нови компетенции и различна управленска култура.
Но фокусът вече е върху следващото поколение – общ изкуствен интелект (AGI), който потенциално ще може да решава всеки проблем, да се учи без подкана и – според анализатори на Gartner – ще се появи до 2035 г.
Основните заплахи от AGI са свързани с неговата автономност. Ако една ИТ система е способна самостоятелно да подобрява възможностите си, тя рискува експлозия на интелигентност – ситуация, в която скоростта на развитие на машините надвишава човешкото разбиране.
Ето защо глобалните изследователски центрове DeepMind и OpenAI работят заедно с AI архитектури, за да решат така наречения проблем със съгласуването – предизвикателството за съгласуване на целите на машините с човешките ценности.
