Тревожен сценарий за бъдещето на технологиите с изкуствен интелект очерта изпълнителният директор на OpenAI, Сам Алтман, говорейки в подкаста MD MEETS с главния изпълнителен директор на издателство Axel Springer – Матиас Дьопфнер.
Според шефа на OpenAI, човечеството може да загуби контрол над изкуствения интелект не чрез злонамерено действие или причинено от хората бедствие, а напълно случайно.
Алтман смята, че опасността не се крие във „възхода“ на AI, а в това хората постепенно да му предадат юздите на властта – доброволно и почти незабележимо.
Потребителите все повече разчитат на съветите на изкуствения интелект. Но с навлизане на по-умните модели ситуацията може да стане неконтролируема.
Първо, AI прави препоръки, които хората доброволно следват. След това прави препоръки, които може дори да не са напълно разбрани, но неизменно се оказват верни.
В един момент потребителите ще се изправят пред избор: да слушат AI или да загубят от конкурентите, които следват неговите съвети и препоръки.
В крайна сметка, повечето хора ще започнат безпрекословно да следват препоръките на асистентите с изкуствен интелект, прогнозира Алтман.
„Представете си какво се случва с ChatGPT днес? Стотици милиони хора общуват с него ежедневно, скоро ще станат милиард. И ние все повече му се доверяваме при вземането на важни решения в кариерата, личния си живот и бизнеса“, казва той.
Алтман е особено загрижен за възникващата „обратна връзка“ – тоест, колкото повече потребители разчитат на съветите на AI, толкова повече данни събира изкуственият интелект, толкова по-умен става и толкова повече влияе върху решенията на хората.
Шефът на OpenAI попита кой наистина контролира тази ситуация и заключи, че човечеството може тихомълком да започне да следва волята на изкуствения интелект.
Сам Алтман предупреди, че този сценарий е сериозно подценяван, въпреки че представлява най-реалната заплаха за човечеството.
