Началото на юни ще остане в историята на технологиите с призива на Anthropic за забавяне или дори за „пауза“ в развитието на изкуствения разум по света. Подобен призив светът чува не за първи път – преди три години Илон Мъск също настоя за „спирачка“ за лудешки развиващата се индустрия. Но колко вероятно е това да се случи в действителност?
Миналата седмица съоснователят на Anthropic Джак Кларк призова за забавяне на развитието на изкуствения интелект, предупреждавайки, че технологията наближава точка, в която може да се развива без човешка намеса.
„Искате да имате възможността да свалите крака си от газта и да натиснете спирачката“, каза Кларк. „В момента е все едно индустрията с изкуствен интелект има педал за газ, но няма педал за спирачка“.
Подобен призив за озаптяване на бързия растеж на AI отправи и Илон Мъск през 2023 година. Може би това трябва да ни говори, че се налага да погледнем сериозно на идеята?! Има ясни прилики, но има и важни разлики в аргументацията и откъде идва тя.
Два призива, една идея
Както ръководството на Anthropic, така и Илон Мъск твърдят, че развитието на най-модерния AI може да стане достатъчно опасно, че светът да може да забави или да спре напредъка, ако рисковете станат твърде големи. И двете позиции подчертават вероятност възможностите на AI да изпреварят способността на обществото да ги разбира, регулира или контролира.
Предложението, отправено от Мъск от 2023 г., беше по-конкретно и незабавно. Отвореното писмо призоваваше за шестмесечна пауза в обучението на системи с AI, по-мощни от GPT-4. То предлагаше правителствена намеса, ако компаниите не се съобразят доброволно.
Позицията на Anthropic от 2026 г. е малко по-различна. Компанията не призова за незабавно шестмесечно спиране. Вместо това, тя твърди, че големите лаборатории за AI трябва да създадат координиран и проверим механизъм за спиране или забавяне на развитието на модерния AI, ако се появят определени предупредителни знаци – особено ако AI системите започнат да се усъвършенстват по-бързо, отколкото хората могат безопасно да управляват – сценарий, често наричан „рекурсивно самоусъвършенстване“.
От друга страна, през 2023 г. критиците отбелязаха, че Мъск вече не е водещ разработчик на „гранични“ модели, след като бе напуснал OpenAI години по-рано. Днес Anthropic сама по себе си е една от компаниите, изграждащи най-модерните системи с изкуствен интелект в света. Това означава, че призивът ѝ за пауза идва от сърцевината на „граничната“ надпревара, а не отвън.
Критиците обаче твърдят, че Anthropic може би търси да се възползва стратегически от регулации или забавяния, които засягат конкурентите. Поддръжниците отговарят, че Anthropic е постоянно фокусирана върху безопасността на изкуствения интелект от основаването си.
Има ли реална вероятност това да спре развитието на AI?
Краткият отговор е: глобална пауза е възможна на теория, но е малко вероятна на практика. Е, освен ако не се случи нещо драматично.
В момента ситуацията говори за по-скоро обратната посока на развитие на пазара. Съединените щати, Китай и големите компании за AI виждат усъвършенствания AI като източник на икономически растеж, коз за военно предимство и фактор за лидерство в науката.
Да се спре всичко това едновременно е много по-трудно, отколкото да се реши една компания да „забави темпото“. Самата Anthropic признава, че паузата би проработила само ако множество „гранични“ лаборатории и правителства се споразумеят и ако може да се провери спазването на условията.
Най-голямата пречка е геополитиката. Нито една от страните, които разработват AI с всички сили, не е склонна да „дръпне ръчната спирачка“, знаейки, че другаде обучението на AI моделите може да си върви с пълна сила.
Ако правителствата се боят, че съперниците тайно продължават разработването, те не биха допуснали реално забавяне на темповете. С това геополитическата обстановка доста се отличава дори от големия конфликт на т.нар. студена война, когато в крайна сметка се появиха договори за контрол на ядрените оръжия, защото и двете страни можеха да проверят разполагането на ракети и защото опасностите бяха очевидни.
Ами ако „стане нещо“?
Въпреки това не е невъзможно да се стигне до всеобщо решение за забавяне. Историята показва, че правителствата понякога ограничават мощни технологии – обичайно след големи инциденти. Примерите включват определени ограничения за биологични изследвания, заземяване на авиацията след аварии и мораториуми върху ядрени опити.
Ако една усъвършенствана система с изкуствен интелект причини сериозна криза на ниво национална сигурност, голямо финансово смущение или демонстрира убедителни доказателства за автономно самоусъвършенстване, политическата подкрепа за пауза може да се увеличи бързо.
С две думи:
- Трайно глобално спиране на граничния AI – много малко вероятно;
- Забавяне в множество държави чрез регулиране -правдоподобно;
- Временна пауза след голям инцидент, свързан с AI – напълно възможно;
- Липса на пауза и продължаващ бърз напредък – най-вероятният сценарий в момента.
