Система с изкуствен интелект, която се намесва в мрежа за ядрено командване или инициира военна кибероперация, би могла да остави броени минути на Вашингтон или Пекин да вземат решение дали отсрещната страна е предприела ядрена атака – това твърдят експерти по сигурността от САЩ и Китай. Специалистите, участващи в официалния диалог, призовават двете правителства да се подготвят за подобни сценарии с AI на фона на нарастващите опасения относно все по-мощните и автономни системи.
Експертите предлагат определяне на „червени линии“ около ядрените системи и създаване на гореща линия за инциденти с участието на автономен AI. Препоръките бяха публикувани миналата седмица, преди планираните правителствени разговори за AI и очакваната среща във Вашингтон на 24 септември между президента на САЩ Доналд Тръмп и китайския президент Си Дзинпин.
Авторите са Мелани Сисън, старши сътрудник в мозъчния тръст „Брукингс“ (Brookings Institution), и Тиандзяо Дзян, доцент в университета „Фудан“. Те участват в диалога между САЩ и Китай относно AI и националната сигурност.
Предложенията им подчертават как съперничеството между САЩ и Китай в сферата на изкуствения разум излиза извън рамките на надпреварата за чипове и усъвършенствани модели, навлизайки в области, отдавна свързвани с контрола на въоръженията:
- как да се предотврати погрешното тълкуване на инциденти като атаки;
- как да се ограничат военните решения, вземани от машини;
- и как да се установят комуникационни протоколи между ядрени сили в случаите, когато технологията се държи по неочакван начин.
Тази седмица министърът на държавната сигурност на Китай Чън Исин написа в правителствена медия, че изкуственият интелект „фундаментално променя формата на военните действия“. Той отбеляза, че технологията е преминала от поддържаща роля на бойното поле към ключова такава. Чън Исин посочи като пример военни удари, насочвани от AI, по време на конфликта на САЩ и Израел с Иран.
Общи принципи, терминология и „смислен човешки контрол“
Сисън от „Брукингс“ изтъкна, че хората трябва да запазят изключителното право да инициират кибератаки с помощта на изкуствен интелект срещу системите за ядрено командване, управление и комуникация или срещу стратегически важната инфраструктура на другата страна. Една автономна система би могла да се повреди, да надхвърли зададените ѝ параметри или да бъде компрометирана. Съответно атакуваната страна може да се затрудни да определи дали действието е било случайно, резултат от грешка, или нарочно наредено от нейния съперник.
Дзян от университета „Фудан“ предложи въвеждането на ясни „червени линии“, които да не позволяват на изкуствения интелект самостоятелно да взема решения за използване на ядрени оръжия или автономно да атакува системи за ядрено командване. Китайският експерт предлага и специална защита на критичната инфраструктура, включително в секторите на енергетиката, финансите и здравеопазването.
Той призова и за постигане на общоприета дефиниция за „смислен човешки контрол“. Важно е двете страни да използват еднаква терминология, за да могат да въведат еквивалентни нива на машинна автономност.
Идеята надгражда принцип, подкрепен от някогашния президент на САЩ Джо Байдън и Си Дзинпин през ноември 2024 г., според който хората трябва да запазят контрола върху решенията за използване на ядрени оръжия.
Лора Саалман, старши сътрудник в Стокхолмския международен институт за изследване на мира (SIPRI), написа през февруари, че това е важна точка на сближаване между САЩ и Китай, въпреки че и двете страни показват признаци на по-дълбоко интегриране на AI в ядрените и свързаните с тях системи.
AI действат мигновено, нужна е „гореща линия“
Дзян предложи също така създаване на специална „гореща военна линия“ между САЩ и Китай за инциденти, свързани с AI. Мотивът е, че автоматизираните кибердействия могат да ескалират твърде бързо, за да бъде възможна човешка намеса.
Можем да си представим сценарий, в който отбранителна AI система на едната страна може автоматично да реагира на подозрителна активност от другата страна, съответно другата страна да изтълкува тази реакция като атака и да отвърне на удара, преди хората изобщо да се усетят какво се случва.
„Горещата линия би позволила“ на едното правителство да уведоми другото, че „необичайната“ AI дейност не е преднамерена атака, че е неразрешена или все още в процес на разследване, преди тя да бъде третирана като умишлено действие на държавата.
Ала експерти, включително Карла Фрийман от Училището за напреднали международни изследвания „Джонс Хопкинс“, поставят под въпрос полезността на съществуващата гореща линия за военна комуникация при кризи между САЩ и Китай. Специалистите посочват отказа на китайски представители да отговорят на обаждания от американски колеги по повод инцидента с „шпионския балон“ през февруари 2023 г.
Гледищата на Вашингтон и Пекин
Нито едно от правителствата не е одобрило публично предложенията на Брукингс-Цинхуа.
Шен Джиен, посланикът на Китай по въпросите на разоръжаването, заяви на среща на ООН в Женева през юни, че военният AI може да повлияе на стратегическата стабилност и да повиши рисковете от грешни изчисления и ескалация на конфликти, и че оръжията трябва да останат под човешки контрол.
Китай също така твърди, че безопасността на AI не трябва да се превръща в претекст за технологични бариери.
Вашингтон няма единен център за контрол върху AI въоръженията, като политиката за национална сигурност е разпръсната между Съвета за национална сигурност при Белия дом, Държавния департамент, Пентагона и други агенции.
И двете правителства остават предпазливи към мерки, които биха могли да забавят собственото им технологично развитие.
