Светът на изкуствения интелект е по-близо до военното дело от всякога (снимка: CC0 Public Domain)
Макар че кадрите от бойните действия в Украйна често включваха старовремски камуфлажно-зелени камиони и взривове, конфликтът даде тласък на развитието на нови технологии – бойни системи с изкуствен интелект, които надали щяха да бъдат разработени ускорено при други обстоятелства.
Две седмици след старта на военния конфликт между Русия и Украйна през февруари 2022 Александър Карп, главен изпълнителен директор на компанията за анализ на данни Palantir, прави презентация пред европейските лидери. Европейците трябва спешно да модернизират своите военни арсенали с помощта на Силициевата долина, твърди той в отворено писмо.
За да остане Европа „достатъчно силна, за да победи заплахата от чуждестранна окупация“, пише Карп, страните трябва да възприемат „връзката между технологиите и държавата“. Той намеква, че държавните служби, разполагащи с финансиране, следва да се насочат към млади компании, разработващи ултра-модерни технологии, и да „изместят хватката на вкоренените доставчици“.
Дали заради него или по други причини, изглежда, че военните служби реагират в тази посока. На 30 юни НАТО обявява, че създава фонд за иновации на стойност 1 милиард долара, който ще инвестира в новостартиращи фирми на ранен етап и фондове за рисков капитал, разработващи „приоритетни“ технологии като изкуствен интелект, обработка на големи данни и автоматизация. Великобритания и Германия отделят щедри, многомилионни фондове за развитие на изкуствен интелект специално за отбраната. Всiчки съюзници „инвестират“.
„Войната е катализатор за промяна“, казва Кенет Пейн, който ръководи изследванията в областта на отбраната в Кралския колеж в Лондон.
Войната като катализатор
Случващото се в Украйна ускори стремежа да се вкарат колкото се може повече AI инструменти на бойното поле. Тези, които могат да спечелят най-много, са новостартиращи фирми като Palantir, които се надяват да привлекат внимание (и пари), докато военните се надпреварват да обновяват арсеналите си с най-новите технологии.
Както може да се очаква, с това назряват и дългогодишните етични притеснения относно използването на AI във военни действия. Технологиите са достатъчно напреднали, за да могат да сеят опустошение и смърт.
Още през 2018 г., след протести и възмущение на служителите, Google се оттегли от проекта „Maven“ на Пентагона, който по същество бе опит за изграждане на системи за образно разпознаване с цел подобряване на военните удари с дронове. Случаят предизвика разгорещен дебат относно човешките права и морала при разработването на AI за автономни оръжия.
По това време някои от най-авторитетните учени в областта на изкуствения разум се зарекоха обещаят да не работят върху смъртоносни AI.
Но това е само вълнение на повърхността. Четири години по-късно технологичният свят е по-близо до военното дело от всякога. Всякакви фирми се надпреварват да разработват и доставят AI на правителствата – от „вкоренените“ ИТ мастодонти до дръзки стартъпи с изумителни идеи.
ИТ като критична инфраструктура
Компаниите, които продават военни AI, правят гръмки заявления за това, на което са способни технологиите им. Обещават всичко – от проверка на автобиографии до обработка на данни от сателити. Софтуерът за разпознаване на изображения може да помогне при идентифицирането на всякакви цели. Автономните дронове могат да се използват за наблюдение или атаки по суша, въздух или вода.
Някои от тези технологии са все още в начален стадий на бойното поле и са по-скоро обект на експериментиране, понякога без особен успех.
Но инвестициите на спират, разработките не спират и експериментите не спират. Мередит Уитакър, старши съветник по AI във Федералната търговска комисия в САЩ казва, че напъните за разработване на военни AI системи „разпалват реторика в духа на Студената война“ и се опитват да създадат ситуация, която позиционира Big Tech като „критична национална инфраструктура“.
Ако това се случи, разработчиците на военните AI системи ще се ползват със специален статут, както в било винаги с доставчиците във военното дело. Тези бизнеси ще радват на защита и ще могат да избегнат редица регулации, които иначе може да им се наложат (в цивилния свят).
Дългата сянка на Китай
В цялата картина се прокрадва дългата и тиха сянка на Китай, която в последните години демонстрира колко силно развита технологична индустрия поддържа и дори започна свой проект за собствена орбитална станция.
Китайската армия вероятно харчи най-малко 1,6 милиарда долара годишно за AI, според доклад на американския Център за сигурност и нововъзникващи технологии в Джорджтаун. САЩ пък „вече има значителен напредък за постигането на паритет“, казва Лорън Кан, научен сътрудник в Съвета за външни отношения. Министерството на отбраната на САЩ поиска 874 милиона долара за изкуствен интелект за 2022 г., въпреки че тази цифра не отразява общите инвестиции на министерството в AI, се казва в доклад от март 2022 г.
В доклад от миналата година, очертаващ стъпките, които Съединените щати трябва да предприемат, за да бъдат в крак с AI до 2025 г., NSCAI призова американските военни да инвестират 8 милиарда долара годишно в тези технологии или рискуват да изостанат от Китай.
Паралелно с това Европейската комисия отдели 1 милиард долара за разработване на нови отбранителни технологии.
Натискът на „малките“
Всъщност, разпределението на тези инвестиции никак не е ясно, макар да изглежда, че лъвският пай се изяжда от малък брой големи корпорации, които са „вкоренени“ доставчици във военното дело. Възходът на новите играчи с нови технологии има своите инструменти за натиск.
AI се развива много бързо, правителствата не могат да си позволяват да продължат да разчитат на стария подход, в който разчитат на дългогодишни договорни партньори с десетилетни договори, казва Арно Герин, CEO на Preligens – френски стартъп за технологии за AI проследяване.
Стартъпите и фондовете рисков капитал изразяват разочарование, че процесът се движи толкова бавно, казва Катрин Бойл, генерален партньор във фирмата за рисков капитал Andreessen Horowitz. По думите й, „талантливи инженери ще напуснат разочаровани и ще си търсят работа във Facebook и Google, а новостартиращите фирми ще фалират в очакване на договори“ в сферата на отбраната.
Човекът няма винаги да има контрол над AI
И докато правителства, военни, корпорации и стартъпи водят тази дискусия, AI продължава стабилно да навлиза на бойното поле, а етичните опасения стават все по-притеснителни.
Почти всички власти по света предприемат стъпки, за да декларират, че прилагат рамки и насоки за използване на изкуствения разум по начин, който е „законен, отговорен, надежден и проследим и се стреми да смекчи изкривяванията, произтичащи от алгоритмите“.
Една от ключовите концепции е, че хората винаги трябва да имат контрола върху системите с AI. Но с развитието на технологията това наистина няма да е възможно, казва Кенет Пейн.
„Целият смисъл на една автономна система е да взема решения по-бързо и по-точно, отколкото би могъл да направи човек, и в мащаб, който е непосилен за хората“, казва той. Според него скоро няма да е мислимо човечеството да каже „Не, ние ще премислим и оценим всяко едно решение“.