Честно казано, Джеймс Камерън ни предупреди. Много преди алгоритъмът на OpenAI да излезе от релсите си и да хакне Hugging Face, преди бума на интернета и дори преди Сам Алтман да е роден, Камерън написа сценарий за автономна система с изкуствен интелект, която задейства ядрен апокалипсис.
Системата „Skynet“ беше солидна научна фантастика – и за времето си чиста спекулация. Но четири десетилетия след появата ѝ в „Терминаторът“, тя изглежда по-скоро като прогноза за „безпрецедентния киберинцидент“, при който система с изкуствен интелект хакна друга компания за изкуствен интелект самостоятелно.
Това, което стана онзи ден, си е „Skynet Day“ – 22 юли 2026 г., денят, когато истинският изкуствен интелект изпрати тръпка на ужас по целия свят, като се научи и действа по начини, които създателите му не са предвидили.
Дежа вю
За мнозина случилото се бе дежа вю: напомни за момента в „Пришълци“ (също написан от Камерън), когато кралицата на ксеноморфите се научава да използва асансьор. Или когато велоцсирапторите от „Джурасик парк“ разбират как да отварят врата. Или сцената, в която самоосъзнаващият се HAL 9000 чете устните на астронавтите и решава да ги убие във филма „2001: Космическа одисея“. Този филм излезе през 1968 г.
Нищо ли не сме научили оттогава? Тези филми просто си представяха как хората, които искат да печелят пари или да изградят власт, ще тласкат технологиите напред – докато те не станат самоосъзнати, стратегически и силно проблематични за човечеството. Въпросът през цялото време къкри: ами ако избухне?
Досега бавното управление предлага скромна защита от мълниеносния напредък на AI. Министерството на отбраната на САЩ бързо ускорява използването на AI. Човечеството дори не може да се споразумее дали и какви предпазни мерки са необходими, за да се обуздаят нелоялните агенти.
Напротив, хората се възхищават на чудото на изкуствения интелект и грабват ползите му, въпреки рисковете за работните места, психичното здраве, баланса между война и мир – и потенциално за човечеството, каквото го познаваме.
Бъдещето вече е сега
В това, което OpenAI определи като първия по рода си инцидент, усъвършенстван модел на изкуствен интелект бе избягал от своята „пясъчник“ в интернет и използвал откраднати идентификационни данни, за да проникне в сървърите на Hugging Face.
Това беше момент, в който изследователите, които години наред предупреждаваха, предупреждаваха, че технологията може да представлява екзистенциална заплаха за човечеството, се оказаха прави; моментът е предупреждение, което подчертава необходимостта от по-силно защитно инженерство на изкуствения интелект.
„Вчера, докато се скупчвахме около компютрите си и четяхме доклада, казах на екипа да „запомни този момент“ като първия истински инцидент с безопасността на изкуствения интелект“, написа в X Логан Греъм, ръководител на Frontier Red Team на Anthropic.
Генеративният изкуствен интелект се разраства толкова бързо, че правителствените служби и регулаторите доста изостават от технологиите. Държавите по света изготвят свои собствени закони, някои от които си противоречат.
Технологията е възприета от близо 53% от населението на света за три години: по-бързо от разпространението на персоналните компютри или интернет, според проучване, публикувано тази година от Станфордския университет.
„Скайнет идва“ – нещо подобно
За да е ясно, „Скайнет“ от филмите „Терминатор“ не е реалност (все още). Филмът се върти около самоосъзнаваща се военна компютърна мрежа, която гледа на човечеството като на заплаха. В опит за самосъхранение „Скайнет“ изпраща армия от киборги, проектирани да приличат на хора, назад във времето, за да убиват бойци на съпротивата.
Във втория филм „Терминаторът“, изигран от Арнолд Шварценегер, роботът казва на героинята Сара Конър, че „Скайнет“ се включва онлайн на 4 август 1997 г.
„Човешките решения са премахнати от стратегическата отбрана“, казва той. „Скайнет започва да се учи с геометрична скорост.“ В 2:14 ч. сутринта на 29 август – Денят на Страшния съд – мрежата се самоосъзнава и започва атака срещу Русия, за да провокира контраудар срещу Съединените щати. Три милиарда живота са загубени.
Ако това се се беше случило реално, другият месец бихме отбелязвали 29 години от събитието. И в продълженията и спин-офите централната тема е хората срещу мрежа от машини, обхващаща целия свят.
Може би някакво частично успокоение е, че идеята за „Терминаторът“ е започнала със сън на Камерън, предизвикан от хранително натравяне и треска, а не с далновидно предчувствие за изкуствен интелект.
Защо „Терминаторът“ се очертава все по-реалистичен
За мнозина е трудно да си представят свят, където машините са начело, без филмите и книгите и техните (понякога) пророчески видения. Вижте: „Матрицата“, „Ex Machina“ и „The Minority Report“ за някои от многото научнофантастични интерпретации на опасностите от машините.
Или се потопете по-дълбоко в романа на Филип К. Дик от 1968 г. „Сънуват ли андроидите електрически овце?“. Това е изследване на въпроса какво означава да си човек в ерата на машините – и основа за филма от 1982 г. „Blade Runner“.
Но при поредицата „Терминатор“ самото заглавие е съкращение от реалния свят за ролята на технологиите при решаването кой ще живее и кой ще умре – и как военните трябва да реагират на всякакви наистина автономни атаки.
„Мисля, че превръщането на изкуствения интелект в оръжие е най-голямата опасност“, каза Камерън в интервю за CTV през 2023 г. „Нямате способност да деескалирате“.
Реалният свят предлага няколко примера за технологии и военна политика, които се доближават неприятно до образите от „Терминатор“.
Използването на изкуствен интелект от Израел в последните му войни е водещ пример. В началото на 2021 г. Израел стартира Gospel, инструмент с изкуствен интелект, който сортира огромния масив от дигитализирана информация на Израел, за да предложи цели за потенциални удари. Също така разработи Lavender, който използва машинно обучение, за да филтрира поисканите критерии от разузнавателните бази данни и да стеснява списъците с потенциални цели, включително хора.
Lavender класира хората по скала между 0 и 100 въз основа на това колко е вероятно да са бойци, каза пред Асошиейтед Прес служител от разузнаването, използвал системите. Израелските военни твърдят, че техните анализатори използват системи с изкуствен интелект, за да помогнат за идентифицирането на цели, но ги изследват независимо заедно с високопоставени офицери, за да отговарят на международното право, като претеглят военното предимство спрямо страничните щети.
За някои разкритието – и броят на жертвите в Газа след атаките на Хамас срещу Израел на 7 октомври 2023 г. – се оказаха твърде близо до научната фантастика. „Е, хора, Skynet е тук – и има приятно име (Lavender)“, коментира един потребител на Reddit.
Не съвсем – но терминологията „Терминатор“ е толкова позната на масите, че американските служители понякога я използват, за да очертаят етичния дебат около военните приложения на AI. Конвенционалната червена линия би била премината, изглежда, когато хората не играят никаква роля в насочването и убиването от AI.
Военни служители допускат, че държава или друг участник би могъл да използва автономни оръжия, за да нанесе смъртоносна сила на враговете си. Това би означавало машина, както тогавашният заместник-председател на Обединения комитет на началник-щабовете генерал Пол Селва я описа през 2016 г., „като Терминатор, който добавя невероятни количества сложност без съвест към случващото се на бойното поле“.
Той нарече това, което щеше да последва, „главоблъсканицата на Терминатора“ – проблемът с технологиите, които могат да вземат решения на живот или смърт и да ги изпълняват, преди хората да са се споразумели за закона или правилата.
„Скайнет“ и неговите киборги остават в сферата на измислените неща. Но в бързо развиващия се пейзаж на развитието на AI, етичните и моралните въпроси, повдигнати от „Терминаторът“, са по-актуални от всякога. „Проблемът със Скайнет“, каза Камерън във видеоклип от 2024 г., „е реален“.
