Президентът на Microsoft: „1984” на Оруел може да се случи през 2024

„Ако не приемем закони, които да защитят обществеността в бъдеще, ще открием, че технологията напредва и ще бъде много трудно да се навакса”, предупреди Брад Смит
(снимка: Microsoft)

Ако сте си помисляли, че животът, както е описан от Джордж Оруел в антиутопията на всички времена „1984”, е на път да се случи сега, не сте сами. Това „може да се осъществи през 2024 г.”, предупреди и президентът на Microsoft.

Ще бъде „трудно да се навакса” с бързо напредващите технологии, каза Брад Смит в коментар пред BBC. Като конкретен пример той посочи Китай, където стотици хиляди камери и изкуствен интелект наблюдават гражданите на всяка крачка.

„Ако не приемем закони, които да защитят обществеността в бъдеще, ще открием, че технологията напредва и ще бъде много трудно да се навакса”, каза г-н Смит. „Постоянно ми напомня уроците на Джордж Оруел в книгата му „1984”. Знаете основната история… за правителство, което можеше да види всичко, което всички правеха, и да чува всичко, което всеки казва по всяко време. Е, това не се случи през 1984 г., но ако не внимаваме, може да се случи през 2024 г.”

Изкуствен интелект по китайски

В някои части на света реалността все повече догонва този възглед, смятан за „чиста научна фантастика”, добави Смит. Амбицията на Китай е да стане световен лидер в сферата на изкуствения разум до 2030 г. и мнозина смятат, че способностите му са далеч отвъд тези на ЕС.

Ерик Шмид, бивш главен изпълнителен директор на Google, който сега е председател на Комисията за национална сигурност на САЩ за изкуствен интелект, предупреди, че вземането на мерки спрямо Китай и нейния „напредък” в изкуствения разум е „наложително”.

„Ние сме в стратегически геополитически конфликт с Китай”, каза той. „Начинът да спечелим е да мобилизираме всичките си ресурси, за да имаме национални и глобални стратегии за победа на демокрацията в сферата на изкуствения интелект. Ако не го направим, чака ни бъдеще, в което ще ни наложат други ценности”.

Д-р Лан Сю, технологичен съветник на китайското правителство, казва, че разпознаването на лица може да се окаже „изключително полезно” при идентифициране на хората при масови събирания, ако има „голям инцидент”. „Китай наистина постигна огромен напредък в технологичното развитие”, добави д-р Сю. „[САЩ] смятат, че това е заплаха… и те поискаха да започнат тази Студена война в технологиите”.

Въпреки че Китай има много различни ценности и политика, „визията на страната за света не е за сближаване, а за съвместно съществуване”, каза д-р Кейу Джин, доцент в Лондонското училище по икономика. „Китай не се стреми да изнася своите ценности”, добави тя.

Проект „Maven”

Ерик Шмид е съветник на Пентагона от 2016 г., като същевременно той запази позицията си на изпълнителен председател на Alphabet, компанията-майка на Google. През следващите години Google започна работа по договор с Пентагона, което позволи на фирмата да използва някои от своите технологии за разпознаване на изображения като част от военен проект. „Maven” разчита на машинно обучение, за да различава хора и обекти във видеоклипове, заснети с дронове.

„По онова време Maven беше начин да заменим човешките очи с автоматично зрение за кадрите с дронове, които се използваха в различните арабски конфликти”, разказва Шмид. „Разглеждах използването на тази технология като нещо положително, полезно за националната сигурност – и добро партньорство за Google”.

„Кръв по ръцете”

Но проектът стана обект на критики от служители на Google, които подадоха оставки и петиция срещу проекта. „Google не трябва да участва във военния бизнес”, заяви софтуерният инженер Лора Нолан, която подаде оставка през 2018 г., когато откри естеството на проекта, по който работи в Google. „Имах чувството, че имам кръв по ръцете си”.

Тя твърди, че технологията може да се използва при бъдещи решения за определяне на военни цели. Google обаче заяви, че нейният AI ще се използва само за безобидни цели, преди напълно да се оттегли от проекта „Maven” през юни 2018 г.

Д-р Шмид смята, че технологиите, които могат да помогнат на военните да вземат правилните решения, са „добро нещо”.

„Надпревара във въоръжаването” в света на AI

Но вече започналата „надпревара във въоръжаването” в света на изкуствения разум няма да секне толкова лесно. Пентагонът продължава да търси партньорства в Силициевата долина. Целта е да спечели „световната надпревара за въоръжение с изкуствен интелект”.

Сет Моултън, председател на Оперативната група за бъдещето на отбраната на САЩ, призовава технологичните компании да подкрепят Министерството на отбраната. „Тъй като ние участваме в състезание, в надпревара, то нещата се свеждат точно до това”, обясни той. „Ще ни помогнете ли да спечелим това състезание или по същество ще бъдете срещу нас?”

Неговото виждане е, че рано или късно новите оръжия на двете големи сили ще се изправят едни срещу други. „Може ли надпреварата за въоръжаване с изкуствен интелект да доведе до конфликт с Китай? Абсолютно”, категоричен е Моултън.

Д-р Сю се съгласява, че има потенциал за конфликт. „Но това не е неизбежно – САЩ и Китай трябва наистина да си сътрудничат, за да предотвратят това”.