Технологии за проследяване: накъде отива ЕС?

ЕС финансира разработването на множество нови инструменти за охрана и сигурност. Но кой решава докъде трябва да стигне властта на изкуствения интелект?

Патрик Брайер не е очаквал, че ще трябва да съди Европейската комисия. Кротко говорещият немски евродепутат се стреснал, когато през юли 2019 г. прочел за нова технология за разчитане на „микроизраженията” на лицето, която „разбира” кога някой лъже, докато отговаря на въпроси. Още по-стряскащо се оказало, че ЕС финансира разработването на тази технология, наречена iBorderCtrl, за потенциално използване при охраната на европейските граници. В статия, която Брайер прочел, репортерка описала как е била подложена на тест с технологията – на границата между Сърбия и Унгария. Тя казала истината, но изкуственият разум преценил, че е излъгала.

Бидейки член на комисията по граждански свободи на Европейския парламент и един от четиримата евродепутати от Пиратската партия, Брайер осъзнал, че етичните последици от iBorderCtrl са огромни. Той се притеснил, че ако подобна технология – или както сега го нарича, „псевдонаучен алабализъм за сигурността” – се окаже на разположение на онези, които отговарят за охраната на границите, много хора могат да се окажат лъжци, без да са излъгали – само защото са цветнокожи, жени, възрастни хора, деца или хора с увреждания.

Разчитайки законите на ЕС за прозрачността, Брайер поискал повече информация от Европейската комисия относно етиката и законността на проекта. Отговорът се оказал смущаващ: достъпът до информацията бил отказан – в името на защитата на търговските тайни.

И така Брайер решил да съди ЕК. Сега той иска Европейският съд да се произнесе дали публикуването на документите представлява обществен интерес. „Европейският съюз финансира незаконна технология, която нарушава основните човешки права и е неетична”, твърди Брайер, цитиран от Гардиън. Делото му най-вероятно ще влезе в съда през новата година. То ще има далечни последици. Милиарди евро публично финансиране се насочват ежегодно за изследване на противоречиви технологии за сигурност. Поне 1,3 млрд. евро повече ще бъдат налети в подобни разработки през следващите седем години.

Лица, гласове, вени

Horizon 2020 е водещата програма на ЕС за научни изследвания и иновации. От 2014 до 2020 г. по нея са дадени близо 80 млрд. евро безвъзмездни средства за проекти на учени.

Конкуренцията за парите от Horizon е ожесточена. Заплаща се за проучвания в области на такива неща като колоректален рак, болести, пренасяни от комари, подобряване на напояването в селското стопанство. Тази година финансирането на Horizon подкрепи германската компания BioNTech – една от първите компании, които обявиха успех в изпитванията на ваксини срещу Covid-19.

Но 1,7 млрд. евро от програмата през последните седем години са отишли за разработване на продукти за сигурност за охранителните служби и агенциите за граничен контрол в публичния и частния сектор. Голяма част от разработките включват модерни технологии: изкуствен интелект, безпилотни летателни апарати и добавена реалност, както и разпознаване на лице, глас, вени и ирис и други биометрични данни, които могат да бъдат използвани за разпознаване и наблюдение.

Консорциумът зад детекторната технология iBorderCtrl е получил 4,5 милиона евро от портфолиото за сигурност на Horizon 2020. Проектът е разработван в продължение на три години до август 2019 г.

Представители на ЕС казват, че подобни иновации са от решаващо значение за справяне с престъпността, тероризма и природните бедствия. Стратегическата цел е да се засилят охранителните компании на блока, които се конкурират със САЩ, Израел и Китай.

Но има нещо тревожно в целите, обществения надзор и евентуалното влияние на корпоративните интереси върху проектите за сигурност от Horizon. Седем настоящи и бивши експерти по етика, работещи по финансирани от ЕС проекти за сигурност, неотдавна изразиха пред Гардиън своите опасения относно влиянието на тези проекти. Етичните специалисти имат съмнения дали някои изследвания, подкрепени от Horizon, действително са в обществен интерес.

Основна загриженост сред етиците е, че контролът и критиката изглежда са целенасочено изтласкани настрана в стремежа да се представят новите технологии на пазара, дори когато те очевидно пораждат безпокойство относно неприкосновеността на личния живот и гражданските свободи. Но малко от данните се оповестяват публично. Подобно на Брайер, и на Гардиън е отказан достъп до документите за дейностите, законността и етиката на повече от дузина проекти за сигурност по Horizon 2020. Мотивът е, че огласяването им може да подкопае обществената сигурност и за „защитата на търговските интереси”.

Етика и технологии

Кандидатурите за финансиране по Horizon 2020 първо преминават през научен преглед. Ако бъдат одобрени да се финансират, следва преглед, проведен от екип от независими етици, наети като консултанти от Европейската комисия. Тези етици могат да одобрят даден проект или да поискат допълнителна оценка. Ала техните възможности за действително модифициране на даден проект са ограничени.

„Често проблемът е, че самата тема е неетична”, казва Джема Галдън Клавел – независим технически етик, оценил много проекти за изследвания в областта на сигурността по Horizon 2020 и партньор в повече от дузина други. „Някои теми насърчават партньорите да разработват биометрични технологии, които могат да работят отдалеч, така че не е възможно да се търси съгласието на гражданите – това е, което ме тревожи”.

Един проект, целящ разработването на такава технология, я описва като „ненатрапчива идентификация на личността”. Твърди се, че технологията може да се използва за идентифициране на хората, когато преминават граници. „Ако говорим за разработване на технологии, за които хората не знаят, че се използват, то как можем да направим подобно приложение етично”, пита Галдън Клавел.

Кристофер Лиден, изследовател от Института за изследвания на мира в Осло, който е работил по етичния компонент на множество проекти за сигурност на Horizon 2020, казва, че самото участие на експерти по етика в проектите за сигурност изглежда се приема като „печат за одобрение”, дори етиците да са изразили сериозни опасения и възражения. Той загатва, че рецензентите по етиката могат да бъдат подложени на натиск да одобряват проекти без много шум.

„Проектите могат лесно да бъдат тласнати напред заради търговската логика или заради общия технологичен оптимизъм, когато хората „поставят в скоби” етичните опасения, защото виждат новите технологии като положително развитие”, смята Лиден. Изследване за етиката от 2018 г. във финансирани от ЕС изследователски проекти докладва същото заключение.

За някои хора, които са се опитали да повдигнат публично въпроса за етиката, изглежда, може да има и последствия. През 2015 г. Питър Бърджис, философ и политолог, който тогава е бил член на три консултативни съвета за изследвания в сферата на сигурността по Horizon 2020, дава откровено интервю за немския обществен телевизионен канал ARD и репортер на Der Spiegel. В интервюто ученият изразява загриженост относно влиянието на индустрията върху изследванията, особено що се отнася до миграцията. „Бежанците се разглеждат като цели и обекти, които трябва да бъдат регистрирани”, каза Бърджис пред германските репортери.

Той бива освободен незабавно от трите консултативни съвета. Оттогава не участва в програмата. Двама други експерти по етика, пожелали да останат анонимни, казват пред Гардиън, че са отстранени от работата си по проекти за сигурност, финансирани от ЕС, след като са били твърде критични в своите оценки. Европейската комисия отрича подобни отстранявания. „ГД „Изследвания и иновации” не е получила искане за отстраняване на експерти по етика, участващи в оценките/проверките”, пише в официално писмо на дирекцията.

Етици, интервюирани от Гардиън, твърдят, че етичният надзор трябва да се използва, за да се гарантира, че ЕС работи в обществен интерес, а не да легитимира развитието на потенциално спорни технологии.

Корпоративни интереси

Мащабните инвестиции в сигурността на ЕС започнаха в началото на 2000-те години, след 11 септември. Лидерите на ЕС, загрижени от потенциала за по-нататъшни атаки, значително разшириха сътрудничеството с европейската отбранителна индустрия. През 2004 г. институциите на ЕС стартираха програма за изследвания в областта на сигурността, като обединиха висши служители от националните министерства на вътрешните работи и правоприлагащите агенции заедно с многонационални оръжейни и технологични корпорации. Тази програма бе създадена да постави основите на финансирането на разработки за сигурността в Horizon 2020, което все повече се фокусира върху развитието на биометрични и други технологии за наблюдение.

Бърджис подчертава ролята, която играят корпоративните интереси. „Вече в подготвителната фаза имаше голямо участие на индустрията”, казва той. „Но сред участниците от публичния и частния сектор беше споделено виждането, че устройствата ни правят по-сигурни – по-големи оръжия, по-високи стени, биометрични данни… Още от 11 септември и терористичните атаки в Мадрид през 2004 г. и Лондон през 2005 г. това стана голям бизнес”.

Цифрите показват, че Horizon 2020 е особено полезна за частния сектор: от 2007 г. насам частните компании са получили 42% от 2,7 млрд. евро, разпределени от програмата за изследвания в сферата на сигурността. Това прави почти 1,15 млрд. евро. Частни фирми са били водещи партньори в почти половината от всички 714 финансирани проекта. Други участници, като изследователски институти и публични органи, изостават далеч назад.

„Това беше подходът на комисията, за добро или лошо: да се направи това, което е най-добро за Европа”, каза Бърджис. „Това не е тайна система, а си е публична политика”.

Докато окончателните решения за финансиране се вземат от националните служители и служителите на ЕС, има и един орган, наречен Консултативна група за защита и сигурност (PASAG), който предоставя съвети относно годишните работни програми за изследвания в областта на сигурността. Те определят видовете изследвания, които ще бъдат финансирани.

Критиците повдигат въпроса къде е отговорността за посоката на финансираните от ЕС изследвания в областта на сигурността. PASAG има 15 члена, привлечени предимно от частния сектор и изследователските институции в цяла Европа. Публичните документи на Европейската комисия загатват за приноса на PASAG за определяне на научноизследователските приоритети и за насърчаване на връзките между съществуващата програма за изследвания на сигурността с новото финансиране на военните технологии.

Десетима членове на PASAG са декларирали интереси, свързани с тяхната работа по Horizon 2020, според публични документи, регистрирани в комисията. Групата се председателства от Алберто де Бенедиктис – бивш главен изпълнителен директор на британското подразделение на Leonardo, италианска отбранителна компания, която е участвала в 26 проекта и е получила 11,3 млн. евро от бюджета на ЕС за изследвания в областта на сигурността от 2007 г. Де Бенедиктис се присъединява към PASAG през 2016 г., след като се е оттеглил от Leonardo през предходната година. Друг член ръководи консултантска фирма MSB Consulting, която работи със секторите на отбраната и сигурността и чиито клиенти са посочени като охранителни компании, както и с Европейската комисия и Европейската агенция по отбрана. Друг член на PASAG работи за университета Льовен в Белгия, който през годините е получил милиони от Horizon 2020 и други програми за сигурност.

В момента само един от 15-те членове работи за организация на гражданското общество. Нито един от членовете не е декларирал принадлежност към организации за човешките права или етика. „Съставът на PASAG отразява възможно най-широкото представителство”, твърди говорител на Европейската комисия.

Де Бенедиктис казва, че PASAG предоставя само насоки на високо ниво и че участието на индустрията в групата не представлява конфликт на интереси. Той подчертава, че отговорността за приоритетите за финансиране на научните изследвания е на правителствата. „Държавите-членки в крайна сметка са тези, които вземат решения”.

Жан-Люк Гала, бивш офицер от белгийската армия и академик от Университета Льовен, специализиран в областта на биооръжията, също отхвърля възможността за конфликт на интереси. Той предполага, че експертите от индустрията и академичната общност, които консултират комисията по проектите за технологии за сигурност, са „нещо изцяло позитивно”. PASAG има колективна роля, при която „няма място за индивидуални възгледи, нито възможност за прокарване на индивидуален интерес”, добавя той.

Covid, страхове и благосклонност

За следващите седем години (2021–27) Horizon 2020 ще бъде преименувана на Horizon Europe. Очакваният общ бюджет е 86 млрд. евро, от което финансирането за сигурност е около 1,3 млрд. евро.

Допълнителен бюджет от най-малко 8 млрд. евро обаче ще бъде насочен към изследвания и развитие на военни технологии. Изричната цел е да се финансират технологии с двойна употреба – с граждански и военни приложения. Редица предварителни проекти са изследвали различни системи и технологии за наблюдение.

Борбата срещу Covid-19 допълнително ускори натиска на европейските правителства за разработване на технологии за наблюдение, включително безпрецедентно използване на дронове за наблюдение, проследяване на данни, разпознаване на лица и други форми на биометрия – всичко с цел налагане на карантина и проследяване на контактите. Полша, например, пусна приложение, което призовава карантираните граждани да качват селфита през целия ден, за да докажат, че са си вкъщи. Приложението разчита на геолокация и технология за разпознаване на лица и уведомява полицията, когато потребителите не реагират.

Алгоритмите за разпознаване на лица са печално известни със своите слабости. Но това не е всичко. Националните приложения за проследяване на Covid не са финансирани от Horizon, но някои изследователи, които работят или са работили по проекти, подкрепяни от ЕС, се страхуват, че това е началото на „финансирана от ЕС надпревара за разработване и тестване на нови биометрични и други технологии за сигурност”, която се разгаря точно в този момент – сега, когато опасенията за общественото здраве карат много европейци да приемат следенето по-благосклонно.

На дневен ред застава въпросът: кой решава с какъв тип държавно наблюдение ще живеят европейците?

Наред с това няма систематичен начин европейската общественост да бъде информирана по тези проблеми. Още по-малко пък има възможности гражданите на ЕС да оспорят дали искат данъчните им пари да допринасят за развитието на биометрични и други технологии за наблюдение в стил Оруел. Подобно на Брайер, редакторите на Гардиън са поискали (съгласно законите на ЕС за прозрачност) достъп до десетки документи, изготвени по 15 проекта, финансирани от Horizon 2020, целящи разработването на нови форми на биометрични технологии. Исканите документи включват етични и правни оценки на всеки проект. Но след месеци чакане и подаване на жалби на редакцията е казано, че много от докладите за дейността и някои от етичните доклади трябва да останат поверителни поради съображения за сигурност и защита на търговските интереси.

Самият Брайер казва, че е нелепо евродепутат да съди ЕС, за да получи информация за публично финансиран проект. Според него, в случая е заложен по-голям въпрос: това кой решава какъв вид технологично развитие наистина е в обществен интерес.