Има ли нужда от… Комисия за оценка на новите технологии?

Бъдещото въздействие на дадена технология често е отвъд човешкото въображение
(снимка: CC0 Public Domain)

Последните години в развитието на технологиите провокираха мнозина специалисти отвъд океана да настояват за възраждането на местната Агенция за оценка на технологиите – независим орган, натоварен с отговорната задача да оценява важността на най-иновативните разработки и да помага на законодателите в бъдещото регулиране на нововъзникващите системи. Днес подобна комисия не съществува нито в САЩ, нито другаде по света, а депутатите често пъти не разбират материята. За създаването на регулациите те разчитат на онова, което им казват шефовете на частни технологични фирми.

Горе-долу по времето, когато персоналният компютър представлява цяла стая с машинария, една друга машина си проправя път в отделите за човешки ресурси в САЩ и се превръща в основна част от рутинните проверки за заетост. До началото на 80-те години около 2 милиона американци годишно се оказват вързани за полиграф: метална кутия, която – според мнозина – може да открива измама. Повечето от тестваните не са заподозрени мошеници или престъпници.

Тогава Агенцията за технологична оценка в САЩ решава да се намеси. Това е независима служба, създадена от Конгреса около десетилетие по-рано, за да служи като научно-консултантско звено. Службата се обръща към изследователя от Бостънския университет Ленард Сакс със задача: „оценете полиграфа; кажете ни истината за тези предполагаеми устройства за разказване на истината”.

Научна експертиза

Сакс събира екип от около дузина изследователи. Сред тях са учени от авторитетни университети. Групата провежда интервюта, разглежда съществуващите проучвания и прави свои собствени, нови изследвания. Няколко месеца по-късно АОТ публикува техническа бележка „Научно-обоснована валидност на тестването с полиграф: преглед и оценка на изследването”.

Въпреки масовото използване на тестовете, в анализа прилежно се съобщава, че „има много малко изследвания или научни доказателства за установяване на валидността на теста с полиграф в ситуации на скрининг, независимо дали са преди наемане на работа, предварително одобрение, периодични или непериодични, произволни или планирани”. Накратко, тези машини не могат да откриват лъжи.

Четири години по-късно, през 1987 г., по време на изслушване в Конгреса критиците се позовават на доклада на АОТ като авторитетен, сравнявайки полиграфа подигравателно с „гледане на боб или взиране в кристална топка”. Скоро Конгресът приема строги ограничения за използването на полиграф на работното място.

През своята 23-годишна история АОТ ще публикува около 750 доклада – дълги, интердисциплинарни оценки на конкретни технологии. Ще предлага и начини за максимизиране на ползите и минимизиране на вредите. Анализираните направления включват какво ли не: електронно наблюдение, генно инженерство, изхвърляне на опасни отпадъци и дистанционно наблюдение от космоса. Конгресът определя курса: агенцията инициира проучвания само по искане на негови членове.

Разследванията са независими. Служители и консултанти от правителството и извън него си сътрудничат, за да отговорят на навременни и понякога политизирани въпроси. Докладите търсят отговор на притесненията относно тревогите от технологичния напредък и смекчават хипотезите, звучащи страшно. Някои от тези опасения са от огромна социална значимост. Например „Насекомите предават ли СПИН?” Доклад на AOT от 1987 г. правилно предполага, че не го правят.

В много случаи агенцията функционира като авторитетен орган за развенчаване на митове.

Под влиянието на частния бизнес

Днес обаче една от най-значимите технологии в света – изкуственият разум – шества тържествено във всички сфери на живота. А американската АОТ не съществува. Нито има аналог някъде другаде по света.

През годините след безцеремонното спиране на финансирането ѝ от време на време се чуват призиви: съживете агенцията! С напредъка в роботиката, големите данни и системите за изкуствен интелект тези подкани придобиват нова значимост.

Подобно на полиграфа, днес системите с така наречения изкуствен интелект нахлуват във всяка сфера на дейност с блясък и трясък. И ако не сме внимателни, политици, работодатели и други лица, вземащи решения, може да приемат за чиста монета идеята, че машините могат и трябва да заменят човешката преценка и квалификация.

Светът има нужда от поне една АОТ за овладяване на опасни или твърде прехвалени технологии. В противен случай „е твърде вероятно политическият елит добродушно да повярва на думите на Сам Алтман за всичко – или пък на Ерик Шмид”, както казва Райън Кало, специалист от Лабораторията за техническа политика на Университета на Вашингтон. Да оставим шефовете на частните технологични компании да „образоват” законотворците по света е все едно да оставим лисицата да ни казва как се строи кокошарник. Попилените ресурси и неадекватните защити може да са само началото.

Без съмнение все още съществува независима експертиза. Има университети, има институти, има академии на науките. Има комисии – по ценните книжа и борсите, по транспорта и съобщенията и др. Но никъде няма една голяма, напълно независима и неподкупна агенция, която да събира в едно експертизата на всичките тези институти и държавни органи.

Няма такава агенция, която изцяло да се посвети на изследването на нововъзникващите технологии по сериозен и задълбочен начин и да дава оценка на важността им – трезво, обосновано и дългосрочно. Такава агенция би следвало да прави изчерпателни технически изследвания и да има аналитичен капацитет на мозъчен тръст, разчитайки на солиден персонал и стабилно финансиране.

Поуки от историята

Американската АОТ не се е появила лесно. Това става в далечната 1972 г. По това време списание Science описва събитието под следното заглавие: „Агенция за оценка на технологиите: Конгресът се усмихва, учените трепват”.

Един изследовател от Bell Labs, цитиран от Science, се опасява, че законодателите ще се впуснат в „тромав, разрушителен опит да управляват националната научноизследователска и развойна дейност”. Страховете на бизнеса произтичат най-вече от несигурността какво точно включва оценката на технологиите.

Първият доклад на АОТ от 1974 г. изследва биоеквивалентността – съществена част от оценката на генеричните лекарства. Регулаторите се опитват да разберат дали тези лекарства могат да се считат за сравними с техните маркови еквиваленти без дълги и скъпи клинични проучвания, демонстриращи тяхната безопасност и ефикасност. За разлика от всички последващи оценки на АОТ, тази изброява специфични препоръки за политиките, като например изясняване какви данни трябва да се изискват, за да се оцени генерично лекарство и да се осигури еднаквост и стандартизация в процеса на регулаторно одобрение.

Оттогава нататък обаче АОТ се въздържа от препоръки. Агенцията прави проучвания и предоставя на политиците добре обоснован набор от възможности, които представляват набор от експертни мнения.

Може би изненадващо, като се има предвид популяризирането на комерсиалните персонални компютри, през първото десетилетие от своето съществуване АОТ изготвя само няколко доклада относно изчисленията. Един доклад от 1976 г. засяга автоматизираното управление на влаковете. Други изследват компютъризирани рентгенови изображения, по-известни като компютърна томография; компютъризирани бази данни за престъпления; използването на компютри в медицинското образование.

С течение на времето продукцията на офиса непрекъснато се увеличава. В крайна сметка достига средно 32 доклада годишно. Персоналът достига максималния си брой от 143 души.

Въпреки че понякога се казва, че бъдещото въздействие на дадена технология е отвъд човешкото въображение, немалко открития на агенцията се оказват особено далновидни. Доклад от 1982 г. за електронния трансфер на средства прогнозира, че финансовите транзакции все повече ще се извършват по електронен път (очевидно предизвикателство за хартиената валута). Друг прогнозира, че електронната поща – или това, което тогава бива наречено „системи за електронни съобщения” – ще промени из основи обикновената поща и работата на пощенските служби.

Много от докладите на АОТ се фокусират върху конкретни събития или технологии. Службата проучва осъществимостта на водопровод, свързващ Аляска с Калифорния, последиците за здравето от петролните пожари в Кувейт и използването на сателитни изображения от медиите.

В онова далечно време службата се занимава и с проблеми, с които все още се борим днес – оценка на автоматичните проверки на досиета на хора (например в застрахователния свят), проверка на обезщетенията за увреждания, за които има данни, че са причинени от ваксини, и преценка дали трябва да изследваме Марс.

Достъпно и разбираемо

От чисто прагматична гледна точка АОТ пише своите анализи достъпно и разбираемо. Докладите ѝ са посочени като образец за добра комуникация. Всички биват свободно възпроизвеждани и разпространявани както в печатен, така и в електронен вид. Целият архив се съхранява на CD-ROM, а дигитализирани копия все още са свободно достъпни за изтегляне на уебсайт, поддържан от Принстънския университет, като сериозен оазис на компетентност в затворения свят на федерални документи.

Днес подобна агенция няма. Но основният проблем остава: законодателите не могат да бъдат в крак с бързия технологичен напредък. Политиците често са изправени пред избор между това да регулират с недостатъчни факти и да не правят нищо.

През 2018 г. Адам Кинзингер, конгресмен по онова време, признава пред група учени в света на квантовите изчисления: „Успявам да разбера около 50% от нещата, които казвате”. За някои признанието му се тълкува като „масова техническа неграмотност”, която засяга управляващите.

Но повечето хора са на мнение, че не бива да се очаква народните представители да знаят всичко. Те не могат да имат задълбочена експертиза във всяка научна и технологична област. Затова им е нужен доверен съветник. Ето я причината да има нужда от такава агенция, каквато е била АОТ.