С правна рамка Европа се стреми да гарантира отговорно използване на AI
(снимка: CC0 Public Domain)
Съветът на Европа прие първия по рода си международен правно обвързващ договор, целящ да гарантира зачитането на правата на човека, върховенството на закона и правните стандарти на демокрацията при използването на системи с изкуствен интелект (AI).
Договорът, който е отворен и за неевропейски държави, определя правна рамка, която обхваща целия жизнен цикъл на системите с изкуствен интелект и адресира рисковете, които те могат да породят, като същевременно насърчава отговорните иновации.
Конвенцията възприема основан на риска подход към проектирането, разработването, използването и извеждането от експлоатация на AI системи, което изисква внимателно разглеждане на всички потенциални отрицателни последици от използването им.
Рамковата конвенция на Съвета на Европа за изкуствения интелект и човешките права, демокрацията и върховенството на закона беше приета днес в Страсбург по време на годишната министерска среща на Комитета на министрите на Съвета на Европа, която събира министрите на външните работи на 46-те страни-членки на Съвета на Европа.
„Рамковата конвенция за изкуствения интелект е първият по рода си глобален договор, който ще гарантира, че изкуственият интелект защитава правата на хората”, заяви Генералният секретар на Съвета на Европа Мария Пейчинович.
„Това е отговор на необходимостта от международен правен стандарт, подкрепен от държави на различни континенти, които споделят едни и същи ценности, за да се използват предимствата на изкуствения интелект, като същевременно се смекчат рисковете. С този нов договор ние се стремим да гарантираме отговорно използване на AI, което зачита човешките права, върховенството на закона и демокрацията”, допълни тя.
Конвенцията е резултат от двугодишна работа на междуправителствен орган, Комитетът по изкуствен интелект (CAI), който събра за изготвянето на договора 46-те държави-членки на Съвета на Европа, Европейския съюз и 11 държави, които не са членки (Аржентина , Австралия, Канада, Коста Рика, Светия престол, Израел, Япония, Мексико, Перу, Съединените американски щати и Уругвай), както и представители на частния сектор, гражданското общество и академичните среди, които участваха като наблюдатели.
Договорът обхваща използването на AI системи в публичния сектор – включително компании, действащи от негово име – и в частния сектор. Конвенцията предлага на страните два начина за спазване на нейните принципи и задължения при регулиране на частния сектор: страните могат да изберат да бъдат пряко задължени от съответните разпоредби на конвенцията или, като алтернатива, да предприемат други мерки за спазване на разпоредбите на договора, като същевременно зачитат изцяло своите международни задължения по отношение на правата на човека, демокрацията и върховенството на закона. Този подход е необходим, поради различията в правните системи по света.
Конвенцията установява изисквания за прозрачност и надзор, съобразени с конкретни контексти и рискове, включително идентифициране на съдържание, генерирано от системи с изкуствен интелект.
Страните ще трябва да приемат мерки за идентифициране, оценка, предотвратяване и смекчаване на възможните рискове и да оценят необходимостта от мораториум, забрана или други подходящи мерки относно използването на системи с изкуствен интелект, когато техните рискове може да са несъвместими със стандартите за правата на човека.
Те също така ще трябва да осигурят отчетност и отговорност за неблагоприятни въздействия и че системите за AI зачитат равенството, включително равенството между половете, забраната на дискриминацията и правата на поверителност.
Освен това страните по договора ще трябва да осигурят наличието на правни средства за защита за жертвите на нарушения на правата на човека, свързани с използването на AI системи, и процедурни гаранции, включително уведомяване на всички лица, взаимодействащи с AI системи, че те взаимодействат с такива системи.
Що се отнася до рисковете за демокрацията, договорът изисква страните да приемат мерки, за да гарантират, че системите за AI не се използват за подкопаване на демократичните институции и процеси, включително принципа на разделение на властите, зачитане на съдебната независимост и достъп до правосъдие.
От страните по конвенцията няма да се изисква да прилагат разпоредбите на договора към дейности, свързани със защитата на интересите на националната сигурност, но ще бъдат задължени да гарантират, че тези дейности зачитат международното право и демократичните институции и процеси.
Конвенцията няма да се прилага по въпроси на националната отбрана, нито по отношение на научноизследователски и развойни дейности, освен когато тестването на системи с AI може да има потенциал да се намеси в човешките права, демокрацията или върховенството на закона.
За да се гарантира ефективното ѝ прилагане, конвенцията установява механизъм за последващи действия под формата на Конференция на страните.
И накрая, конвенцията изисква всяка страна да създаде независим механизъм за надзор, за да следи за спазването на конвенцията, и да повишава осведомеността, да стимулира информиран обществен дебат и да провежда консултации с множество заинтересовани страни за това как трябва да се използва AI технологията.
Рамковата конвенция ще бъде открита за подписване във Вилнюс (Литва) на 5 септември по повод конференция на министрите на правосъдието.