Китайската администрация за киберпространство (CAC) публикува за обществено обсъждане проект на регламенти за услугите с изкуствен интелект в страната, който е безпрецедентен по своя замисъл и обхват.
Предложените регламенти ще се прилагат за продукти и услуги, които използват AI технологии, за да имитират човешки личностни черти, модели на мислене и стилове на комуникация, и които осигуряват емоционално взаимодействие с потребителите чрез текст, изображения, аудио или видео, според публикация на страницата на CAC в WeChat.
CAC отбелязва, че проектът се основава на всеобхватен, премерен и многопластов регулаторен подход с диференциран надзор, базиран на нивата на риск, като гарантира както подкрепа за иновациите, така и защита от злоупотреби.
Проектът забранява създаването и разпространението на съдържание, което заплашва националната сигурност, уврежда националната чест или интереси, подкопава етническото единство, насърчава незаконна религиозна дейност, разпространява слухове, които нарушават икономическия или социалния ред, съдържа порнография, включва хазарт, насилие или подбужда към престъпления.
Съдържание, което насърчава или възхвалява самоубийство или самонараняване, също е забранено, както и действия като словесни обиди или емоционална манипулация, които могат да навредят на физическото или психическото здраве на потребителите или да подкопаят тяхното достойнство, отбелязва Ройтерс.
Според документа, доставчиците на услуги с изкуствен интелект трябва да поемат отговорност за проблемите със сигурността през целия жизнен цикъл на продукта и да създадат системи за одит на алгоритми, защита на данните и опазване на личната информация.
Доставчиците на AI услуги трябва да информират потребителите, че взаимодействат с изкуствен интелект, а не с хора, и да ги предупреждават за опасностите от прекомерната употреба. Те също така ще бъдат задължени да оценяват емоциите на потребителите и нивото им на зависимост от услугата.
В документа се посочва, че ако потребителите проявяват силни емоции или пристрастяващо поведение, доставчиците на услуги ще бъдат задължени да предприемат подходящи мерки.
Лин Уей, президент на Югозападния университет за политически науки и право, коментира в обяснителна бележка към проекта, че пробивите в технологиите с изкуствен интелект изместват взаимодействието човек-машина отвъд обикновената функционална помощ към емоционални и персонализирани взаимодействия.
Тази еволюция, по думите на Уей, макар и да променя парадигмите на социалното взаимодействие, поражда и редица нови рискове и предизвикателства.
Ученият отбелязва, че проектът за регулаторни мерки е насочен към управление на рисковете, произтичащи по-специално от антропоморфизма (пренасянето на човешки характеристики върху неодушевени предмети) и емоционалното взаимодействие, с особен акцент върху размиването на границите между хора и машини.
