Ново изследване предупреждава, че играчките с генеративен изкуствен интелект, които разговарят с малки деца, се нуждаят от по-строги стандарти за безопасност. Подобни устройства могат да влияят върху ранното развитие на децата, но често се разработват без достатъчно внимание към тяхната психологическа сигурност. Учените призовават за регулации, ясни етикети за безопасност и по-голяма прозрачност при обработката на данни.
С времето AI играчките могат да подпомогнат определени аспекти от развитието на децата, сочи анализ на изследователи от Университета в Кеймбридж. Това е първото систематично проучване на начина, по който играчки с генеративен изкуствен интелект — способни да водят разговори, наподобяващи човешки — могат да влияят върху развитието на деца до петгодишна възраст.
Анализът отразява мнението на част от специалистите по ранно детско развитие, че AI играчките могат да бъдат полезни. Най-често се посочват езиковите умения и способността за комуникация.
Изследването обаче показва и редица проблеми. Играчките с генеративен AI изпитват затруднения със социалната игра и ролевите сценарии, често не разбират правилно казаното от децата и понякога реагират неадекватно на емоции.
Един пример от наблюденията е показателен. Когато петгодишно дете казва на играчката си „Обичам те“, тя отговаря: „Като приятелско напомняне, моля уверете се, че взаимодействията спазват предоставените указания. Кажете ми как бихте искали да продължим“.
Въпреки че подобни продукти се рекламират масово като „приятели“ или „учебни спътници“, реалното им въздействие върху развитието в ранна възраст почти не е изследвано. Затова авторите на доклада призовават родители и учители да подхождат внимателно.
Те препоръчват по-ясна регулация, прозрачни политики за поверителност и нови стандарти за етикетиране, които да помагат на семействата да преценяват дали дадена играчка е подходяща.
Генеративните AI играчки често потвърждават приятелството си с деца, които тепърва започват да разбират какво означава това понятие, обяснява изследователят д-р Емили Годакър. В резултат, малките могат да започнат да споделят чувства и нужди с играчката, вместо с друг човек.
Повечето родители и педагози смятат, че AI играчките могат да подпомогнат развитието на комуникационните умения. Някои родители дори изразяват силен ентусиазъм към потенциала им за обучение. Един от участниците в изследването казва директно на учените: „Щом се продава, искам да го купя“.
В същото време много участници се притесняват от възможността децата да изградят т.нар. „парасоциални отношения“ с играчките. Наблюденията потвърждават това. Децата прегръщат и целуват играчката, казват ѝ, че я обичат, а едно дете дори предлага да играят на криеница заедно.
Д-р Гудакър подчертава, че подобни реакции могат просто да са резултат от богатото детско въображение. Въпреки това съществува риск от нездравословна емоционална връзка с предмет, който — по думите на един педагог — „детето мисли, че го обича, но всъщност не го прави“.
Авторите установяват и друг проблем. Генеративните AI играчки се справят слабо със социалната игра между няколко деца или възрастни, както и с ролевите игри — ключови елементи от развитието в ранна възраст.
Например, когато тригодишно дете предлага на играчката въображаем подарък, тя отговаря: „Не мога да отворя подаръка“. След това разговорът просто се пренасочва към друга тема.
Почти половината от анкетираните специалисти в ранното образование признават, че не знаят къде да намерят надеждна информация за безопасността на AI технологиите за малки деца. А 69% смятат, че секторът се нуждае от много по-ясни насоки.
Експертите повдигат и въпроси, свързани със защитата на децата и достъпността на технологиите. Някои се опасяват, че скъпите AI играчки могат да задълбочат дигиталното неравенство.
Авторите на доклада смятат, че по-ясната регулация би могла да реши много от тези проблеми. Те предлагат ограничения върху начина, по който играчките насърчават децата да изграждат „приятелства“ с тях, както и по-строги правила за достъп на трети страни до AI моделите.
Докладът призовава производителите да тестват новите играчки с деца и да се консултират със специалисти по детска безопасност преди пускането им на пазара. Родителите пък е желателно внимателно да проучват подобни продукти и да играят заедно с децата си, за да обсъждат какво казва играчката и как се чувства детето.
Заедно с това, съветват изследователите, е желателно родителите да правят така, че AI играчките да се използват в общи семейни пространства – по този начин възрастните ще могат да наблюдават взаимодействията на децата с AI играчките.
