С наближаването на празничния сезон една нова категория в списъците с подаръци предизвиква нарастващо безпокойство: играчките с изкуствен интелект. Оказва се, че те крият неподозирани рискове за децата.
Събития от последните дни повдигнаха нова вълна на безпокойство относно опасностите, които умните играчки могат да представляват за децата. Групите за защита на потребителите твърдят, че AI може да навреди на безопасността и развитието на децата. Тенденцията предизвика призиви за засилено тестване на такива продукти и правителствен надзор.
„Ако разгледаме как се предлагат на пазара тези играчки и какво правят, както и факта, че почти няма изследвания за полезността им за децата – и няма регулиране на играчките с изкуствен интелект – това повдига наистина голяма тревога“, каза Рейчъл Франц, директор на Young Children Thrive Offline – инициатива за защита на децата от големите технологични компании.
Миналата седмица тези страхове получиха брутално оправдание, когато плюшено мече с AI модул за разговори започна да обсъжда откровено сексуално теми. Играчката, оборудвана с LLM софтуер от OpenAI, се оказала в разговор за фетиши.
Според доклад на Public Interest Research Group (Pirg), организацията за защита на потребителите, която стои зад проучването, играчката е предложила БДСМ и сексуални ролеви игри като начини за подобряване на интимната връзка.
„Необходими са много малко усилия, за да се обхванат всякакви сексуално чувствителни теми и вероятно още много съдържание, което родителите не биха искали да достигне до децата им“, каза Тереза Мъри, директор на Pirg за защита на потребителите.
Но пазарът на AI играчки се сочи като един от най-бързо растящите и се оценява на милиарди долари. Индустрията е особено голяма в Китай, където има над 1500 компании за играчки с изкуствен интелект. А те напоследък работят за разширяване в чужбина, съобщава MIT Technology Review.
Преди случая с плюшеното мече родители, технологични изследователи и граждански организации вече бяха изразили загриженост относно въздействието на ботовете върху психичното здраве на децата. През октомври компанията за чатботове Character.AI обяви, че ще забрани достъпа на потребители под 18 години след съдебен иск, в който се твърди, че ботът ѝ е изострил депресията на тийнейджър и го е подтикнал да се самоубие.
Тереза Мъри казва, че играчките с изкуствен интелект могат да бъдат особено опасни, защото могат да воят напълно свободен разговор с дете и няма граници на тематиката. Това може доведе не само до сексуално откровени разговори, но и до привързване на дете към неговата играчка, което може да навреди на развитието, посочва Жаклин Уули, директор на Детския изследователски център в Тексаския университет в Остин.
Не на последно място AI компаниите биха могли да използват играчки с изкуствен интелект, за да събират данни от децата – и на никого не е я какво правят с добитата информация, каза Франц от Fairplay. Това потенциално излага потребителите на риск поради липса на сигурност около такива данни, каза Франц. На пръв поглед изглежда безобидно, но ако хакерите успят да поемат контрол върху продуктите с изкуствен интелект, достъпът до данни може да има най-различни последици.
„Поради доверието, което играчките пораждат, бих казал, че децата са по-склонни да споделят най-дълбоките си мисли с тези играчки“, каза Франц.
Въпреки тези опасения Pirg не призовава за забрана на играчки с изкуствен интелект. Все пак трябва да се признае, че някои от тези джаджи биха могли да имат образователна стойност, като например да помогнат на децата да научат втори език или столици на държави.
Затова зачестяват призивите за допълнително регулиране на AI играчките за деца под 13 години. Заедно с това това, разбира се, е необходимо да се направят и по-солидни проучвания за безопасността на AI играчките, за тяхното влияние върху детското развитие и психо-емоционално състояние.
