Американските власти започват разследване на безопасността на чатботове с изкуствен интелект за децата. На проверка подлежат AI приложенията на OpenAI, Meta, Google, xAI и други разработчици.
Федералната търговска комисия на САЩ (FTC) започна разследвания срещу седем големи технологични компании, включително Alphabet (Google), Meta, OpenAI, xAI и Snap, за да определи дали техният изкуствен интелект може да повлияе негативно на децата и тийнейджърите.
Регулаторът е издал заповеди, изискващи от тези компании да предоставят подробна информация за мерките за безопасност, прилагани към техните чатботове, които са способни да симулират човешка комуникация и междуличностни отношения, съобщи CNBC.
По-специално, FTC се интересува от това как компаниите оценяват рисковете, свързани с AI помощниците, как монетизират ангажираността на потребителите, как разработват и одобряват виртуални герои, как използват или споделят лични данни и какви контролни и смекчаващи механизми са въвели.
Председателят на FTC Андрю Фъргюсън подчертава, че защитата на децата онлайн остава ключов приоритет за агенцията, наред с подкрепата на иновациите в критични сектори на икономиката.
Реакциите на компаниите са различни. Meta е отказала коментар пред CNBC, докато Alphabet, Snap и xAI не са отговорили веднага на исканията за коментар.
Говорител на OpenAI казва пред CNBC, че приоритет на компанията е да гарантира, че ChatGPT е едновременно полезен и безопасен за всички потребители, особено за младите хора. OpenAI е отворена за сътрудничество с регулатора.
Списъкът с разследвани компании включва също Character Technologies (създателя на чатбота Character.ai) и Instagram, притежавана от Meta.
Засиленото внимание на FTC към тази тема се дължи на скорошни инциденти. Например, след публикация на Ройтерс сенатор Джош Хоули започна разследване на Meta: според доклада, чатботовете могат да водят опасни разговори с деца.
В отговор Meta временно затегна правилата за своя изкуствен интелект, забранявайки дискусии, свързани със самоубийство, самонараняване и хранителни разстройства, както и ограничавайки „чувствителните” диалози.
OpenAI предприема подобни мерки: компанията обяви преглед на ChatGPT след съдебен иск от семейство, обвиняващо чатбота в косвено участие в смъртта на тийнейджър.
