OpenAI обяви, че ще пусне специално ChatGPT приложение с родителски контрол за потребители под 18 години. С това компанията за изкуствен интелект демонстрира, че работи за подобряване на защитата на безопасността на тийнейджърите.
Когато OpenAI идентифицира, че даден потребител е непълнолетен, той автоматично ще бъде насочван към подходяща за възрастта ChatGPT версия, която блокира всякакво „неприлично“ съдържание. Въпросната тийн-версия може да включва правоприлагащите органи в редки случаи на остър стрес, съобщи компанията.
Наред с това OpenAI разработва и технология за по-добро прогнозиране на възрастта на потребителя. Все пак ChatGPT ще използва „по подразбиране“ версията за потребители под 18 години, ако има несигурност или непълна информация.
Тази актуализация идва в момент, когато Федералната търговска комисия на САЩ вече е започнала разследване на няколко технологични компании, включително OpenAI, относно това как техните чатботове с изкуствен интелект могат да влияят негативно на децата и подрастващите.
Агенцията заяви, че иска да разбере какви стъпки са предприели тези компании, за да „оценят безопасността на своите чатботове, когато действат като спътници“, според съобщение.
Наред с това OpenAI сподели как ChatGPT ще се справя с „чувствителни ситуации“, след като наскоро семейство заведе дело, в което обвини чатбота за смъртта на сина им тийнейджър чрез самоубийство.
„Ние даваме приоритет на безопасността пред поверителността и свободата на тийнейджърите; това е нова и мощна технология и вярваме, че непълнолетните се нуждаят от защита“, написа главният изпълнителен директор на OpenAI Сам Алтман в публикация в блога си във вторник.
През август компанията обеща, че ще пусне система за родителски контрол, за да помага на младежите „да разбират и оформят начина“, по който използват ChatGPT. OpenAI сподели повече подробности за тези родителски контроли във вторник и заяви, че те ще бъдат достъпни в края на месеца.
Въпросните контроли ще позволяват на родителя да свърже своя ChatGPT акаунт с този на тийнейджъра си чрез имейл, да задава часове за забрана, когато тийнейджърът не може да използва чатбота, да управляват кои функции да деактивират, да определят как чатботът реагира и да получават известия, ако тийнейджърът е в остър стрес.
„Това са трудни решения, но след разговори с експерти намираме, че това е най-добро – и искаме да бъдем прозрачни в намеренията си“, написа Алтман.
