OpenAI подробно описа плановете си за справяне с недостатъците на ChatGPT при справянето с „деликатни ситуации“ след заведен съдебен иск от семейство, което обвини чатбота за смъртта на сина си тийнейджър, който се самоуби.
OpenAI ще се усъвършенства под вещото ръководство на топ-експерти и въз основа на принципа на отговорност към хората, обеща компанията. „Надяваме се, че и други ще се присъединят към нас, за да гарантираме, че тази технология защитава най-уязвимите хора“, написа OpenAI във вторник в публикация в блога, озаглавена „Помагаме на хората, когато имат най-голяма нужда от това“.
По-рано във вторник родителите на Адам Рейн от Калифорния заведоха дело за продуктова отговорност и неправомерна смърт срещу OpenAI, след като синът им почина чрез самоубийство на 16-годишна възраст, съобщи NBC News. В делото семейството настоява, че „ChatGPT активно е помогнал на Адам да изследва методи за самоубийство“.
Компанията не спомена семейство Рейн или делото в публикацията си в блога си. Все пак фирмата уточни, че въпреки че ChatGPT е обучен да насочва хората да търсят помощ, когато изразяват суицидни намерения, чатботът е склонен да предлага отговори, които противоречат на предпазните мерки на компанията.
Сега разработчикът се е съсредоточил и върху актуализация на своя модел GPT-5, пусната по-рано този месец, която ще накара чатбота да “деескалира” разговорите. Като част от новата политика фирмата ще проучва как може чатботът да „свързва хората със сертифицирани терапевти, преди да се окажат в остра криза“. Не се изключва вариант за изграждане на мрежа от лицензирани специалисти, до които потребителите биха могли да се свържат директно чрез ChatGPT.
Освен това OpenAI заяви, че проучва как да свърже потребителите с „най-близките им“, като приятели и членове на семейството.
Що се отнася до тийнейджърите, OpenAI заяви, че скоро ще въведе контрол, който ще даде на родителите възможности да получат по-добра представа за това как децата им използват ChatGPT.
До момента никой от OpenAI не се е свързал директно със семейството, за да изрази съболезнования или да обсъди каквито и да било усилия за подобряване на безопасността на продуктите на компанията, заяви от своя страна Джей Еделсън, водещ адвокат на семейство Рейн, пред CNBC.При използване на „най-мощната потребителска технология на планетата” хората трябва да имат гаранции, че могат да й имат доверие, добави защитникът.
С нарастването на популярността на AI услугите възникват редица опасения относно използването им за терапия, другарство и други емоционални нужди. Тези тревоги нарастват от няколко години, тъй като зачестиха случаите на „влюбвания“ в AI персони и други емоционални състояния, пораждащи зависимости, депресивни състояния и др.
Опитите за регулиране на индустрията могат да се окажат неочаквано трудно предизвикателство.
