OpenAI пусна нова система за прогнозиране на възрастта за своята AI услуга ChatGPT, за да определи зрелостта на потребителите чрез поведенчески анализ. Технологията влиза в действие преди планираното въвеждане на ограничения за съдържанието, което бележи значителна промяна в архитектурата на безопасност на платформата.
Чрез оценяване на взаимодействията на потребителите, вместо да разчита на самостоятелно докладвани дати на раждане, системата има за цел да автоматизира категоризирането на профили на възрастни и непълнолетни. Този преход е предпоставка за въвеждането на неограничен режим, предназначен за зряла аудитория, по-късно тази година.
Разпознаване на възраст
OpenAI започна глобално внедряване на модел за прогнозиране на възрастта, предназначен да идентифицира потребители под 18-годишна възраст. Тази система не разчита на традиционни изскачащи прозорци относно възрастовата граница или пък самостоятелно докладване на рождена дата. Вместо това системата анализира сигнали на ниво профил и поведенчески данни, за да оцени възрастта на потребителя.
Компанията потвърди, че технологията вече се внедрява в потребителските планове, със специален фокус върху защитата на по-младата аудитория.
Ходът бележи промяна в начина, по който платформата управлява идентичностите на потребителите. Моделът оценява няколко фактора, включително продължителността на активност на акаунта, типичните часове от деня, когато потребителят е онлайн, и по-цялостните модели на употреба във времето.
Като разглежда как човек взаимодейства със софтуера, алгоритъмът се опитва да го класифицира като непълнолетен или възрастен. Когато системата идентифицира потребител като „вероятно под 18 години“, тя автоматично активира набор от подобрени настройки за безопасност.
Ограничения на съдържанието
Новите предпазни мерки следва да доведат до по-строго филтриране в редица категории. Профилите, определени като „принадлежащи на непълнолетни“, ще бъдат ограничени откъм достъп до изображения на графично насилие, самонараняване и „екстремни стандарти за красота“.
Системата е проектирана и да блокира романтични или сексуални ролеви игри и „вирусни предизвикателства“, които могат да насърчат рисково поведение.
Прилагането на тези правила се основава на изследвания относно психологията на подрастващите и възприятието за риск. Целта е да се осигури по-ограничено изживяване за тийнейджърите, като същевременно се позволи по-голяма гъвкавост за по-възрастните потребители.
Ако системата за прогнозиране не е в състояние да определи възрастта с висока степен на увереност, софтуерът по подразбиране използва по-рестриктивните настройки за безопасност. Този предпазлив подход има за цел да намали риска от случайно излагане на вредно съдържание.
Проверка на самоличността
Потребителите, които са неправилно идентифицирани като непълнолетни от алгоритъма, имат начин за възстановяване на стандартния достъп. OpenAI си партнира с Persona, услуга за проверка на самоличността на трета страна, за да управлява процеса.
За да отменят автоматизираната класификация, потребителите трябва да предоставят селфи на живо или снимка на официален личен документ. Тези данни се обработват от Persona, а не от OpenAI.
Процесът на проверка съпоставя лицето на потребителя с предоставения от него документ за самоличност, за да потвърди датата му на раждане.
Според доставчика на услуги, тези идентификационни материали обикновено се изтриват в рамките на седем дни след проверката. След като пълнолетният бъде проверен, ограничителните филтри за безопасност се премахват от профила му.
Потребителите могат да изберат да проверят възрастта си проактивно, за да предотвратят първоначалното изпълнение на модела за прогнозиране на възрастта в акаунта им.
