OpenAI внедрила автоопределение возраста в ChatGPT
Компания OpenAI внедрила систему автоматического определения возраста пользователей ChatGPT, которая ограничивает возможность диалогов на чувствительные темы для тех, кого система сочтет несовершеннолетними. О внедрении функции компания сообщила в блоге, система будет следить за поведением пользователей ChatGPT для определения их примерного возраста через анализ различных поведенческих паттернов.
Нейросеть будет анализировать сигналы, позволяющие установить возраст, включая продолжительность существования аккаунта и время суток, когда пользователь наиболее активен для построения профиля возрастной группы. Если модель прогнозирования сочтет, что пользователю меньше 18 лет, ChatGPT автоматически активирует фильтры, ограничивающие диалоги на чувствительные темы: насилие и жестокость, рискованное поведение, сексуальные или жестокие ролевые игры, самоповреждение, экстремальные стандарты красоты и нездоровые диеты.
Пользователи, которых система ошибочно сочтет несовершеннолетними, смогут подтвердить свой возраст через сервис проверки личности Persona, для этого потребуется загрузить селфи для верификации. Механизм обжалования позволяет взрослым пользователям восстановить полный доступ к функциональности ChatGPT без ограничений на темы диалогов после прохождения процедуры подтверждения возраста.
Внедрение автоматического определения возраста следует за растущим давлением регуляторов на ИИ-компании по защите несовершеннолетних от потенциально вредного контента. Это более проактивный подход по сравнению с простым требованием указания возраста при регистрации. Ранее OpenAI и Anthropic внедряют новые меры защиты несовершеннолетних пользователей ИИ-чат-ботов.
Внедрение возрастных ограничений в ChatGPT важно для специалистов по управлению репутацией и SMM, работающих с брендами в сферах, требующих особого внимания к безопасности молодой аудитории, поскольку демонстрирует тренд на усиление контроля за взаимодействием несовершеннолетних с ИИ-технологиями и может повлиять на стратегии коммуникации компаний, использующих чат-боты для работы с клиентами различных возрастных групп.
