ChatGPT для подростков уже запущен, но у экспертов есть серьезные сомнения
OpenAI представила ChatGPT for Teens – версию чат-бота с возрастными ограничениями, специально адаптированную для пользователей младше 18 лет. Компания начала работать над системой автоматического определения возраста еще в сентябре прошлого года. Это произошло после смерти 16-летнего Адама Рейна. Его родители в иске утверждали, что ChatGPT способствовал его самоубийству. Об этом пишет Engadget.
По словам Лорен Джонас, руководительницы направления по работе с молодежью и семьями в OpenAI, подросткам не нужно создавать отдельный аккаунт или самостоятельно переключаться на новый режим. Если система прогнозирует, что пользователю меньше 18 лет, или он сам сообщает о своем возрасте, соответствующий режим становится стандартным для его аккаунта.
Необходимость таких мер объясняется масштабами использования чат-ботов молодежью. В начале 2025 года исследование Pew Research Center показало, что примерно четверть американских подростков использовали ChatGPT для обучения.
В новой версии OpenAI хочет больше ориентировать подростков на образовательные возможности сервиса. Среди них – Study Mode и инструменты для работы с визуализацией данных, которые компания постепенно внедряла в течение прошлого года.
Вместе с запуском ChatGPT for Teens OpenAI также объявила о расширении системы родительских уведомлений. Если система обнаруживает опасный разговор о расстройствах пищевого поведения, родители с привязанной учетной записью могут получить уведомление.
Компания также опубликовала обновленные правила для работы модели с пользователями младше 18 лет. В частности, ChatGPT не должен использовать романтическую лексику, поощрять эмоциональную зависимость или намекать на наличие у него собственных чувств или сознания.
В OpenAI объясняют, что ужесточенные ограничения должны способствовать поддержанию здоровых отношений подростков с людьми в реальной жизни.
Однако эксперты, с которыми пообщался Engadget, считают, что одних заявлений компании недостаточно.
Представители организаций, работающих в сфере безопасности детей, в целом согласны с тем, что новые функции могут быть полезными. Но все они подчеркивают необходимость независимой проверки.
Робби Торни, руководитель направления оценки искусственного интеллекта и цифровых технологий в Common Sense Media, считает, что OpenAI сначала должна предоставить доказательства эффективности своих механизмов.
"Объявление содержит несколько действительно важных обязательств, но нам нужны доказательства того, что эти обязательства и функции безопасности действительно работают", – сказал он.
Еще более критично к запуску отнесся Джош Голин, исполнительный директор Fairplay – некоммерческой организации, выступающей за более безопасный интернет для детей. По его словам, некоторые решения OpenAI на бумаге выглядят как шаг в правильном направлении. Однако он считает серьезной проблемой отсутствие механизма ответственности.
"Мы видели на примере социальных сетей, что доверие к компаниям не работает, когда речь идет о защите детей, и мы уже видели это на примере OpenAI. До вторника у них уже действовали ограничения в отношении контента, связанного с самоубийством, насилием и употреблением наркотиков, но они не работают или со временем теряют силу", – отметил Голин.
По мнению экспертов, именно предыдущий опыт OpenAI заставляет их требовать не обещаний, а измеримых результатов.
Отдельный вопрос касается автоматического определения возраста. OpenAI хочет самостоятельно прогнозировать, является ли пользователь несовершеннолетним, и соответственно переводить его в подростковый режим.
Однако эксперты отмечают, что компания не обнародовала достаточно данных об эффективности этой технологии.
"У нас нет опубликованных данных от OpenAI, которые показывали бы эффективность системы – уровень ложноположительных и ложноотрицательных результатов. Автоматизированная система не выявляет даже близко 100 процентов подростков, которые пользуются ChatGPT", – сказал Торни.
Он также напомнил о предыдущих сообщениях о планах OpenAI запустить эротические функции. Тогда одной из причин отказа от такого запуска называли проблемы с технологией оценки возраста, которая не могла достаточно точно распознавать подростков.
Даже если система станет более точной, останется еще одна проблема – попытки ее обойти. Подростки могут использовать VPN или другие способы, чтобы скрыть свой настоящий возраст. Подобные попытки уже возникали при внедрении систем проверки возраста на других платформах. Поэтому само наличие автоматического возрастного фильтра не гарантирует, что все несовершеннолетние окажутся в защищенном режиме.
Одно из самых конкретных обязательств OpenAI касается опасных разговоров. Лорен Джонас заявила Engadget, что весь контент, который система помечает как потенциально опасный, перед уведомлением родителей должен проверяться штатными сотрудниками OpenAI.
Компания также заявила, что стремится уведомлять родителей в течение одного часа после соответствующего запроса.
Позже в эфире CNN Джонас подтвердила, что у OpenAI достаточно сотрудников и ресурсов для ручной проверки таких сообщений и уведомления родителей в пределах этого срока. Однако именно это обещание вызывает у специалистов, пожалуй, больше всего вопросов.
"Это еще один случай, когда используется автоматизированное принятие решений. И возникает тот же вопрос: доверяем ли мы автоматизированным классификаторам, которые определяют, какой контент нужно передать людям для проверки?" – отметил Торни.
Голин также попросил OpenAI обнародовать конкретные цифры.
"Я хотел бы увидеть точные данные о том, сколько чатов они отмечают и проверяют ежедневно, сколько людей этим занимаются и сколько времени в среднем уходит на каждую проверку", – сказал он.
По его мнению, сложно представить, что у компании уже достаточно сотрудников для тщательной проверки каждого потенциально опасного разговора.
Дополнительные сомнения возникают из-за результатов предварительного тестирования. В ноябре 2025 года Common Sense Media проверяла, насколько быстро OpenAI реагирует на сообщения, связанные с самоубийством и самоповреждением.
Организация отправляла ChatGPT сообщения, в которых прямо упоминались самоубийство и самоповреждение. В некоторых случаях предупреждение для родительской учетной записи поступало через 24 часа или даже более чем через 48 часов.
"Иногда мы вообще не получали уведомления, хотя считали, что оно должно было прийти, учитывая, насколько прямыми были эти утверждения", – сказал Торни.
Он признал, что с ноября система могла существенно измениться. В то же время предыдущая версия родительского контроля и уведомлений не была совершенной, а для ее улучшения, по его словам, нужны инвестиции и более многочисленная команда людей, которые будут проверять контент. Есть также проблема контекста. Специалисты подчеркивают, что разговор с подростком, переживающим кризис, не может сводиться к простому автоматическому правилу.
"То, как дети говорят о своих переживаниях, и то, какой должна быть правильная реакция на эти переживания, требует культурного понимания и учета нюансов. OpenAI – глобальная компания, а ChatGPT используют подростки во всем мире. Подростки в США говорят о своих переживаниях иначе, чем подростки в Нидерландах или Сингапуре", – пояснил Торни.
Также необходимо определить, куда именно направлять ребенка в кризисной ситуации – к родителям, правоохранительным органам или в кризисную службу. По его мнению, для выполнения обещания о реагировании в течение часа OpenAI может понадобиться глобальная команда, способная работать с подростками в разных странах и культурных средах.
Несмотря на споры вокруг реализации новых функций, эксперты сходятся во мнении, что расстройства пищевого поведения действительно требуют особого внимания.
Эллен Фитцсиммонс-Крафт, доцент кафедры психологии и наук о мозге Вашингтонского университета в Сент-Луисе, отметила, что распространенность таких расстройств часто недооценивают.
По ее словам, многие люди воспринимают их как редкую проблему, касающуюся лишь узкой группы – прежде всего худых состоятельных молодых девушек. Однако метаанализ 2023 года показал, что положительный результат скрининга на нарушения пищевого поведения был у 22 процентов детей и подростков.
При этом доступ к специализированному лечению остается низким. Менее 20 процентов людей с расстройствами пищевого поведения сообщали, что когда-либо получали лечение именно от этого расстройства.
"Любая платформа, которая позволяет молодежи общаться или публиковать собственный контент, должна учитывать проблему нарушений пищевого поведения", – сказала Фитцсиммонс-Крафт.
Робби Торни также подчеркнул серьезность проблемы. "Некоторые расстройства пищевого поведения, особенно анорексия, имеют самый высокий уровень смертности среди психических расстройств у подростков. Поэтому правильно рассматривать это как кризис", – отметил он.
По его мнению, уведомление доверенного взрослого, в частности родителей, в таких ситуациях может быть необходимым, поскольку отсутствие вмешательства иногда буквально может стать вопросом жизни и смерти.
Фитцсиммонс-Крафт также поддерживает информирование родителей. Она объяснила, что одним из самых эффективных подходов к лечению подростков с расстройствами пищевого поведения является активное участие семьи. "Это вмешательство, в котором родителям действительно отводится активная роль в помощи по восстановлению веса подростка. Их обучают терапевт и медицинский специалист, как выполнять эту роль", – пояснила она.
В то же время специалистка признает, что такой подход подходит не каждой семье. Иногда родители могут оказаться неспособными помочь или даже сами усугубить проблему. Голин соглашается, что родители должны знать, если их ребенок испытывает серьезные трудности. Однако он считает, что подобные функции сначала следует запускать на небольшой группе пользователей и проверять не только точность выявления опасного контента, но и то, приводят ли уведомления к лучшим результатам для подростков.
По его словам, нынешний способ представления функции больше напоминает реакцию со сторон
- Последние
- Популярные
Новости по дням
21 августа 2026
