OpenAI выпустила отдельную версию ChatGPT для подростков после серии судебных исков
Компания OpenAI представила ChatGPT for Teens — версию чат-бота с дополнительными настройками безопасности для пользователей младше 18 лет.
Запуск последовал за серией судебных исков, в которых компанию обвинили в недостаточной защите несовершеннолетних: истцы связывают использование ChatGPT с случаями суицида и другими последствиями для психического здоровья подростков.
Особенностью обновления стал режим Study Mode. В блоге компании пояснили, что в этом режиме бот задает наводящие вопросы и предлагает пошаговую поддержку вместо готовых ответов, чтобы стимулировать подростка разбираться в материале самостоятельно.
Если система фиксирует признаки списывания, пользователю показывается напоминание о домашнем задании, и бот предлагает переключиться на Study Mode.
Приложение также получило функции для создания тестов и учебных визуализаций. Родители и опекуны смогут настраивать, включен ли Study Mode по умолчанию для конкретного аккаунта.
Опыт показывает, что подростки умеют обходить родительский контроль и другие ограничения в цифровых сервисах, Поэтому, пока новый режим не прошел проверку в реальных условиях, оценить его эффективность против таких обходов невозможно.
Открытым остается вопрос о сроках внедрения защитных мер. ChatGPT вышел на рынок в конце 2022 года и нарастил аудиторию до 900 млн еженедельных пользователей прежде, чем компания добавила специализированные механизмы защиты для несовершеннолетних.
По заявлению OpenAI, возрастные ограничения в ChatGPT for Teens теперь включены по умолчанию и опираются на внутренние принципы работы с пользователями до 18 лет, заложенные в Model Spec компании. Там утверждают, что эти принципы разработаны с учетом исследований в области возрастного развития и консультаций со специалистами.
Родителям также доступны ранее внедренные семейные инструменты — управление настройками, получение уведомлений о безопасности и установка «тихих часов».
Помимо этого OpenAI объявила о партнерстве с CodeAI для обучения подростков работе с ИИ, а для школ компания продолжает предлагать отдельный продукт ChatGPT for Teachers с управляемым институциональным доступом.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
