OpenAI разработает систему предсказания возраста для защиты подростков
Компания OpenAI разрабатывает систему предсказания возраста пользователей ChatGPT, чтобы обеспечить безопасность несовершеннолетних. Она позволит адаптировать взаимодействие с ИИ в зависимости от возраста.
Разработка ориентирована на пользователей от 13 лет, так как ChatGPT предназначен для этой возрастной группы. Система будет оценивать возраст на основе стиля использования чат-бота, и в случае сомнений применит правила для несовершеннолетних по умолчанию.
Компания также признает сложности в точном предсказании возраста и планирует предоставлять взрослым способы доказать свой возраст для разблокировки полных функций. Например, для подтверждения возраста в «некоторых странах или ситуациях» может потребоваться удостоверение личности. OpenAI отмечает, что в этом случае идет на компромисс и ставит безопасность пользователей младше 18 лет выше конфиденциальности взрослых.
Для подростков введут специальные правила: ИИ не будет участвовать во флиртующих разговорах или обсуждениях по нанесению себе вреда. При выявлении мыслей о самоубийстве система попытается связаться с родителями пользователя, а в случае невозможности — с властями при угрозе немедленного вреда. OpenAI подчеркивает, что подростки растут с ИИ, и чат-бот должен соответствовать их возрасту.
К концу сентября компания также планирует запустить инструменты родительского контроля. Новые инструменты включают возможность связать аккаунт родителя с аккаунтом подростка старше 13 лет через простое приглашение по электронной почте. Родители также смогут настраивать поведение модели в соответствии с правилами для несовершеннолетних, а также отключать отдельные опции, такие как сохранение памяти и истории переписки. Дополнительно вводится опция установки периодов, когда доступ к чат-боту для подростка будет заблокирован.
