В штате Нью-Йорк ограничили использование ИИ-чат-ботов для детей
Власти штата Нью-Йорк (США) приняли закон в защиту несовершеннолетних от потенциально опасного взаимодействия с чат-ботами на основе искусственного интеллекта. Новые правила регулируют работу ИИ-компаньонов — сервисов, которые имитируют дружеское, эмоциональное или романтическое общение. Закон должен вступить в силу 1 января 2027 года.
Документ подписала губернатор штата Кэти Хокул. Он не запрещает детям пользоваться искусственным интеллектом в целом, а устанавливает ограничения для определенных функций чат-ботов, которые могут представлять угрозу для несовершеннолетних.
В частности, закон ограничивает взаимодействие ИИ-компаньонов с детьми в случаях, когда чат-боты поощряют самоповреждение или расстройства пищевого поведения, а также предоставляют опасные рекомендации, связанные с употреблением алкоголя и наркотиков. Отдельные положения касаются имитации личных отношений и других форм общения, которые могут вводить несовершеннолетних в заблуждение или причинять им вред.
Компании, предоставляющие такие сервисы, должны предусмотреть механизмы определения возраста пользователей. При этом закон предусматривает возможность использовать способы проверки, не требующие исключительно предъявления государственного удостоверения личности.
Читайте также
Контроль за соблюдением требований возложен на генерального прокурора штата. При выявлении нарушений власти смогут добиваться предусмотренных законом санкций, в том числе финансовых взысканий и судебных мер в отношении операторов сервисов.
Новые ограничения связаны с растущим вниманием к безопасности детей в интернете. ИИ-компаньоны способны поддерживать продолжительные диалоги и отвечать на личные вопросы, поэтому специалисты и законодатели обсуждают риски, связанные с эмоциональной привязанностью к таким программам и потенциально вредными советами.
При этом закон не означает полного запрета образовательных и информационных ИИ-инструментов для несовершеннолетних. Применение конкретных ограничений зависит от функций сервиса и требований документа.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
