В России хотят переложить на ИИ-сервисы обязанность маркировать сгенерированный контент
Российские ИИ-сервисы могут обязать автоматически отмечать материалы, созданные или измененные нейросетями. Такие поправки предложили в соответствующий закон, документ депутаты КПРФ внесли в Госдуму 17 августа.
Сейчас закон № 243-ФЗ об искусственном интеллекте предусматривает другой подход. Пользователь может сообщить об использовании ИИ при создании аудио- или визуального материала, а крупные площадки с аудиторией свыше 500 тыс. человек в сутки обязаны предоставить для этого специальный инструмент. Депутаты теперь предлагают отказаться от добровольного принципа и сделать маркировку обязанностью владельца сервиса.
При этом в законопроекте используется понятие «информационный материал» без ограничения по формату. Поэтому новые требования потенциально могут коснуться не только изображений, видео и аудио, но и текстов. Правительство должно будет определить, как именно должна выглядеть отметка и где ее размещать. Обязательное правило предлагается распространить на большие фундаментальные модели с числом параметров от 1 млрд.
Вопрос о маркировке уже обсуждается в рамках другой инициативы. Рабочая группа Совета при президенте по кодификации законодательства предлагает обязать отмечать ИИ-контент пользователей, которые распространяют такие материалы. Ее проект, о котором «Ведомости» писали 18 августа, пока не внесен в Госдуму. Он касается созданных и измененных нейросетями аудио- и видеоматериалов. Одновременно авторы предлагают установить выплаты правообладателям за использование защищенных произведений при обучении ИИ.
Таким образом, в двух проектах предлагаются разные точки контроля: в одном случае отметку должен поставить сервис в момент генерации, в другом — пользователь перед распространением материала. Юристы считают первый вариант более понятным с технической точки зрения, поскольку сервис изначально знает, был ли файл создан его моделью. Но он не решает проблему материалов, которые затем редактируются или публикуются на других площадках.
Есть и вопросы к исполнению нормы. Новый законопроект не устанавливает ответственность за отсутствие маркировки, не определяет правила для иностранных сервисов и не объясняет, должна ли отметка сохраняться после изменения файла. Кроме того, злоумышленники, создающие дипфейки, вряд ли станут сохранять предусмотренную законом маркировку.
В Минцифры сообщили, что предложения депутатов рассмотрят на ближайшем заседании рабочей группы. Сейчас оцениваются техническая реализуемость требований и их возможная нагрузка на бизнес. Эксперты предлагают не распространять одинаковые правила на весь контент, а начать с наиболее чувствительных сфер — рекламы, СМИ, предвыборных материалов, финансовой и медицинской информации.
Перспективы принятия инициативы КПРФ пока остаются неопределенными. Законопроект внесла только одна фракция, а похожая идея обязательной маркировки уже не вошла в принятую редакцию закона об ИИ. При этом специалисты ожидают дальнейшего ужесточения правил для синтетического контента, поскольку проблема его использования для мошенничества и манипуляций становится все более заметной.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
