TikTok будет автоматически помечать видео, сгенерированные ИИ, даже если они созданы на других платформах
TikTok будет маркировать контент с других платформ, созданный искусственным интеллектом, сообщает компания. Она стала первым крупным ресурсом, который будет автоматически помечать такие видео. Контент, созданный с помощью собственных ИИ-инструментов TikTok, уже автоматически помечается как таковой, и компания требует от авторов вручную добавлять такие же метки к собственным роликам. Но до сих пор они могли обходить правила и выдавать сгенерированный материал за авторский, загружая его с других платформ.
Теперь компания начнет использовать цифровые метки, созданные межотраслевой группой Coalition for Content Provenance and Authenticity (C2PA), чтобы идентифицировать и маркировать как можно больше ИИ-контента.
«Искусственный интеллект открывает невероятные творческие возможности, но может вводить зрителей в заблуждение, если они не знают, что контент был создан ИИ, — говорит Адам Прессер, руководитель отдела операций, доверия и безопасности в TikTok. — Именно поэтому мы маркируем материалы, созданные с помощью искусственного интеллекта TikTok, и уже более года требуем от авторов маркировки такого контента».
TikTok начнет применять ту же технологию цифровых меток, называемую Content Credentials, к контенту, загружаемому с собственной платформы, что позволит другим платформам определить, «когда, где и как был создан или отредактирован контент», сказал Прессер.
Но возможность маркировки ограничивается материалами, созданными другими платформами, которые также являются участниками C2PA. К ним относятся большинство крупных игроков в области ИИ, таких как Microsoft, Google и Adobe. До этой недели OpenAI не числилась в ее составе, но во вторник компания присоединилась к группе. Она уже начала использовать технологию Content Credentials в начале этого года и планирует включить ее в Sora, свою модель ИИ для создания видео .
Но более мелкие, не столь добросовестные и менее коммерчески мотивированные ИИ-модели еще некоторое время будут создавать немаркированный контент. Инструменты с открытым исходным кодом, такие как Stable Diffusion, чей код можно скачать бесплатно, всегда можно изменить, чтобы избавиться от маркировки изображений (хотя Stability.AI, один из создателей Stable Diffusion и нынешний разработчик инструмента, является членом группы). ИИ-стартап Midjourney, один из самых популярных инструментов для генерации изображений, отсутствует в списке участников.
Планы TikTok по маркировке последовали за действиями Meta* (запрещена на территории Российской Федерации), которая выступила с аналогичным заявлением в феврале. Однако попытки маркировки не помогли замедлить стремительное распространение изображений, созданных искусственным интеллектом, в частности в Facebook*, из-за чего некоторые назвали этот сайт «зомби-интернетом».
Другие приложения для социальных сетей не спешат принимать такие решения. Так, Snapchat помечает контент, созданный с помощью собственных инструментов, но предупреждает пользователей, что «изображения, созданные с помощью продуктов, не относящихся к Snap, не могут быть помечены как сгенерированные ИИ». А в X, ранее известном как Twitter, вообще нет автоматической системы маркировки, вместо этого в борьбе с фейковыми изображениями платформа полагается на «сообщения от пользователей».
Во Франции и Испании работа сервиса TikTok, предлагающего вознаграждение в виде подарочных сертификатов за просмотр видео, была приостановлена в связи с опасениями по поводу развития зависимости у детей. Комиссар по цифровым технологиям Тьерри Бретон заявил, что китайская платформа для обмена видео «не смогла доказать», что функция TikTok Lite, которая недавно была запущена в этих странах, соответствует требованиям нового закона о цифровых услугах (DSA).
