Meta* будет маркировать изображения в соцсетях и мессенджерах, созданные ИИ

Meta* (признана в РФ экстремистской и запрещена) работает над обнаружением и маркировкой изображений, созданных искусственным интеллектом, в Facebook* , Instagram* и Threads, поскольку компания стремится выявить «людей и организации, которые хотят обмануть людей».

Изображения, созданные с помощью инструмента визуализации искусственного интеллекта Meta*, уже помечены как ИИ. Но президент компании по глобальным вопросам Ник Клегг объявил в своем блоге, что компания будет работать над тем, чтобы маркировать изображения, созданные искусственным интеллектом конкурирующих сервисов.

По словам Клегга, изображения искусственного интеллекта Meta* уже содержат метаданные и невидимую маркировку. На данный момент компания разрабатывает инструменты для идентификации подобных меток, используемых другими компаниями, такими как Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock, в своих генераторах изображений с ИИ.

«По мере того как разница между человеческим и синтетическим контентом размывается, люди хотят знать, где проходит граница, — сказал Клегг. — Часто впервые столкнувшись с контентом, созданным искусственным интеллектом, пользователи говорят, что им важна прозрачность этой новой технологии. Поэтому нам важно помочь людям понять, что фотореалистичный контент, который они видят, был создан с помощью ИИ».

Клегг сказал, что в настоящее время создается необходимая инфраструктура и в ближайшие месяцы метки будут нанесены на всех языках. Он отметил, что это касается только изображений, а инструменты ИИ, генерирующие аудио и видео, в настоящее время не содержат таких меток, но компания позволит пользователям помечать такой контент при размещении в сети.

Также он добавил, что компания будет размещать более заметную маркировку на «созданных или измененных» изображениях, видео или аудио, которые «представляют риск введения общественности в заблуждение». Кроме того, компания планирует разработать технологию автоматического обнаружения контента, созданного ИИ, даже если он не содержит маркировки или если она была удалена.

«Люди и организации, которые хотят обмануть людей с помощью контента, созданного искусственным интеллектом, будут искать способы обойти меры безопасности, которые применяются для его обнаружения. В нашей отрасли и в обществе в целом необходимо продолжать искать способы оставаться на шаг впереди», — заявил Клегг.

На прошлой неделе австралийский телеканал Nine News также подвергся критике за изменение изображения члена партии «Справедливость к животным» от штата Виктория Джорджи Перселл. Телеканал обвинил в этом «автоматизацию» в продукте Adobe Photoshop, который включает в себя инструменты для работы с изображениями на основе искусственного интеллекта.

Ранее стало известно, что Meta* проиграла в судебной тяжбе с израильской технологической компанией Bright Data, на которую она подала иск в прошлом году. Технологический гигант заявил, что сбор данных Bright Data производился с нарушением условий договора.