По словам фотографов, Meta* все время помечает их реальные фотографии как «Сделано с помощью ИИ»

В феврале компания Meta* (запрещена на территории РФ) заявила, что начнет помечать фотографии, созданные с помощью инструментов ИИ, в своих социальных сетях. С мая Meta* регулярно помечает некоторые фотографии ярлыком «Сделано с помощью ИИ» в своих приложениях Facebook*, Instagram* и Threads*. Однако подход компании к маркировке фотографий вызвал недовольство пользователей и фотографов после того, как она прикрепила ярлык к реальным фотографиям, сообщает TechCrunch.

Существует множество примеров того, как Meta* автоматически прикрепляла ярлык к фотографиям, которые не были созданы с помощью искусственного интеллекта. Например, это фото Kolkata Knight Riders, выигравшей крикетный турнир Индийской премьер-лиги. Примечательно, что метка видна только в мобильных приложениях, но не в Интернете.

Множество других фотографов выразили обеспокоенность тем, что их снимки были также ошибочно помечены ярлыком «Сделано с помощью ИИ». Они считают, что простое редактирование фотографии с помощью инструмента не должно быть предметом пометки. Бывший фотограф Белого дома Пит Соуза в своем посте в Instagram* сообщил, что одна из его фотографий была помечена новым ярлыком.

Соуза сообщил, что Adobe изменила принцип работы инструмента обрезки и вам придется «сжать изображение», прежде чем сохранить его в формате JPEG. Он подозревает, что это действие заставило алгоритм Meta* прикрепить метку. «Пост заставил меня включить надпись „Сделано с помощью искусственного интеллекта“, хотя я снял галочку», — сказал Соуза.

Meta* не стала отвечать на вопросы TechCrunch об опыте Соузы или  сообщениях других фотографов, которые заявили, что их посты были неправильно помечены. Однако после публикации статьи Meta* заявила, что компания оценивает свой подход к указанию меток, отражающих объем ИИ, использованного в изображении.

«Мы всегда стремились помочь людям понять, когда они видят контент, созданный с помощью ИИ. Мы принимаем во внимание последние отзывы и продолжаем оценивать наш подход, чтобы наши метки отражали количество искусственного интеллекта, использованного в изображении», — сообщил представитель Meta*. В февральском сообщении в блоге Meta* заявила, что использует метаданные изображений для определения метки.

«Мы создаем ведущие в отрасли инструменты, которые могут определять невидимые маркеры в масштабе — в частности, информацию „сгенерировано ИИ“ в технических стандартах C2PA и IPTC, — чтобы мы могли маркировать изображения от Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock по мере реализации их планов по добавлению метаданных к изображениям, созданным их инструментами», — заявили тогда в компании.

Как сообщила на прошлой неделе компания PetaPixel, Meta*, похоже, наклеивает ярлык «Сделано с помощью ИИ», когда фотографы используют такие инструменты, как генеративный ИИ-заполнитель Adobe для удаления объектов.

Хотя Meta* не уточнила, когда именно она автоматически наклеивает ярлык, некоторые фотографы встали на сторону Meta*, утверждая, что любое использование инструментов ИИ должно быть раскрыто.

Компания сообщила, что она активно работает с компаниями, у которых есть инструменты для создания снимков с помощью ИИ, чтобы доработать свой подход. «Мы полагаемся на стандартные для отрасли показатели, которые другие компании включают в контент своих инструментов, поэтому мы активно работаем с этими компаниями над улучшением процесса, чтобы наш подход к маркировке соответствовал нашим намерениям», — говорят в компании.

На данный момент Meta* не содержит отдельных меток, указывающих на то, использовал ли фотограф инструмент для очистки фотографии или для ее создания использовался ИИ. Пользователям может быть сложно понять, насколько сильно ИИ был задействован в фотографии. В метке Meta* указано, что «для создания или редактирования контента в этом посте мог использоваться генеративный ИИ», но только если вы нажмете на метку.

Несмотря на такой подход, на платформах Meta* есть множество фотографий, которые явно сгенерированы ИИ, но алгоритм Meta* их не пометил. Поскольку через несколько месяцев в США пройдут выборы, компаниям, работающим в социальных сетях, как никогда необходимо правильно обрабатывать контент, созданный ИИ.

Ранее группа крупных технологических компаний, в том числе Match Group, Meta*, Coinbase и другие, объединились и запустили инициативу под названием Tech Against Scams для противодействия интернет-мошенничеству в приложениях для знакомств, социальных сетях и сфере криптовалют. Ее целью является поиск способов борьбы с киберпреступностью и повышение осведомленности общественности о финансовых аферах в сети.