Google создала водяной знак для изображений, которые сгенерированы нейросетью

Водяной знак SynthID нельзя увидеть на изображении, но его легко обнаружить с помощью специальных ИИ-инструментов. Пока компания не раскрывает достаточно деталей о своей разработке. Презентация SynthID состоится в рамках конференции Google Cloud Next.

Дочерняя компания Google DeepMind разработала инструмент SynthID, который предназначен для нанесения водяных знаков на изображения, созданные искусственным интеллектом. Об этом пишет The Verge со ссылкой на гендиректора Google DeepMind Демиса Хассабиса. При этом маркировки будут незаметны для человеческого глаза.

Водяной знак встраивается в пиксели изображения, но, по словам Хассабиса, он не видоизменяет картинку. «Он не меняет ни изображения, ни его качества, ни впечатлений от него», — отметил гендиректор компании. Однако изображение будет устойчиво к изменениям, то есть его нельзя будет отредактировать, чтобы избавиться от маркировки.

По словам Хассабиса, по мере совершенствования ИИ-моделей, лежащих в основе SynthID, водяной знак будет еще менее заметен для человека, а инструменты DeepMind смогут находить его легче.

Компания не сообщила достаточно подробностей о новом инструменте. По словам Хассабиса, чем больше будет известно деталей, тем проще будет хакерам обойти систему. Сначала SynthID будут внедрять в Google: клиенты Google Cloud, использующие платформу Vertex AI и генератор изображений Imagen, смогут встраивать и обнаруживать водяной знак. Презентация SynthID состоится в рамках конференции Google Cloud Next, которая пройдет в Сан-Франциско с 29 по 31 августа.

В июле компании Amazon, Anthropic, Google, Inflection, Meta (признана экстремистской и запрещена на территории РФ), Microsoft и OpenAI согласились на ряд требований Белого дома по устранению рисков, связанных с развитием искусственного интеллекта. IT-гиганты пообещали, что инвестируют в кибербезопасность и создадут специальные водяные знаки, которыми будет отмечен созданный нейросетью контент.