Исследователи раскрыли простой метод обнаружения дипфейков
Новое исследование, представленное на Национальной астрономической встрече Королевского астрономического общества, показывает, что глубокие подделки можно выявить. Используя астрономические методы для анализа отражений глаз, исследователи потенциально могут обнаружить глубокие подделки изображений, хотя этот метод и содержит некоторый риск неточностей.
В эпоху, когда каждый может создавать изображения с помощью ИИ, способность обнаруживать поддельные изображения, особенно глубокие подделки людей, становится все более важной. Теперь ученые утверждают, что глаза могут быть ключом к отличию глубоких подделок от настоящих изображений.
Дипфейки можно выявить, анализируя отражения в глазах человека, подобно тому как астрономы изучают изображения галактик. Исследование, проведенное под руководством магистранта Университета Халла Адеджумоке Оволаби, сосредоточено на согласованности отражений света в каждом глазном яблоке. Несоответствие этих отражений часто указывает на подделку изображения.
«Отражения в глазных яблоках соответствуют реальному человеку, но неверны (с точки зрения физики) для подделки», — говорит Кевин Пимблет, профессор астрофизики и директор Центра передового опыта в области науки о данных, искусственного интеллекта и моделирования в Университете Халла.
Исследователи проанализировали отражение света на глазных яблоках людей на реальных и сгенерированных ИИ изображениях. Затем они применили методы, обычно используемые в астрономии, для количественной оценки отражений и проверили соответствие между отражениями левого и правого глазных яблок. В поддельных изображениях часто отсутствует согласованность отражений в каждом глазу, в то время как в реальных изображениях отражения в обоих глазах обычно одинаковы.
«Чтобы измерить форму галактик, мы анализируем, компактны ли они по центру, симметричны ли они и насколько они гладкие. Мы также анализируем распределение света, — говорит Пимблет. — Мы обнаруживаем отражения автоматизированным способом и проверяем их морфологические особенности с помощью индексов CAS (концентрация, асимметрия, гладкость) и Джини, чтобы найти сходство или различие отражений в левом и правом глазном яблоке».
По словам исследователей, результаты показывают, что у глубоких подделок есть некоторые различия между парой. Коэффициент Джини обычно используется, чтобы измерить, как свет на изображении галактики распределен между пикселями. Это измерение производится путем упорядочивания пикселей, составляющих изображение галактики в порядке возрастания их потока, а затем сравнения результата с тем, что ожидалось от идеально равномерного распределения потока.
Команда также протестировала параметры CAS — инструмент, первоначально разработанный астрономами для измерения распределения света в галактиках с целью определения их морфологии, но обнаружила, что он не является успешным предсказателем фальшивых глаз.
«Важно отметить, что это не серебряная пуля для обнаружения фальшивых изображений, — добавил Пимблет. — Есть ложноположительные и ложноотрицательные результаты; он не сможет выявить все. Но этот метод дает план атаки в гонке вооружений по обнаружению глубоких подделок».
Ранее Microsoft и OpenAI объявили о создании фонда в размере $2 млн для борьбы с растущими рисками использования ИИ и дипфейков для «обмана избирателей и подрыва демократии». «Фонд социальной устойчивости» призван повысить осведомленность уязвимых сообществ об искусственном интеллекте и его воздействии.
