В Венесуэле использовали искусственный интеллект для создания информационных фейков

В Венесуэле авторы пропагандистских видеороликов использовали для их создания искусственный интеллект (ИИ). По мнению Financial Times, этот случай поднимает вопрос распространения информационных фейков, сгенерированных ИИ.

Что случилось

YouTube заблокировал пять аккаунтов, распространявших дезинформацию, связанную с венесуэльским правительством и сгенерированную искусственным интеллектом (ИИ), сообщает Financial Times. Программное обеспечение, которое использовали авторы фейков, разработала британская технологическая компания.

На одном из заблокированных YouTube-каналов, House of News, было выложено два видео. В одном ролике сообщалось о предстоящем туристическом наплыве по случаю сезона карнавалов, стартующего в феврале, а также высказывалось предположение, что заявления о повсеместной нищете в богатой нефтью Венесуэле «преувеличены».

В другом видео утверждалось, что временное правительство, выступающее против непризнанного венесуэльского президента Николаса Мадуро, до своего роспуска в конце декабря 2022 года нецелевым образом израсходовало $152 млн. Ведущая ролика пришла к выводу, что «венесуэльцы на самом деле не чувствуют, что существует какая-либо оппозиция правительству».

Видеоролики House of News набрали сотни тысяч просмотров на YouTube, их также транслировали государственные вещатели. Однако оба ролика были фальшивкой: образы ведущих были созданы с использованием технологии по созданию аватаров компании Synthesia, которая базируется в Лондоне и привлекла $66 млн от инвесторов Кремниевой долины. Американский акцент ведущих был синтезирован, говорящие лица сгенерированы алгоритмами машинного обучения.

Компания заблокировала доступ к сервису венесуэльскому клиенту, а также ввела ограничения на использование своей технологии. Теперь ее разработку запрещено использовать для создания контента в новостных репортажах, а в созданные видео автоматически добавляется соответствующий цифровой водяной знак. Однако случай с роликами о Венесуэле не первый для Synthesia. В январе с помощью технологии компании были созданы видео с политическими фейками в Мали, а в феврале она использовалась китайскими клиентами с теми же целями.

Почему это важно

Адриан Гонсалес, директор агентства по мониторингу дезинформации Cazadores de Fake News, базирующегося в столице Венесуэлы Каракасе, отмечает, что «дезинформация может процветать в информационной пустыне Венесуэлы» из-за обширной сети пропагандистских СМИ. Financial Times отмечает, что это вызывает опасения из-за влияния информационных фейков, произведенных ИИ, на население, чей доступ к альтернативным источникам информации ограничен государственной цензурой.

Возможность генерирования информационных фейков с помощью ИИ расширяет границы медиаграмотности человека, а также поднимает вопросы ограничения использования ИИ, считают в Financial Times. Продуктами на его основе пользуется широкий круг людей, начиная от школьников и заканчивая профессиональными и высококвалифицированными программистами. Чат-боты на основе ИИ по типу ChatGPT могут «галлюцинировать» — выдавать ложную информацию, быть предвзятыми и распространять теории заговора и расистские и гендерные стереотипы.

Контекст

Кризис в Венесуэле продолжается с 2013 года, он начался после смерти президента Уго Чавеса. Его преемником был избран Николас Мадуро. Организация гражданского общества ProBox, отслеживающая дезинформацию в социальных сетях Венесуэлы, задокументировала случаи, когда правительство вознаграждало людей, продвигающих политику президента Мадуро, с помощью системы социального кредитования.