В Китае задержали пользователя ChatGPT за создание фейков

Правоохранительные органы КНР задержали мужчину за распространение фейковых новостей, которые он создавал с помощью ChatGPT. Публикация о крушении поезда набрала 15 тыс. просмотров. Подозреваемому грозит до 10 лет тюрьмы.

Китайское правительство задержало пользователя чат-бота от OpenAI в провинции Ганьсу на севере страны за создание и распространение фейковых новостей, пишет The Verge со ссылкой на South China Morning Post. По словам правоохранительных органов, это первый случай ареста за использование ChatGPT.

Кроме того, это первое задержание после принятия Управлением по вопросам киберпространства Китая правил, ограничивающих использование дипфейков. Известна только фамилия подозреваемого — Хун (Hong). Мужчина создал новость о крушении поезда, в котором погибли люди.

Представители полиции заявили, что это ложная информация. Правительство обратило внимание на публикацию 25 апреля: сразу в 20 аккаунтах на блог-платформе Baijiahao были размещены разные версии одной и той же новости — отличались лишь места аварии.

Прочитайте также

Убытки OpenAI удвоились до $540 млн из-за разработки ChatGPT

По утверждению полиции, Хун признался, что с помощью ChatGPT переписал существующие вирусные статьи. Мужчина делал это, чтобы избежать дубликатов и пройти фильтрацию контента. Позже, по словам подозреваемого, друзья Хуна показали ему, как можно заработать на трафике. Новость о крушении поезда набрала 15 тыс. просмотров. Мужчине грозит от 5 до 10 лет лишения свободы.

Однако правительство не уточняет, как было доказано использование чат-бота. Как отмечает издание, формулировка преступления расплывчатая и не раз подвергалась критике активистов за нарушение свободы слова. ChatGPT запрещен в Китае, но обойти блокировки можно с помощью VPN.

Не только в Китае пытаются ограничить использование чат-ботов на основе искусственного интеллекта. В мае Samsung запретила сотрудникам использовать ChatGPT на корпоративных устройствах.