Разработчик создал программу, распространяющую фейковые новости 24 часа в сутки

Анонимный разработчик создал «машину дезинформации» на технологии OpenAI. Целью проекта было показать, как могут быть опасны новые технологии в распространении массовой дезинформации.

На разработку проекта CounterCloud ушло два месяца, его реализация стоила менее $400 в месяц, сообщает Insider. Разработчик, пожелавший остаться анонимным, использует имя Неа Пау и утверждает, что является профессионалом в области кибербезопасности. В видео на YouTube Пау рассказал о проекте.

Разработчик вводил в ChatGPT новость и просил программу подменить реальные факты на фейковые. Затем бот предлагал варианты одной и той же статьи, написанной в разных стилях и с различными точками зрения. Для правдоподобности в материал были добавлены фейковые цитаты экспертов, профили журналистов и комментарии.

Через два месяца у CounterCloud была полностью автономная система на базе искусственного интеллекта, которая генерировала контент 24 часа в сутки семь дней в неделю. Разработчик не сделал модель общедоступной, поскольку «это привело бы к активному распространению дезинформации и пропаганды».

В июне стало известно, что пользователи ChatGPT Plus, премиум-версии приложения, смогут искать информацию в Bing благодаря новой функции Browsing. Перед специалистами в области кибербезопасности встала проблема, связанная с ликвидацией огромного количества фейковой информации в интернете.