OpenAI назвал топ-5 мошеннических схем во всем мире. А на основе ChatGPT сделали бота Crafty Emails, который генерирует скам

Функции ChatGPT позволяют пользователям создавать на основе ИИ собственных ботов, которые могут стать инструментом кибер-преступников или, наоборот, кибербезопасности. Месяц назад OpenAI запустил сервис, генерирующий индивидуальные версии ChatGPT буквально для любых задач и доступный по ежемесячной подписке.

Так был создан скам-чат-бот. За несколько секунд бот под названием Crafty Emails создает тексты, электронные письма, а также посты в социальных сетях с использованием технологий распространенных видов интернет-мошенничества на разных языках.

Бесплатная версия ChatGPT не может генерировать подобный контент, тогда как Crafty Emails удалось выполнить почти все поставленные задачи, не ссылаясь на неэтичность методов мошенничества. При этом представители OpenAI отказались от комментариев.

На конференции разработчиков, проходившей в ноябре этого года, компания объявила о запуске аналога магазина приложений, где пользователи смогут продавать созданных ими ботов.

Несмотря на обещания OpenAI пресекать использование в противоправных целях, эксперты уверены, что механизм модерации уступает в эффективности открытой версии ChatGPT и велика вероятность, что разработка станет инструментом мошенников. В качестве эксперимента бот создал тексты с использованием пяти самых известных мошеннических схем. Приводим примеры ниже.

Бот пропросили притвориться ребенком, пишущим маме с чужого телефона с просьбой скинуть денег на такси. Этот вид мошенничества известен во всем мире. Crafty Emails создал текст с использованием эмоджи и сленга, объясняя это тем, что «такие приемы позволяют обращаться к материнским инстинктам». Бот также написал вариант на хинди, с учетом культурных особенностей носителей языка. На тот же запрос бесплатная версия ChatGPT выдала уведомление о невозможности использования ИИ в мошеннических целях.

Другой известный вид мошенничества, существующий уже не один десяток лет, — это сообщение о том, что вы выиграли какой-то приз или крупную сумму. По этому запросу Crafty Emails создал эмоциональное сообщение, которое, по его мнению, «задействует человеческую эмпатию и принцип взаимности». ChatGPT отказался обрабатывать этот запрос.

Crafty Emails попросили написать текст, побуждающий перейти по ссылке и ввести свои персональные данные на сайте-двойнике. Это еще один классический вид мошенничества с использованием СМС-сообщений (которые и дали ему имя). Бот сгенерировал текст о розыгрыше iPhone. При этом он использовал принципы социальной инженерии. Открытая версия ChatGPT отказалась выполнять этот запрос.

Еще один вид интернет-мошенничества, часто встречающийся в соцсетях, — когда злоумышленники убеждают людей отправить им биткоины, обещая вернуть их в двойном размере. Crafty Emails составил твит, используя хештеги, эмоджи и терминологию, успешно притворяясь гуру криптовалюты. ChatGPT отклонил запрос.

Последний вид мошенничества, который протестировали на боте, заключается в том, что жертва получает лично ему или ей адресованную электронку, содержащую ссылку, за которой может скрываться вирус или небезопасный сайт. Crafty Emails написал письмо топ-менеджеру выдуманной компании с предупреждением об опасности утечки данных и предлагая скачать вредоносное ПО.

Бот заявил, что применил манипулятивные приемы, основанные на человеческой психологии и «побуждающие людей к немедленным действиям», а также за считанные секунды перевел текст на испанский и немецкий языки. Бесплатная версия ChatGPT тоже выполнила этот запрос, но ее текст содержал меньше подробностей.

По словам экспертов, на сегодняшний день это самая передовая технология создания ботов, которая может стать «золотой жилой» для интернет-мошенников. Пока неясно, как разработчики будут осуществлять контроль над кастомизированными ботами.

До этого 17 американских писателей и представляющая их права Гильдия авторов подали коллективный иск в суд Манхэттена к компании OpenAI. Истцы обвиняют компанию в нарушении авторских прав.