Рассылка журнала Inc.
Подпишитесь на самые важные материалы о бизнесе и технологиях в России
Новости

В Китае из популярного мессенджера удалили чат-ботов из-за непатриотичных ответов

Компания Tencent удалила из популярного в Китае мессенджера QQ два чат-бота после того, как алгоритмы непатриотично ответили на вопросы о Южно-Китайском море и Коммунистической партии Китая. Об этом сообщает газета Financial Times (FT).


Пользователи лишились доступа к XiaoBing (чат-бот разработали в Microsoft) и BabyQ (его создали в пекинской компании Turing Robot). Тестовая версия BabyQ, которая в среду находилась в открытом доступе на сайте китайской компании, отрицательно отвечала на вопрос о том, любит ли чат-бот коммунистическую партию КНР. На вопрос о том, принадлежит ли Тайвань Китаю BabyQ отметил, что пока не знает.

Во время работы в QQ чат-бот XiaoBing сообщал пользователям, что китайская мечта алгоритма — отправиться в Америку. В Tencent уже заявили, что услуги групповых чат-ботов предоставляли независимые сторонние компании, пообещав скорректировать предоставляемые услуги.

В FT напоминают, что в марте прошлого года корпорация Microsoft представила чат-бота Tay на основе искусственного интеллекта, который менее чем через сутки после запуска начал оскорблять пользователей Twitter.

Подобное поведение алгоритмов объясняется слабыми местами в техниках глубокого обучения, которые использовались при тренировке. В компании Forrester сравнили поведение Tay с BabyQ, поскольку машинное обучение предусматривает использование информации, доступной в интернете, что и приводит к таким ответам.

Издание отмечает, что код алгоритмов BabyQ открыт всем желающим. В Turing Robot таким образом хотели снизить сложность внедрения алгоритмов в сторонние продукты. В компании сообщали, что в обучении BabyQ принимали участие 600 тысяч разработчиков.

Напомним, Facebook закрыл систему искусственного интеллекта из-за того, что чат-боты вышли из-под контроля и начали общаться на собственном языке. Изначально агенты на основе искусственного интеллекта использовали для общения английский язык. Однако спустя некоторое время они создали язык, который могли понять только системы на основе ИИ.