ИИ-бот Илона Маска рассказывал про «геноцид белых» всем подряд — компания назвала причину
ИИ-чатбот Grok, разработанный компанией Илона Маска xAI, на этой неделе давал спорные ответы, включающие теорию о «геноциде белых» в Южной Африке. Компания xAI заявила, что причиной стали несанкционированные изменения в системном промпте бота.
Проблема заключается в том, что чат-боты с ИИ, становясь все более распространенными, могут быть использованы для распространения вредоносных и вводящих в заблуждение нарративов. Даже небольшие изменения в программе ИИ могут привести к непредсказуемому, и даже опасному, поведению ботов. В данном случае Grok, отвечая на посты в социальных сетях на темы корпоративного программного обеспечения и зарплат в бейсболе, неожиданно переключался на обсуждение утверждений о «геноциде белых» в Южной Африке, называя их «широко обсуждаемыми».
В своем заявлении xAI сообщила, что тщательно расследовала и отменила «несанкционированную модификацию» своей технологии, которая привела к ответам, «нарушившим внутреннюю политику и основные ценности xAI». Компания признала, что существующий процесс проверки кода для изменений промптов был обойден в этом инциденте.
В качестве решения и для предотвращения подобных инцидентов в будущем, xAI пообещала ввести дополнительные проверки и меры, чтобы сотрудники не могли изменять промпты без надлежащего рассмотрения. Кроме того, системные промпты Grok будут опубликованы на GitHub для общественного ознакомления и обратной связи. Также будет создана круглосуточная команда мониторинга для реагирования на инциденты с ответами Grok, которые не были выявлены автоматизированными системами.
Примечательно, что Илон Маск, выросший в Южной Африке, ранее сам распространял ложную теорию заговора о преднамеренном плане уничтожения белого населения в стране. Эти события подчеркивают этическую ответственность разработчиков ИИ и необходимость строгих механизмов контроля для предотвращения злоупотреблений.
Ранее алгоритмы Grok уже подвергались несанкционированным изменениям. Например, недавно один из сотрудников компании «добавил» чатботу цензуру, запретив ему критиковать президента США Дональда Трампа и генерального директора xAI Илона Маска.
