Чат-бот Meta* за два дня работы научился расизму и назвал Марка Цукерберга «слишком жутким»
Спустя несколько дней после запуска чат-бот BlenderBot 3 от Meta (признана экстремистской в РФ) начал утверждать, что Дональд Трамп победил на президентских выборах в США в 2020 году, отправлять пользователям расистские комментарии и назвал Марка Цукерберга «слишком жутким».
Спустя два дня после запуска чат-бот BlenderBot 3 от Meta научился расизму и начал предлагать дезинформирующие сообщения, пишет Business Insider. Чат-боты — программы на основе искусственного интеллекта (ИИ), которые обучаются, общаясь с пользователями, что создает проблему дезинформации системы.
Meta 5 августа запустила нового бота BlenderBot 3. Его отличительной особенностью стала способность «говорить» на любые темы, чего не было у предыдущих версий. Кроме этого, бот может искать информацию по теме в интернете, чтобы дольше общаться с пользователем.
Всего за два дня работы чат-бот обучился расистским высказываниям, а CEO Meta Марка Цукерберга в «разговоре» с журналистом назвал «слишком жутким и манипулятивным». Кроме этого, бот был уверен, что выборы 2020 года в США выиграл Дональд Трамп.
Meta отмечает, что пользователи, получившие нереалистичные ответы или сообщения не по теме, могут оставить жалобу.
С похожей проблемой столкнулась Microsoft в 2016 году. Ей пришлось отключить чат-бот спустя 48 часов после запуска, когда система начала выдавать расистские и женоненавистнические комментарии.
На проблему с дезинформацией искусственного интеллекта уже обратили внимание американские ученые. Они представили исследование, согласно которому обучение ИИ на данных из интернета делает систему гендерно и расово предубежденной.
