Meta наняла людей-консьержей для своего ИИ-агента Muse
Meta* протестировала необычную схему работы ИИ-помощника Muse: часть звонков, которые тот должен был совершать самостоятельно, незаметно для собеседников передавалась людям-операторам. После критики сотрудников компания временно приостановила тест.
Muse умеет самостоятельно звонить в американские компании, чтобы, например, записать пользователя на стрижку, уточнить наличие товара или запросить цены у подрядчиков. Однако некоторые компании отказывались разговаривать с ИИ, а часть звонков проходила неудачно.
Внутри Meta сотрудники выразили обеспокоенность тем, что передача звонков людям может поставить под угрозу конфиденциальность пользователей. Один из них также сообщил, что во время такого звонка подрядчик допустил расистское высказывание.
Вице-президент Meta признала, что запуск теста без надлежащего уведомления пользователей был ошибкой, и сообщила о временной приостановке функции. По данным компании, участие людей в звонках в ходе экспериментов позволяло повысить долю успешных разговоров до 95−98%.
При этом Meta не отказалась от самой идеи. Компания заявила, что продолжит работать над технологией и сможет запустить ее публично после доработки мер безопасности и информирования пользователей.
Muse за две недели после запуска скачали более 2,5 млн раз, по данным Sensor Tower.
*Meta — запрещена на территории РФ и признана экстремистской
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
