Выяснилось, что ИИ отслеживает рабочие разговоры и передает их третьим лицам

Оказалось, что инновационные офисные технологии с искусственным интеллектом прослушивают разговоры и способны раскрыть секреты компании. Инженер и исследователь Алекс Билзерян недавно рассказал на X, что Otter AI, платформа, которую он использовал для расшифровки встречи Zoom с венчурной фирмой, случайно раскрыла конфиденциальный разговор.

После окончания встречи Билзерян получил электронное письмо с расшифровкой звонка и понял, что умный помощник продолжал записывать разговоры партнеров даже после того, как он вышел из системы. По его словам, расшифровка включала личные разговоры инвесторов из венчурной компании, где они обсуждали конфиденциальные детали своего бизнеса, в том числе неудачи. Инвесторы, имена которых он не назвал, очень извинились, когда он сообщил, что прочитал их личный разговор. Но этот случай заставил Билзеряна отменить сделку.

Компания Otter AI отреагировала на пост Билзеряна, объяснив, что они понимают обеспокоенность и стремятся сохранить конфиденциальность и безопасность информации. «Пользователи имеют полный контроль над разрешениями на обмен сообщениями и могут изменять, обновлять или отменять разрешения на обмен сообщениями в любое время, — заявили в компании. — В этом конкретном случае пользователи имеют возможность не делиться автоматически расшифровками ни с кем или автоматически делиться разговорами только с пользователями, которые используют тот же домен Workspace».

Согласно данным, OtterPilot, помощник на базе искусственного интеллекта, который записывает и расшифровывает совещания, захватывает только звук во время звонка, поэтому он ничего не будет записывать, если микрофон участника отключен. Согласно данным, участники звонка также получат уведомление о том, что совещание записывается, а виртуальный помощник будет отображаться как участник совещания.

Бизнесмен Роб Бездижан из Солт-Лейк-Сити однажды упустил выгодную сделку, поскольку отказал потенциальным инвесторам в записи встречи на Otter. Он рассказал, что опасался записывать свои бизнес-идеи и в результате упустил некоторые детали.

«Я думаю, это большая проблема, поскольку технология распространяется быстро, а люди еще не осознали, насколько она инвазивна», — заявила изданию исследователь и защитник конфиденциальности Наоми Броквелл. Она также отметила, что ИИ увеличивает риск утечки корпоративных секретов и может привести к судебным искам.

Уилл Андре, консультант по кибербезопасности, предостерег от необоснованного, повсеместного использования инструментов ИИ в компаниях, заявив, что на своей прежней должности в отделе маркетинга он наткнулся на запись на общедоступных серверах компании, содержащую кадры обсуждения увольнений его начальниками.

В последнее время программное обеспечение и устройства на базе искусственного интеллекта находятся под пристальным вниманием, поскольку все больше компаний интегрируют эту технологию в свои продукты. Например, Apple создала Apple Intelligence, а Google недавно запустила Gemini. Использование искусственного интеллекта на платформах социальных сетей также вызвало гнев среди пользователей таких платформ, как Meta* (запрещена и признана экстремистской в РФ), которая обучает Meta AI*, используя общедоступные пользовательские данные.

Ранее аналитики «Точки» рассказали Inc. о результатах исследования, в ходе которого они проанализировали частотность запросов в интернет об искусственном интеллекте за последние два года. Оказалось, что российский бизнес стал больше интересоваться этой технологией. Количество запросов с формулировкой «искусственный интеллект для бизнеса» выросло с 1 228 в сентябре 2022 до 8 905 в конце августа 2024 года, то есть на 625%.