Walmart, Delta и Starbucks используют ИИ для отслеживания всех сообщений своих сотрудников

Крупнейшие работодатели США, такие как Walmart, Delta Air Lines, T-Mobile, Chevron и Starbucks, а также европейские бренды, включая Nestle и AstraZeneca, используют стартап Aware для отслеживания разговоров среди сотрудников компании. Аналитический инструмент способен отслеживать сообщения сотрудников, их возраст, местоположение, подразделение, стаж или должностные функции, пишет CNBC.

По словам соучредителя и генерального директора стартапа Aware Джеффа Шумана, ИИ позволяет компаниям в реальном времени «понимать риски в своих коммуникациях», получая информацию о настроении сотрудников. Модели искусственного интеллекта Aware также могут выявлять издевательства, преследования, дискриминацию, несоблюдение требований, порнографию, наготу и другое поведение. Этот инструмент Aware не может назвать имена определенных сотрудников, но отдельный инструмент eDiscovery может это сделать в случае экстремальных угроз или другого рискованного поведения, заранее определенного клиентом.

Aware рассказал, что Walmart, T-Mobile, Chevron и Starbucks используют ее технологии для управления рисками и соблюдения требований. Представитель AstraZeneca заявил, что компания использует продукт eDiscovery, но не использует аналитику для мониторинга настроений или токсичности. Компания Delta сообщила, что она использует аналитику и eDiscovery от Aware для мониторинга тенденций и настроений как способа сбора отзывов от сотрудников и других заинтересованных сторон, а также для хранения юридических записей на своей платформе социальных сетей.

Ютта Уильямс, соучредитель некоммерческой организации Humane Intelligence, занимающейся подотчетностью в области искусственного интеллекта, считает эту тенденцию корпоративным шпионажем, особенно в рамках электронной почты. «Многое из этого становится мысленным преступлением. Это отношение к людям как к инвентарю, чего я еще не видела», — сказала Уильямс.

Наблюдение за сотрудниками с помощью инструментов ИИ набирает популярность, которая резко выросла в прошлом году с появлением чат-бота OpenAI ChatGPT. Выручка Aware за последние пять лет увеличилась в среднем на 150% в год. По отраслевым стандартам Aware остается довольно экономичной. Последний раз компания привлекала деньги в 2021 году в размере $60 млн в рамках раунда под руководством Goldman Sachs.

Шуман основал компанию в 2017 году, проработав почти восемь лет в сфере корпоративного сотрудничества в страховой компании Nationwide. Ежегодно компания публикует отчет, объединяющий данные миллиардов сообщений, отправленных крупными компаниями, с указанием предполагаемых факторов риска и оценок настроений на рабочем месте.

При включении других типов передаваемого контента, таких как изображения и видео, аналитический искусственный интеллект Aware анализирует более 100 млн фрагментов контента каждый день. При этом технология создает социальный граф компании, анализируя, какие команды внутри компании общаются друг с другом больше, чем другие.

По словам Шумана, аналитический инструмент всегда отслеживает настроение сотрудников в режиме реального времени. Если их настроение резко возросло за последние 20 минут, это значит, что они коллективно говорят о чем-то позитивном. Технология сможет рассказать об этом, что бы это ни было.

Компания Aware рассказала, что использует данные своих корпоративных клиентов для обучения собственных моделей машинного обучения. По сведениям компании, хранилище данных Aware содержит около 6,5 млрд сообщений, что представляет собой около 20 млрд индивидуальных взаимодействий более чем с 3 млн уникальных сотрудников.

Когда новый клиент подписывается на инструмент аналитики, моделям искусственного интеллекта Aware требуется около двух недель, чтобы обучиться сообщениям сотрудников и изучить модели эмоций и настроений внутри компании, чтобы они могли увидеть, что является нормальным, а что нет. 

«В целях защиты конфиденциальности не будут указаны имена людей. Но инструмент eDiscovery от Aware работает по-другому. Компания может настроить ролевой доступ к именам сотрудников в зависимости от категории «чрезвычайного риска» по выбору компании, что предписывает технологии Aware извлекать имя человека в некоторых случаях, для отдела кадров или другого представителя компании. Некоторыми из распространенных из них являются крайнее насилие, крайние издевательства и преследования, но они различаются в зависимости от отрасли», — сказал Шуман, добавив, что в сфере финансовых услуг будут отслеживаться подозрения в инсайдерской торговле.

Например, клиент может указать политику «насильственных угроз» или любую другую категорию, используя технологию Aware, и заставить модели ИИ отслеживать нарушения в Microsoft. Если ИИ обнаружит что-то, что нарушает установленную политику компании, он может сообщить имя сотрудника назначенному представителю клиента. Этот тип практики уже много лет используется в сфере электронной почты. Новым является использование искусственного интеллекта и его приложений на платформах обмена сообщениями на рабочих местах, таких как Slack и Teams.

Амба Как, исполнительный директор Института искусственного интеллекта Нью-Йоркского университета, обеспокоена использованием ИИ для определения рискованного поведения. «Это приводит к сдерживающему эффекту на то, что люди говорят на рабочем месте», — говорит она. По ее словам, Федеральная торговая комиссия, Министерство юстиции и Комиссия по равным возможностям трудоустройства выразили обеспокоенность по этому поводу, хотя она не говорила конкретно о технологии Aware. «Это как вопросы прав работников, так и вопросы конфиденциальности».

«Ключевым отличием здесь является то, что Aware и ее модели искусственного интеллекта не принимают решения. Наш ИИ просто упрощает анализ этого нового набора данных для выявления потенциальных рисков или нарушений политики», — сказал Шуман. Однако клиенты Aware, использующие свой аналитический инструмент, могут добавлять метаданные к отслеживанию сообщений, такие как возраст сотрудника, местоположение, подразделение, стаж или должностные функции.

До этого сообщалось о том, что Volkswagen создаст собственную лабораторию искусственного интеллекта, — это отражает растущие амбиции автомобильной промышленности по внедрению этой технологии. В компании сообщили, что ее новая лаборатория искусственного интеллекта будет служить «глобальным сетевым центром компетенции и инкубатором» для инноваций в области технологий, связанных с автомобилестроением.