Исследование показало, как ИИ-боты меняют манеру общения людей
Международная группа исследователей опубликовала в журнале AI & Society теоретическую работу о том, как регулярное общение с ИИ-ботами клиентской поддержки может менять поведение пользователей. Авторы предположили, что со временем люди начинают формулировать запросы и представлять себя так, чтобы системе было проще их распознавать, классифицировать и обслуживать.
Работа не доказывает, что пользователи действительно становятся более похожими на машины. Авторы не проводили экспериментов, не опрашивали людей и не анализировали новые данные. Вместо этого они объединили выводы предыдущих исследований о взаимодействии человека и технологий, психологии потребителей и формировании идентичности, а затем сформулировали гипотезы для будущей эмпирической проверки.
В центре гипотезы — «роботоидная человечность» (robotoid humanness). Это постепенный сдвиг, при котором человек начинает воспринимать свое поведение как более уместное и эффективное, если оно соответствует логике машины. Антропоморфные ИИ-агенты могут использовать человеческие сигналы — жесты и голос в физических роботах, эмоциональные формулировки и естественную речь в текстовых ботах, — создавая ощущение социального контакта. Авторы предполагают и обратное влияние: при регулярном взаимодействии пользователи могут сглаживать индивидуальные особенности общения и подстраивать самовыражение под то, что система легче распознает и поощряет.
Авторы делят предполагаемый процесс на три стадии. Сначала пользователь попадает в искусственно созданную социальную ситуацию, воспринимает ИИ-агента как отдельную сторону диалога и начинает относиться к общению как к значимому. Затем система анализирует цифровые следы, делает выводы о предпочтениях и вероятных реакциях человека и возвращает ему статистический профиль через персонализированные ответы. Такой профиль может быть удобен для алгоритма, но он неизбежно отражает человека уже и проще, чем тот воспринимает себя сам.
На третьей стадии пользователь начинает менять самопрезентацию в сторону ясности, последовательности и предсказуемости — качеств, которые системе проще распознать и обработать. Если такие формулировки раз за разом приводят к более удобному или благоприятному ответу, человек может постепенно закрепить их и перенести в следующие взаимодействия.
Доцент маркетинга Бирмингемского университета Инджи Торал-Мэнсон отметила, что социальных роботов для клиентской поддержки намеренно наделяют человеческими чертами, чтобы вызвать доверие и вовлечь собеседника в диалог. В зависимости от формата это могут быть жесты, голос и выражение эмоций либо естественная речь, персонализированные ответы и имитация эмпатии.
По словам Торал-Мэнсон, исследователей заинтересовало обратное направление этого процесса. Обычно внимание сосредоточено на том, как машины воспроизводят человеческое поведение, тогда как предложенная модель описывает, как ответы и логика ИИ могут постепенно менять поведение и самовосприятие самого пользователя.
Доцент бизнес-администрирования шведского Университета Линнея Сельджен Озтюркджан описала этот механизм как повторяющийся цикл: пользователь действует, робот отвечает, а человек со временем усваивает привычную схему обмена. В основе такого поведения лежит зеркальное подражание — склонность людей, часто неосознанно, перенимать сигналы и манеру общения собеседника.
Машинное обучение, по мнению Озтюркджан, способно усиливать такой цикл: система корректирует поведение с учетом действий конкретного пользователя, а ее ответы становятся все более персонализированными. Человек может воспринимать это как точное понимание своей личности, хотя алгоритм работает не с ней во всей полноте, а с построенным на основе данных статистическим профилем.
Ключевое отличие авторы видят не в самом наличии обратной связи, а в ее характере. Живые собеседники могут спорить, удивлять, неправильно понимать друг друга и предлагать несовпадающие взгляды, тогда как алгоритмические ответы настраиваются на последовательность, персонализацию и предсказуемый результат. Такая система чаще подтверждает уже построенный профиль пользователя, чем сталкивает его с неожиданной реакцией.
По гипотезе исследователей, со временем человек может принять возвращаемый системой статистический профиль за более правильную и удобную версию самого себя. Тогда он начинает чаще выбирать поведение, которое алгоритм легко классифицирует и поддерживает, и реже демонстрирует неоднозначные, противоречивые или непривычные черты. Авторы считают, что такое незаметное сужение самовыражения может ограничивать самостоятельность пользователя.
Доцент Орхусского университета Жан-Поль де Крос Перонар отметил, что роботы и ИИ уже стали привычной частью клиентской поддержки, поэтому компаниям важно учитывать не только эффективность таких систем, но и их возможное влияние на пользователей. Авторы предлагают ограничивать чрезмерные выводы алгоритма о человеке, позволять пользователю оспаривать персонализацию и сохранять возможность отклоняться от навязанного системой сценария.
Авторы подчеркивают, что «роботоидная человечность» — не неизбежный результат любого общения с ИИ, а пока не проверенная эмпирически модель. Предполагаемый эффект должен быть слабее при контакте с простыми и явно ограниченными ботами и сильнее при длительном общении с персонализированными системами, убедительно имитирующими социальное присутствие. Проверить гипотезу исследователи предлагают с помощью экспериментов, длительных наблюдений и опросов пользователей.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
