Исследование: токсичность является одним из основных элементов онлайн-общения

В исследовании, опубликованном в журнале Nature, ученые обнаружили свидетельства устойчивых моделей токсичности в беседах людей на различных платформах социальных сетей, причем тип платформы, тема обсуждения или временной период не имели значения. Исследование показало, что длительные разговоры онлайн имеют тенденцию к эскалации токсичности и поляризации, особенно когда в них сталкиваются противоположные точки зрения. Удивительно, но это не отпугивает пользователей.

Предыдущие исследования были посвящены поляризации, дезинформации и антисоциальному поведению в интернете, но всеобъемлющее понимание того, как на этих платформах проявляются присущие человеку модели поведения, было неясно. Цель нового исследования — восполнить этот пробел, изучив динамику токсичности, присущую различным цифровым средам.

«Платформы социальных сетей стали центральными для общения, сбора информации и формирования мнений», — объясняет автор исследования Уолтер Кватрочиокки, профессор информатики в Римском университете Сапиенца.

«Токсичность подрывает эти процессы и может пагубно сказаться на психическом здоровье пользователей и качестве общественного дискурса. Изучая эти закономерности в течение длительного периода, мы надеялись обнаружить глубинные механизмы и потенциальные решения для смягчения такого поведения, что в конечном итоге будет способствовать созданию более здоровой цифровой среды», — добавил он.

Исследовательская группа собрала данные с восьми различных платформ социальных сетей, собрав в общей сложности около 500 млн комментариев за 34 года. В этот массив данных вошли такие широко используемые платформы, как Facebook* (признана в РФ экстремистской и запрещена), Twitter и Reddit, а также менее распространенные платформы, такие как Gab и Voat.

Ученые также включили комментарии из USENET, всемирной распределенной дискуссионной системы, созданной в 1980 году — более чем за десять лет до того, как интернет стал доступен широкой публике.

Собранные комментарии были связаны с различными темами, такими как политика, новости, окружающая среда и вакцинация. Такое разнообразие тем помогло свести к минимуму предубеждения, которые могут повлиять на характер онлайн-разговоров, и позволило получить более обобщенное представление о токсичности в различных контекстах.

«Анализ нескольких платформ — ключ к выделению истинно человеческих моделей поведения из простых реакций на специфическую интернет-среду, — говорит соавтор исследования Андреа Барончелли, профессор Лондонского университета. — Внимание слишком часто фокусируется на конкретной платформе, и при этом человеческая природа игнорируется. Наше исследование — важный шаг к изменению этого отношения и возвращению внимания к тому, кто мы есть и как мы себя ведем».

Для анализа собранных комментариев исследователи использовали Perspective API — современный инструмент машинного обучения, разработанный компанией Google. Он предназначен для выявления токсичных высказываний, которые в данном исследовании определяются как «грубые, неуважительные или необоснованные комментарии, способные заставить человека покинуть дискуссию».

API Perspective присваивает каждому комментарию коэффициент токсичности, который исследователи использовали для определения распространенности и распределения таких комментариев в наборе данных. Применение такого автоматизированного инструмента позволило ученым эффективно обработать огромный объем данных.

Одним из ключевых открытий стало то, что чем дольше продолжается диалог в интернете, тем больше вероятность того, что он станет токсичным. Эта закономерность сохраняется вне зависимости от платформы социальных сетей, темы обсуждения или исторического контекста. Это говорит о том, что по мере продолжения обсуждений они становятся все более поляризованными и враждебными.

«Токсичное поведение распространено на всех типах платформ и в обсуждениях в социальных сетях, даже в контекстах, не предполагающих конфронтации, — сказал Кваттрочиокки. — Это говорит о том, что, хотя структура платформы и тема разговора имеют большое значение, существуют неотъемлемые аспекты онлайн-коммуникации, которые способствуют токсичности».

Вопреки распространенному мнению о том, что ядовитые комментарии снижают активность пользователей, исследователи обнаружили, что токсичность не отталкивает людей. Более того, пользователи с большей вероятностью продолжат активное участие в дискуссиях, где преобладают агрессивные комментарии. Этот вывод указывает на то, что такая среда не только не отталкивает пользователей, но и способствует вовлеченности, которая заставляет участников беседы возвращаться к обсуждению, возможно, из-за эмоциональной заинтересованности или чувства конфликта.

«Одним из самых удивительных выводов стало то, что беседы часто продолжались несмотря на наличие токсичных комментариев, — говорит Кваттрочиокки. — Это опровергает общепринятое представление о том, что токсичность только мешает диалогу. Такая устойчивость открывает новые возможности для понимания того, как люди адаптируются к социальной среде и управляют ею».

Исследователи заметили, что эти паттерны токсичности и вовлеченности совпадают на разных платформах социальных сетей. Это позволяет предположить, что динамика токсичности в интернете может быть фундаментальным аспектом взаимодействия людей в цифровом пространстве и не зависит от специфики платформы, культурного бэкграунда или политики модерации.

Несмотря на использование большого объема данных и глубокий анализ, исследование имеет свои ограничения. Одна из основных проблем заключается в том, чтобы отличить присущие человеку модели поведения от тех, на которые влияют дизайн платформы и структуры алгоритмов. Использование автоматизированных систем для выявления токсичности, хотя и необходимое для обработки больших массивов данных, также вносит потенциальные погрешности из-за сложности естественного языка и тонкостей человеческого общения.

Будущие исследования должны быть направлены на совершенствование технологий выявления агрессивных проявлений, понимание триггеров токсичного поведения и изучение роли алгоритмов платформы в формировании этой динамики. Кроме того, изучение влияния этих моделей взаимодействия в офлайн-среде может дать более глубокое представление о природе токсичности в человеческом общении в целом.

Серия исследований показала, что вирусность социальных сетей усиливает угрозы обществу, разжигая моральную панику и усиливая выражение негодования. Концепция «моральной паники» — общественного возмущения по поводу предполагаемых угроз «нашла новую питательную среду» на платформах социальных сетей. Это объясняется механикой социальных медиа, где вирусность, измеряемая лайками, служит психологическим сигналом, подчеркивающим, какие проблемы должны волновать общественность.