«Одноклассники» запустили нейросеть для борьбы с агрессивными комментариями

Соцсеть «Одноклассники» запустила нейросеть, которая выявляет агрессивные высказывания и разжигание розни в комментариях, сообщает ТАСС.

Нейросеть анализирует уровень агрессии в комментариях и передает их модератору, который принимает решение по действиям с комментариями. Алгоритм также способен определять наличие шокирующего содержания и актов насилия на картинках. После проверки они также будут удалены.

Пользователи, которых уличили в распространении агрессивных высказываний или изображений, получат запрет на комментирование любого контента в соцсети. В десктопной версии они увидят сообщение с объяснением причины блокировки и ссылкой на подробности о работе нового алгоритма. В скором времени функция также будет распространена на iOS и Android, отмечает издание.

Схожим алгоритмом пользуется и «ВКонтакте». Соцсеть имеет фильтр для слов в сообществах. При включении он определяет прямые угрозы и разжигание в комментариях, после чего — удаляет такие сообщения.