TikTok перестанет рекомендовать однотипные ролики, которые могут навредить ментальному здоровью
Платформа TikTok перенастроит алгоритм, чтобы остановить потоки негативного контента в лентах пользователей. Это происходит на фоне всплеска критики в адрес социальных сетей по поводу их пагубного воздействия на психику детей и подростков. Аудитория TikTok насчитывает более 1 млрд пользователей, примерно две трети из которых — в возрасте от 10 до 29 лет.
Рекомендательный раздел TikTok предлагает бесконечный поток свежего контента, подобранного с помощью специально обученного алгоритма. Он разработан так, чтобы избегать шаблонов, например не показывать несколько видео подряд из одного и того же аккаунта.
Теперь TikTok обучает алгоритм распознавать шаблоны на такие потенциально опасные темы, как экстремальные диеты и фитнес, а также грусть, сообщает компания в своем блоге. Тем самым платформа надеется защитить пользователей от категорий контента, которые безопасны, если смотреть одно видео, но могут вызывать проблемы при просмотре большого количества подобного контента.
В TikTok пытаются определить, может ли система непреднамеренно рекомендовать пользователям ограниченные типы контента, которые, хотя и не нарушают правила площадки, могут негативно влиять на человека, если большая часть того, что он смотрит, например, контент об одиночестве или похудении. В этой работе компания консультируется с экспертами в области медицины, клинической психологии и этики искусственного интеллекта.
В недавней статье New York Times под названием «Как TikTok читает ваши мысли» журналисты изучили утекший внутренний документ, полученный от инженерной группы компании в Пекине. В нем предполагалось, что алгоритмы удерживают пользователей в приложении как можно дольше, даже если это означает размещение «грустного» контента, который может привести к селфхарму.
В своем блоге TikTok заявил, что он позволит пользователям удалять определенные слова и хэштеги из своих лент. Например, вегетарианец сможет настроить ленту так, чтобы не видеть мяса, а человек с низкой самооценкой — уроки по макияжу.
