Reddit подключил языковые модели к борьбе со спамом
Reddit подключил большие языковые модели к системе борьбы со спамом, часть которого также создается с помощью этих технологий. По данным компании, обновленные инструменты ежедневно предотвращают около 23 млн просмотров спам-контента и выявляют примерно 25 тыс. новых спам-публикаций и комментариев.
Распространение больших языковых моделей упростило массовое создание спама и публикаций от ботов. Социальные платформы уже много лет используют автоматические фильтры, однако Reddit утверждает, что обновленная система способна распознавать более сложные схемы, которые прежние инструменты пропускали.
«Мы используем LLM, чтобы отслеживать тонкие скоординированные паттерны фейкового поведения и искусственного ажиотажа, которые старые системы пропускали», — говорится в блоге компании.
По данным Reddit, с января по март 2026 года пользователи стали видеть примерно на 20% меньше спама, чем в предыдущие три месяца.
Платформы по-разному регулируют ИИ-контент. YouTube и сервисы Meta* требуют маркировать реалистичные материалы, созданные или существенно измененные с помощью ИИ, если пользователи могут принять их за настоящие. TikTok также требует маркировки реалистичного ИИ-контента и позволяет пользователям регулировать, как часто такие публикации будут появляться в ленте рекомендаций.
Параллельно Reddit расширил автоматическую модерацию контента, связанного с ненавистью и насилием. По данным компании, среднее время от выявления такого материала до принятия мер сократилось до пяти секунд, а число его просмотров снизилось более чем на 40%.
При этом автоматические фильтры не смогут полностью заменить человеческую модерацию. Reddit заявляет, что использует многоуровневую систему, которая сочетает автоматическое выявление нарушений с проверкой людьми. Специалисты отрасли также отмечают, что алгоритмы позволяют обрабатывать большие объемы публикаций, но хуже справляются с контекстом, иронией и неоднозначными формулировками.
*экстремисткая организация, запрещенная на территории РФ
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.
