Facebook поборется с порноместью с помощью искусственного интеллекта

Сегодня Facebook запускает новый инструмент для искусственного интеллекта, который находит интимные изображения и видео, размещенные кем-то без их согласия. Система будет активна в Facebook и Instagram.

В отличие от прежних фильтров, система находит контент в том числе с изображением полуголых тел. Затем он помечается и отправляется модератору для проверки.

В Facebook надеятся, что ИИ лучше справится с поиском таких материалов, чем сами пользователи. «Часто жертвы боятся возмездия, поэтому они неохотно сообщают о контенте сами или не знают о том, что им поделились», — пояснила глава службы безопасности Facebook Антигона Дэвис в своем блоге. Новая система ИИ найдет такой контент и направит его модераторам-людям «до того, как кто-нибудь сообщит об этом».

Система будет ориентироваться не только на визуальный контент, но и на заголовки. Если они будут расценены как уничижительные, ИИ будет считать, что такой материал размещен, чтобы кому-то отомстить. Компания также пообещала, что будет быстрее реагировать на запросы по удалению таких материалов.

До этого момента пользователи Facebook и Instagram должны были самостоятельно сообщать модераторам о размещении материалов порномести и присылать им свои обнаженные фотографии.

Ранее Inc. рассказывал о том, как модераторы контента на Facebook страдают от развития посттравматического синдрома и начинают верить в конспирологические теории. Чтобы справиться со стрессом, работники употребляют наркотические препараты и занимаются сексом на работе.

Подписывайтесь на наш канал в Telegram: @incnews