Facebook рассказал об использовании искусственного интеллекта для борьбы с терроризмом

Руководство соцсети привлекло ИИ для удаления пропаганды терроризма в сети. Компания также наняла 150 сотрудников, которые сфокусируются на борьбе с экстремистскими постами, говорится в сообщении Facebook.

За счет искусственного интеллекта соцсеть рассчитывает выявлять видеоролики и сообщения о терроризме еще до того, как они будут опубликованы на платформе Facebook. «В связи с недавними терактами люди задаются вопросами о роли технологических компаний в борьбе с терроризмом в Интернете. Мы хотим дать ответы на эти вопросы», — пояснило в руководство соцсети.

Объясняя, как Facebook намерен остановить распространение экстремистского контента в сети, представители компании объяснили, что при загрузке фото или видеоролика, содержащего пропаганду терроризма, система проанализирует, совпадают ли изображения с ранее удаленными материалами и не допустит, чтобы материал загружался с других аккаунтов. Вскоре компания также намерена научить ИИ искать тексты, которые могут пропагандировать экстремизм.

Соцсеть уже успешно применяет алгоритмы, которые выявляют пропаганду ИГ и «Аль-Каиды» (запрещены в России).

Ранее Inc. писал о работе модераторов Facebook и внутренних правилах цензуры компании. Так, для принятия решения о том, подлежит ли материал удалению, у сотрудника есть всего 10 секунд. Из-за огромного количества контента, который появляется ежесекундно, модераторы не могут рассматривать каждый случай подолгу.