Нейросеть «ВКонтакте» научилась выявлять суицидальный контент

Нейросеть умеет определять предметы и сущности, изображенные на фото. Так, она «знает» такие категории, как «человек», «ребенок», «животное» и «растение». Кроме того, алгоритм способен определять предметы одежды и анализировать текстовые записи на изображениях. 

В целом нейросеть имеет несколько тысяч классов, которые присваиваются фотографиям — от 0 до 1 по нескольким параметрам. Если алгоритм характеризует фото как «опасное», то оно отправляется модераторам для проверки. Если изображение признано «умеренно опасным», оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет. 

Руководитель направления Big Data и Machine Learning «ВКонтакте» Андрей Законов сообщил «Известиям», что технология анализа изображений необходима в первую очередь для того, чтобы сделать новостную ленту пользователя максимально полезной и интересной. 

«Нейросеть анализирует только изображения, загружаемые для общего доступа, то есть фото в личных сообщениях не анализируются. С помощью этой технологии в будущем мы сможем бороться со спамом и мошенничеством. Мы обучили нашу нейросеть на основе жалоб пользователей на разный контент», — приводит издание слова Андрея Законова.

Ранее Inc. сообщал, что Facebook будет с помощью ИИ выявлять пользователей, склонных к суициду.