Журнал
О проекте
О проекте
Inc. — журнал-икона американских предпринимателей.
Уже 37 лет он рассказывает, как запускать бизнес с нуля.
С 2016 года мы делаем это в России.
Связаться с нами лучше всего по электронной почте
Редакция
editorial@incrussia.ru
Рекламный отдел
ad@incrussia.ru
Адрес редакции
109263, город Москва, улица Шкулева, дом 9, корпус 1, офис II Вакансии
Новости

Нейросеть «ВКонтакте» научилась выявлять суицидальный контент


Социальная сеть «ВКонтакте» начала использовать «обученный» алгоритм собственной разработки, который присваивает картинкам специальный рейтинг, определяя, содержится ли в них противоправный или «опасный» контент. Такие изображения либо не попадают в поисковую выдачу и «умную» новостную ленту, либо полностью блокируются. Об этом сообщают «Известия».

Нейросеть умеет определять предметы и сущности, изображенные на фото. Так, она «знает» такие категории, как «человек», «ребенок», «животное» и «растение». Кроме того, алгоритм способен определять предметы одежды и анализировать текстовые записи на изображениях. 

В целом нейросеть имеет несколько тысяч классов, которые присваиваются фотографиям — от 0 до 1 по нескольким параметрам. Если алгоритм характеризует фото как «опасное», то оно отправляется модераторам для проверки. Если изображение признано «умеренно опасным», оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет. 

Руководитель направления Big Data и Machine Learning «ВКонтакте» Андрей Законов сообщил «Известиям», что технология анализа изображений необходима в первую очередь для того, чтобы сделать новостную ленту пользователя максимально полезной и интересной. 

«Нейросеть анализирует только изображения, загружаемые для общего доступа, то есть фото в личных сообщениях не анализируются. С помощью этой технологии в будущем мы сможем бороться со спамом и мошенничеством. Мы обучили нашу нейросеть на основе жалоб пользователей на разный контент», — приводит издание слова Андрея Законова.

Ранее Inc. сообщал, что Facebook будет с помощью ИИ выявлять пользователей, склонных к суициду.

Поделиться
Подписаться на самые важные материалы
о бизнесе и технологиях в России