Meta* «заблюрит» сообщения в Instagram*, содержащие обнаженную натуру, из-за безопасности детей

Instagram* (принадлежит Meta*, запрещенной и признанной в РФ экстремистской) протестирует функции, которые размывают сообщения, содержащие обнаженную натуру, чтобы защитить подростков и предотвратить доступ к ним потенциальных мошенников. Об этом сообщила Meta*, пытаясь развеять опасения по поводу вредоносного контента в своих приложениях. Технологический гигант находится под растущим давлением в Соединенных Штатах и Европе из-за обвинений в том, что его приложения вызывают привыкание и подпитывают проблемы с психическим здоровьем среди молодых людей.

Компания Meta* заявила, что функция защиты сообщений в Instagram* будет использовать машинное обучение для анализа того, содержит ли изображение, отправленное через сервис, обнаженную натуру. Функция будет включена по умолчанию для пользователей младше 18 лет, а взрослых Meta* уведомит о необходимости ее включения.

«Поскольку изображения анализируются на самом устройстве, защита от обнаженной натуры будет работать и в сквозных зашифрованных чатах, где у Meta* не будет доступа к этим изображениям, если только пользователь не решит сообщить нам о них», — заявили в компании. В отличие от приложений Meta* Messenger и WhatsApp, личные сообщения в Instagram* не шифруются, но компания заявила, что планирует внедрить шифрование для социальной сети.

Компания также заявила, что разрабатывает технологию, помогающую выявлять аккаунты, которые могут быть потенциально вовлечены в секс-мошенничество, и тестирует новые всплывающие сообщения для пользователей, которые могли взаимодействовать с такими аккаунтами.

В январе Meta* заявила, что будет скрывать больше контента от подростков на Facebook* и Instagram*. В компании подчеркнули, что это усложнит их знакомство особым контентом, с таким как самоубийства, членовредительство и расстройства пищевого поведения.

Генеральные прокуроры 33 штатов США, включая Калифорнию и Нью-Йорк, подали в суд на Meta* в октябре, заявив, что она неоднократно вводила общественность в заблуждение относительно безопасности своих платформ. В то же время Европейская комиссия запросила информацию о том, как компания защищает детей от незаконного и вредного контента.

Ранее организация MSI Reproductive Choices и Центр противодействия цифровой ненависти обвинили Meta* и Google в том, что их платформы ограничивают рекламные возможности для местных поставщиков услуг по прерыванию беременности, но не борются с дезинформацией, которая препятствует доступу населения к репродуктивному здоровью. В докладе утверждается, что посты об абортах и контрацепции были удалены, в то время как дезинформация в лентах пользователей социальных сетей в Африке, Латинской Америке и Азии не была заблокирована.