В Meta* 20% детей стали жертвами издевательств и домогательств. Компания могла, но не стала это исправлять

Усилия Meta* (признана в РФ экстремистской и запрещена) Марка Цукерберга недостаточны для обеспечения безопасности несовершеннолетних пользователей, хотя, по словам бывшего сотрудника, у компании уже есть инфраструктура для защиты подростков от вредного контента.

Артуро Бехар, бывший старший инженер и консультант Meta*, владеющей Instagram* и Facebook*, заявил, что компания создала бы более безопасную среду для молодых пользователей, если бы извлекла уроки из смерти Молли Рассел и последующего расследования.

Согласно исследованию, проведенному Бехаром, среди пользователей Instagram* 8,4% подростков в возрасте от 13 до 15 лет видели на платформе материалы, где кто-то причинял себе вред или угрожал это сделать. «Если бы они извлекли уроки из опыта Молли Рассел, они бы создали продукт, безопасный для подростков», — сказал Бехар.

Молли Рассел, 14-летняя девочка из Харроу на северо-западе Лондона, покончила с собой в 2017 году после просмотра в Instagram* и Pinterest вредоносного контента, связанного с самоубийством, членовредительством, депрессией и тревогой. Следствие по делу пришло к выводу, что Молли «умерла от акта членовредительства, страдая от депрессии и негативного воздействия онлайн-контента».

Бехар сказал, что в распоряжении Цукерберга есть инструменты, чтобы сделать Instagram*, в частности, более безопасным для подростков, но компания решила не вносить эти изменения. «Им нужен другой руководитель, либо нужно, чтобы он проснулся завтра утром и сказал: „Такой контент запрещен на платформе“. Потому что у них уже есть инфраструктура и инструменты для того, чтобы такой контент было невозможно найти». По словам Бехара, Meta* потребуется всего три месяца, чтобы ограничить вредоносный контент.

Исследование Бехара в Instagram* фигурирует в иске, поданном против Meta* генеральным прокурором Нью-Мексико Раулем Торресом, в котором утверждается, что компания не в состоянии защитить детей от злоумышленников. Как сказано в иске, сотрудников Meta* предупредили, что компания «занимает статус-кво» после смерти Молли Рассел, когда «статус-кво явно неприемлем для СМИ, многих пострадавших семей и широкой общественности».

В обязанности Бехара как технического директора входили обеспечение безопасности несовершеннолетних пользователей и помощь в борьбе с вредоносным контентом. Покинув пост старшего инженера в 2015 году, он вернулся в компанию в 2019 году уже в качестве консультанта. Тогда он и провел исследование, показавшее, что каждый восьмой ребенок в возрасте от 13 до 15 лет сталкивался в Instagram* с сексуальными домогательствами, в то время как каждый пятый на платформе был жертвой издевательств, а 8% просматривали вредоносный контент.

Бехар призвал Meta* предпринять ряд изменений, в том числе упростить пометку нежелательного контента с указанием причины, регулярно опрашивать пользователей об их опыте использования платформ Meta, а также упростить для пользователей процесс отправки отчетов о своем опыте использования сервисов компании.

Бехар продолжает следить за платформой Instagram* и говорит, что в приложении остается вредоносный контент, в том числе материалы о членовредительстве, а также присутствие несовершеннолетних пользователей. Отметим, что пользователям Instagram должно быть не менее 13 лет.

На этой неделе Бехар встретился с политиками, регулирующими органами и активистами в Великобритании, в том числе с отцом Молли, Яном Расселом, чей Фонд Молли Роуз способствовал его визиту. В прошлом году Бехар дал показания перед Конгрессом, подробно описав свой опыт работы в компании и «ужасный опыт» своей дочери-подростка и ее друзей в Instagram*, включая перенесенные сексуальные домогательства.

Тем временем представитель Meta* заявил: «Каждый день бесчисленное количество людей внутри и за пределами Meta работают над тем, как обеспечить безопасность молодых людей в Интернете. Сотрудничая с родителями и экспертами, мы внедрили более 30 инструментов и ресурсов для поддержки подростков и их семей в безопасном и позитивном опыте в Интернете. Вся эта работа продолжается».

Meta указывает на многочисленные инициативы в области безопасности, в том числе на автоматический перевод аккаунтов пользователей младше 16 лет в приватный режим, когда они заходят в Instagram*, ограничение для взрослых пользователей отправлять личные сообщения подросткам, которые не подписаны на них, и разрешение пользователям социальной сети сообщать об издевательствах, домогательствах и сексуальной активности.

Ранее генеральный директор Meta* Марк Цукерберг рассказал, сколько графических процессоров будет у его компании к концу 2024 года. По оценкам отрасли, их общая стоимость может достигать $18 млрд. Они потребуются компании для создания «общего интеллекта» для поддержки инструментов ИИ, которые «доступны и полезны каждому в нашей повседневной жизни».