Дети в интернете: игровая платформа Roblox ведет борьбу с сексуальными домогательствами

Создать игру в цифровой среде Roblox может любой пользователь, и разработанная Доком бутлег-версия хитовой франшизы Sega имела бешеный успех. К сентябрю 2020 года Roblox посещали около 36 млн пользователей ежедневно, более половины из них — младше 13 лет. Таким образом, портал стал крупнейшей игровой платформой для детей. В Sonic Eclipse дети могли купить виртуальную валюту Robux, а затем использовать ее для покупки костюмов и перевоплощения в более крутых персонажей.

Любимчик публики

Док утверждал, что он один из самых высокооплачиваемых разработчиков в Roblox, и хвастался этим перед своими подписчиками в чате Discord. Там тысячи фанатов Sonic Eclipse знали его как 28-летнего Джейдона Шедлецки, «разработчика игр, визионера индустрии и немного фанфарона», как выразился он сам.

По словам Дока, он младший брат легенды Roblox Джона Шедлецки, который долгое время был креативным директором платформы. Никто не знал, как Док выглядел на самом деле, но всем интересующимся он описывал себя как здоровяка со светлыми волосами и голубыми глазами, который разъезжает на шикарных машинах с «горячей испанской подружкой».

Мрачный, резкий юмор Дока только усиливал интерес к нему. Когда он опубликовал шутку об изнасиловании, один из фанатов ответил: «10/10». Когда он назвал девушек, которые помогали ему разрабатывать Sonic Eclipse, секс-рабынями, это стало локальным мемом. Он шутил, что он тот самый «старикашка, который держит детей в подвале».

Фанаты боролись за его расположение — и возможность заработать. Некоторые также кинулись защищать его в сентябре 2020 года, когда один из игроков Sonic Eclipse опубликовал в Twitter скриншоты приватного чата Дока с девочкой-подростком:

Человек, опубликовавший скриншоты, — один из группы игроков, кому надоели гомофобные, расистские и агрессивные тирады, которыми Док сыпал в Discord. Они решили выяснить, кто это такой. Когда до администрации Roblox дошли эти сообщения, аккаунт Дока заблокировали. Но к тому времени он передал право собственности на Sonic Eclipse своему другу, который продолжил поддерживать игру вместо него.

Док утверждал, что благодаря шумихе его заработок вырос втрое. Бахвальство и попытки разоблачить его продолжались до весны 2022 года. Именно тогда Док исчез из поля зрения. Игроки предположили, что он покончил с собой.

А спустя несколько месяцев один из пользователей отправил сообщение в Discord «Дока наконец-то арестовали» и ссылку на статью с новостного сайта Нью-Джерси с заголовком «ФБР: 15-летняя девочка из Индианы, подвергшаяся сексуальному домогательству, спасена после того, как мужчина из Патерсона заплатил водителю Uber, чтобы доставить ее в Нью-Джерси».

Подростковая соцсеть

Компания Roblox была запущена в начале 2000-х годов, а ее девиз — «игры — это новое слово в образовательном ПО». На платформе дети при помощи готовых элементов и простого языка программирования могут создавать многопользовательские онлайн-анклавы. В отличие от сложных, насыщенных графикой игр других компаний продукты Roblox были из тех, что дети могут придумать на каникулах, например «Испытай гравитацию» или «Работай в пиццерии».

Платформа привлекла тысячи, а затем и миллионы юных пользователей, чьи похожие на Lego аватары с застывшими улыбками и глазами-бусинками перемещались по ее мирам и тратили игровую валюту Robux на виртуальные парики, одежду, драконьи хвосты или крылья.

Желая завоевать внимание юных геймеров, крупные бренды создавали свои собственные игры, такие как Gucci Town и Nikeland. Разработчики получали 30% от продаж, а остальное доставалось Roblox. В прошлом году объем продаж, в основном за счет валюты Robux, достиг $3,5 млрд.

Сегодня Roblox ежедневно посещают 78 млн активных пользователей. На страже безопасности — протоколы модерации, основанные на комбинации технологий  ИИ и усилий сотрудников. По словам компании, они проверяют весь пользовательский контент, включая аудио и тексты. Каждую секунду компания обрабатывает более 50 тыс. сообщений в чатах.

В Roblox работают около 3 тыс. модераторов, что значительно меньше, чем в TikTok. Число ежедневных пользователей видеосервиса в три раза больше, но при этом контент обрабатывают 40 тыс модераторов. Хотя, по утверждению Roblox, количество сотрудников не влияет на качество.

Большинство популярных социальных сетей не предназначены для детей до 13 лет или же перенаправляют их на специальные безопасные версии. Тогда как Roblox был создан специально для детей. Более 40% его пользователей — подростки, а эта возрастная группа, как известно, находится в зоне наибольшего риска.

По данным Bloomberg Businessweek, с 2018 года полиция США арестовала не менее двух десятков человек, обвиняемых в похищении или насилии над жертвами, с которыми они познакомились с помощью Roblox. Некоторые из них уже становились фигурантами дел о насилии в отношении несовершеннолетних. Среди них фигурировали помощник шерифа, учительница младшей школы и медсестра.

За последние 13 месяцев в общей сложности были арестованы семь человек, знакомившихся с подростками на просторах Roblox. В их числе — мужчина из Флориды, пытавшийся похитить подростка; мужчина, обвиненный в похищении 11-летней девочки из Нью-Джерси; а также мужчина из Калифорнии, который, предположительно, надругался над ребенком.

Эти преступники не просто скрывались за игровыми аватарами самой большой в мире виртуальной игровой площадки. Они использовали Robux, чтобы заманивать детей, отправлять им фотографии или развивать с ними отношения, которые переходили на другие онлайн-платформы и в конце концов в офлайн.

Главный специалист по безопасности Roblox Мэтт Кауфман называет безопасность и гражданскую ответственность «основополагающими принципами компании». Он отмечает, что системы модерации платформы проверяют все чаты и другой цифровой контент, удаляя неуместные слова и блокируя отправку изображений игроками. По словам Кауфмана, эти системы могут принять меры менее чем за минуту и особенно тщательно отслеживают действия пользователей младше 13 лет.

Он отвергает мнение, что Roblox представляет опасность для детей, и называет эту проблему общеотраслевой. «Десятки миллионов людей всех возрастов каждый день получают безопасный и положительный опыт в Roblox», — заявил он, отказавшись при этом комментировать конкретные уголовные дела.

В погоне за цифрами

Многие люди, работавшие с Кауфманом, утверждают, что Roblox терпит неудачи в борьбе с преступниками. Bloomberg Businessweek взял интервью более чем у 20 нынешних и бывших сотрудников компании, включая модераторов, инженеров и менеджеров по безопасности, пожелавших остаться анонимными.

Сотрудники указали, что безопасность детей — девиз компании, но в то же время охрана порядка на платформе с 13 млн игр — это сизифов труд. По словам одного из модераторов, ее команда ежедневно получает сотни тревожных сообщений о детской безопасности, но их слишком много, чтобы ее команда успевала их обрабатывать.

Чем дальше, тем сложнее будет обеспечивать безопасность. Соучредитель и главный исполнительный директор компании Дэвид Башуцки поставил цель достичь 1 млрд ежедневных пользователей — в 10 раз больше, чем сегодня.

Восемь нынешних и бывших сотрудников службы доверия и безопасности утверждают, что рост числа пользователей для Roblox важнее безопасности детей. Они рассказали, что их просьбы выделить дополнительные ресурсы остались без ответа, в результате накопилось множество отчетов о происшествиях. Один из менеджеров уволился, когда обещания расширить штат остались невыполненными.

Другие собеседники издания, по их словам, для лучшей защиты детей рекомендовали всплывающие уведомления о безопасности, но руководство их отклонило. В то же время настройки безопасности, например, не позволяющие пользователям разговаривать с незнакомцами, по умолчанию выключены. И хотя компания утверждает, что все больше применяет искусственный интеллект для целей модерации, а подобные системы постоянно совершенствуются, некоторые сотрудники говорят, что технология пока не в состоянии обнаружить все проявления сексуальных домогательств.

Представитель Roblox оспаривает утверждения о недостатке ресурсов и накопившихся проблемах. По его словам, члены команды по безопасности постоянно делятся идеями новых инструментов, компания учитывает «различные соображения» о том, как их создавать, и у нее есть «надежный набор» функций безопасности, находящихся в разработке.

«Не стоит считать, что отказ от немедленной интеграции конкретных идей, инструментов или функций означает отсутствие заботы или приоритетов, — говорит представитель компании. — Долгосрочный рост и долголетие Roblox зависят от нашей способности обеспечить безопасный опыт для наших пользователей».

Большинство сотрудников службы безопасности, опрошенных Businessweek, говорят, что преследовать педофилов в Roblox сложнее, чем на других онлайн-платформах, потому что каждый пользователь — это анонимный набор пикселей. При регистрации запрещено указывать настоящие имена, адреса электронной почты или номера телефонов. Это защищает частную жизнь не только детей, но и самих злоумышленников.

Преследуя тень

До того как Дока стало разыскивать ФБР, за ним охотилась группа геймеров. Они выросли, играя в Roblox, и выражали недовольство низким качеством модерации на платформе. Члены группы высмеивали слишком строгие фильтры чата, которые, по их словам, иногда подвергали цензуре безобидные слова, но не улавливали аббревиатуры вроде «erp» (от англ. erotic role play). Указывали на неспособность системы обнаружить аватары с подчеркнуто увеличенными гениталиями или симуляцию секса в цифровых туалетных кабинках. К 2020 году эти игроки потеряли веру в то, что Roblox сможет предотвратить преступное поведение, и начали сами следить за порядком.

Лидером этой группы был Бен Саймон, которому сейчас 27 лет. Он рассказывает о Roblox в видеоблоге YouTube под псевдонимом Рубен Сим.

«Roblox тратит много времени, сил и денег, убеждая родителей, что их платформа безопаснее, чем она есть на самом деле», — говорит он, сидя в бунгало в пригороде Тусона, пропахшем марихуаной и обклеенном плакатами WikiLeaks и рок-групп.

Саймон — фигура неоднозначная. Он потешался над внешностью и сексуальными предпочтениями сотрудников Roblox. Администрация платформы навсегда заблокировала Саймона, когда ему было 17 лет. С тех пор он заводил новые аккаунты и увеличил число подписчиков на YouTube до 1,2 млн, несмотря на то что Roblox блокировал его не менее 100 раз.

Его первые видеоролики — язвительная сатира на игры платформы. Теперь блогер снимает видеоролики под названием Uncovering Roblox’s Nastiest Community («Разоблачение самого отвратительного сообщества Roblox») и Roblox’s Worst Moderation Problem («Самая страшная проблема модерации в Roblox») и зарабатывает на рекламе.

Некоторые сотрудники платформы высоко оценили усилия Саймона, другие считают, что его больше заботят просмотры, чем безопасность детей. Но, по словам блогера, он получает тысячи жалоб на Roblox от пользователей, отчаянно нуждающихся в помощи.

Черный пиар

В сентябре 2020 года Саймон начал получать сообщения от игроков, призывающих разобраться с Доком. Они присылали скриншоты переписки пользователя с фантазиями о похищении и изнасиловании 12-летней девочки.

После того как Саймон перепостил эти сообщения в Twitter, игроки наводнили аккаунты Дока, называя его педофилом. Док ответил на это видео на своем YouTube-канале. В своей обычной манере, за кадром, измененным голосом он признал, что сообщения были реальными, но сказал, что это была просто шутка.

Саймон собрал все обвинения и признания в семиминутное видео и отправил его сотруднику отдела по связям с разработчиками Roblox. Он попросил компанию закрыть аккаунт DoctorRofatnik и игру Sonic Eclipse. Несколько других пользователей также пожаловались Roblox на аккаунт Дока. Среди них была и мать девочки-подростка, которой он отправлял сообщения.

Кэти Бернер, которой сейчас 18 лет, рассказала, что ее мать обратилась за советом к Саймону, прежде чем отправить сообщение о том, «насколько все это страшно и опасно». Бернер начала играть в Roblox в шесть лет, а к 13 годам уже работала на Дока. Поначалу ей нравилось, что он уделяет ей столько внимания. Но с возрастом Кэти поняла, «насколько противно, что взрослый человек разговаривает со мной подобным образом».

Через четыре дня после получения уведомления от Саймона компания Roblox закрыла аккаунт Дока и сообщила об этом в Национальный центр помощи пропавшим и эксплуатируемым детям. Тем временем Док передал право собственности на игру своему другу и создал новый аккаунт.

В октябре того же года, после блокировки, Док опубликовал в Twitter скриншот, на котором видно, что он получил $15 097,35 от Roblox, и насмешливо сказал Саймону: «Спасибо, что привел в мою игру еще больше денег, чувак! Боже, вы, ребята, действительно чертовски глупы, раз устроили мне такую рекламу».

Roblox утверждает, что продолжает искать и банить все альтернативные аккаунты, но Sonic Eclipse продолжает работать, потому что сама игра не представляет угрозы безопасности. В сообщении также говорится, что за первые восемь месяцев 2020 года DoctorRofatnik получил вознаграждение в сумме $41 тыс. в качестве разработчика, но при этом у них нет данных о выплате кому-либо суммы в $15 097,35 за тот год.

Саймон отправил Roblox сообщение, в котором выразил недовольство недостаточно жесткой, по его мнению, реакцией компании. «Прибыль Roblox зависит от того, насколько родители доверяют компании безопасность своих детей, а этого не произойдет, если компания будет так реагировать на действия педофилов», — написал он. По его словам, ответа не последовало. Блогер попытался сообщить о Доке в полицию Тусона, но вся информация о пользователе, которой он располагал, — это его ник в игре.

В конце 2021 года Roblox наконец-то ответила Саймону, подав на него иск на сумму $1,6 млн. В нем утверждалось, что он является лидером «культового кибермоба», наносящего ущерб репутации компании. В иске также говорилось, что он управлял аккаунтами с такими именами, как «cockassassin», пытался загрузить фотографии Адольфа Гитлера и использовал гомофобные ругательства в играх Roblox. Саймон же утверждает, что его аккаунт «cockassassin» был создан в шутку, когда ему было 15 лет, что он никогда не пытался загрузить фотографии Гитлера и что он, вероятно, использовал несколько ругательств, когда играл в Roblox в детстве.

Борьба за безопасность

Когда Саймон отошел от дел, инициативу подхватили другие. «Если Roblox не собирался ничего делать, я должна была найти способ», — говорит Нару, 22-летняя японская геймерша, которая не хотела публиковать свое настоящее имя из страха быть узнанной. Она написала вице-президенту по разработке продуктов компании Sega Sammy Holdings Inc., которой принадлежат торговые марки, связанные с игрой Sonic the Hedgehog, и написала в Twitter ее команде по связям с прессой.

Впоследствии Sega подала на Roblox заявление о нарушении авторских прав, и в конце 2021 года игра была закрыта. Уведомление Roblox о закрытии игры было распространено геймерами в интернете. Не осталось незамеченным и то, что Sonic Eclipse была закрыта на основании нарушения прав интеллектуальной собственности, а не из соображений детской безопасности.

Саймон урегулировал разногласия с Roblox примерно через месяц после закрытия игры. Согласно судебным документам, он согласился выплатить платформе $150 тыс. без признания вины. Впрочем, блогер не стал комментировать условия и то, выплатил ли он компании хоть что-то, ссылаясь на соглашение о конфиденциальности. Roblox также не дала пояснений, заявив лишь, что Саймон не является «достоверным источником информации о наших высоких показателях безопасности».

В ту же неделю, когда Саймон удовлетворил иск, он получил сообщение от одного из подписчиков. Юные пользователи из США, Великобритании и Австралии обнаружили одну из старых страниц Дока на Facebook* (признана в РФ экстремистской и запрещена). На ней была ссылка на недействующий сайт, а когда они проверили, на кого он зарегистрирован, то обнаружили имя: Арнольд Кастильо из Патерсона, штат Нью-Джерси.

Саймон передал данные полиции Тусона, но заявление не было принято. Правоохранители заявили, что для возбуждения уголовного дела недостаточно доказательств и что это не входит в их юрисдикцию. Саймон говорит, что не знал, кому еще позвонить.

Пугающая статистика

«Кто играет в Roblox?» — спрашивает Кирра Пендергаст, стоя перед 75 учениками, сидящими в позе лотоса на полу актового зала в начальной школе в Леннокс-Хед, Австралия. Около 60 рук поднимаются вверх. «Кому когда-либо предлагали стать чьим-то парнем или девушкой в Roblox?» — задает она следующий вопрос. На этот раз поднимается дюжина рук и раздается много шепота.«Кому предлагали Robux за выполнение чего-то неподобающего в игре?» Две руки медленно поднимаются.

Это занятие, снятое на видео в мае, похоже на многие другие, проводимые Пендергаст, основателем и генеральным директором Safe on Social Media Pty Ltd., организации с офисами в четырех странах, которая консультирует школы и предприятия по вопросам безопасности в интернете. «Я начала задавать более конкретные вопросы, например, кому предлагали Robux, чтобы раздеть аватара до трусов, и куча детей, хихикая, подняли руки», — говорит Пендергаст.

Сотни детей рассказали ей, что после пандемии их попросили перенести общение из Roblox в Snapchat или Discord или осмелились сделать «дико неуместные вещи», например, уговорили отправить обнаженные фотографии в обмен на Robux. «Родители позволяют детям играть в Roblox, думая, что это милая детская игра, и не имеют ни малейшего представления, что происходит на самом деле, — говорит Пендергаст. — Если бы я могла стереть с лица Земли одно приложение прямо сейчас, то это было бы именно оно — Roblox».

Открытый чат в Roblox является предметом споров среди экспертов по детской безопасности. Другие ориентированные на детей онлайн-игры, например Splatoon 3 от Nintendo, предлагают только предустановленные варианты диалогов для общения с незнакомцами.

В Roblox восьмилетний ребенок по умолчанию может писать в игровом чате все, что захочет, если только не вмешается цензура ИИ. Родителям остается активировать функции детской безопасности, например ограничивать категории пользователей, с которыми их дети могут общаться, или игры, в которые они могут заходить. Если родители этого не сделают, дети смогут написать любому незнакомцу в игре, часами общаться в чате и принимать запросы на общение в личных сообщениях.

«Если злоумышленник хочет найти детей помладше и пообщаться с ними, чтобы вызвать доверие и начать процесс ухаживания, Roblox — простой способ сделать это, — говорит Рон Кербс, генеральный директор и основатель компании Kidas, занимающейся вопросами безопасности детей в интернете. — Вместо того чтобы идти на игровую площадку, он идет на Roblox».

При этом платформа доступна бесплатно на широком спектре устройств, от iPhone до PlayStation и ПК. Чтобы создать аккаунт, ввести дату рождения и присоединиться к игре, требуется меньше минуты. Недавно репортер Businessweek зарегистрировалась, указав, что ей четыре года, и вошла в популярную игру Brookhaven RP.