YouTube перестанет рекомендовать подросткам видео, в которых идеализируются высокий уровень физической подготовки, вес тела или физические особенности. Это решение было принято после того как эксперты предупредили, что такой контент может быть вреден при многократном просмотре. Платформа по-прежнему будет позволять пользователям в возрасте от 13 до 17 лет просматривать такие видео, но ее алгоритмы не будут направлять подростков к подобным материалам.
YouTube заявил, что такой контент не нарушает правил сервиса, но его неоднократный просмотр может негативно сказаться на самочувствии некоторых пользователей. «В то время как у подростков формируются представления о том, кто они такие, и их собственные стандарты, повторное потребление контента с идеализированными моделями, который начинает формировать нереалистичные внутренние стандарты, может привести к негативным убеждениям о себе», — сказал Гарт Грэм, руководитель отдела охраны здоровья YouTube.
Компания также сообщила, что эксперты консультативного комитета по делам молодежи и семей заявили, что некоторые материалы, «безобидные» при однократном просмотре, могут стать «проблемными» при многократном. Новые правила компании, введенные во всем мире, касаются контента, который идеализирует одни физические особенности по сравнению с другими. Это могут быть видео о косметических процедурах, ролики, идеализирующие фитнес или определенную массу тела или поощряющие социальную агрессию, например физическое принуждение.
YouTube больше не будет повторять рекомендации на эти темы подросткам, которые указали свой возраст на платформе в качестве зарегистрированных пользователей. Такая система уже действует в США.
В Великобритании недавно принятый закон о безопасности в интернете требует от технологических компаний защищать несовершеннолетних от вредного контента, а также учитывать, как их алгоритмы могут подвергать несовершеннолетних пользователей вредному воздействию. В законе говорится о способности алгоритмов причинять вред, предоставляя подростку большое количество контента за короткий промежуток времени, и содержится требование к технологическим компаниям оценивать любой риск, который такие алгоритмы могут представлять.
Соня Ливингстон, профессор социальной психологии в Лондонской школе экономики, говорит, что недавний отчет благотворительной организации Children’s Society подчеркивает важность борьбы с влиянием социальных сетей на детскую самооценку. Опрос, проведенный в исследовании Good Childhood, показал, что почти каждая четвертая девочка в Великобритании недовольна своей внешностью.
«По крайней мере мы признаем, что изменение алгоритмов — это позитивное действие, которое могут предпринять такие платформы, как YouTube, — сказала Ливингстон. — Это будет особенно полезно для молодых людей с проблемами психического здоровья».
Ранее подробные письменные руководства и видеоинструкции по финансово мотивированному сексуальному вымогательству, известному как сексторство, были обнаружены в свободном доступе в интернете, причем преступники предлагают специализированные и индивидуальные уроки за дополнительную плату. Руководства можно найти на таких платформах, как YouTube и Telegram.