TikTok оштрафовали в Италии из-за расследования: соцсеть продвигала контент с повреждением кожи

Итальянский орган по защите конкуренции и прав потребителей AGCM оштрафовал TikTok почти на $11 млн после расследования проблем безопасности алгоритмов. В прошлом году власти начали расследование по делу о «французских шрамах», в ходе которого пользователи платформы, как сообщалось, делились видео со следами на своих лицах, оставленными за счет повреждения кожи.

«Компания не смогла внедрить соответствующие механизмы для мониторинга контента, публикуемого на платформе, особенно того, который может угрожать безопасности несовершеннолетних и уязвимых лиц. Более того, этот контент систематически повторно предлагается пользователям в результате их алгоритмического профилирования, стимулируя все более широкое использование социальной сети», — пишет AGCM.

Власти заявили, что расследование подтвердило ответственность TikTok за распространение контента, который может угрожать психофизической безопасности пользователей, особенно если они несовершеннолетние и уязвимые. Они также обнаружили, что платформа не приняла адекватных мер для предотвращения распространения такого контента, и заявили, что TikTok не смог полностью соблюдать собственные правила платформы.

AGCM также раскритиковал то, как TikTok применяет рекомендации, которые, по его словам, применяются без должного учета особой уязвимости подростков. Например, в нем отмечается, что мозг подростков все еще развивается и молодые люди могут быть особенно подвержены риску, поскольку склонны к давлению со стороны сверстников, заставляющему подражать групповому поведению, чтобы попытаться вписаться в общество.

В замечаниях ведомства особенно подчеркивается роль системы рекомендаций TikTok в распространении потенциально опасного контента, указывая на то, что платформа заинтересована в повышении вовлеченности и увеличении взаимодействия с пользователями и времени, затрачиваемого на сервис, для увеличения доходов от рекламы. Система поддерживает каналы TikTok «Для вас» и «Подписки» и по умолчанию основана на алгоритмическом профилировании пользователей, отслеживающем их цифровую активность, чтобы определить, какой контент им показывать.

«Это приводит к необоснованному обуславливанию пользователей, которые вынуждены все чаще использовать платформу», — предположило AGCM в другом замечании, примечательном тем, что оно критично относится к вовлеченности, обусловленной подачами контента на основе профилирования. Негативная оценка рисков алгоритмического профилирования важна в свете новых призывов некоторых законодателей в Европе к отключению каналов контента на основе профилирования по умолчанию .

Группы гражданского общества также утверждают, что это перекроет возмущения, которые платформы социальных сетей, финансируемые за счет рекламы, монетизируют через системы рекомендаций, имеющих вторичный эффект усиления разногласий и подрыва социальной сплоченности ради прибыли.

TikTok оспаривает решение AGCM о наложении штрафа. В своем заявлении платформа стремилась преуменьшить свою оценку алгоритмических рисков, которым подвергаются несовершеннолетние и уязвимые лица, сформулировав вмешательство как связанное с одной спорной, но небольшой проблемой.

«Мы не согласны с этим решением. До объявления AGCM в прошлом году так называемый французский шрам в Италии в среднем искали всего 100 ежедневных запросов. Мы давно ограничили доступ к этому контенту для детей до 18 лет, а также запретили его размещение в ленте „Для вас“», — говорят на платформе.

В то время как итальянское правоприменение ограничено одним государством — членом ЕС, Европейская комиссия отвечает за надзор за соблюдением TikTok положений об алгоритмической подотчетности и прозрачности в общеевропейском Законе о цифровых услугах (DSA), где штрафы за несоблюдение могут достигать 6% мирового годового оборота.

Одним из заметных изменений в результате введения DSA является то, что TikTok предлагает пользователям каналы, не основанные на профилировании. Однако эти альтернативные каналы по умолчанию отключены — это означает, что пользователи остаются объектом отслеживания и профилирования на основе ИИ, если они сами не предпримут действия, чтобы отключить их.

В прошлом месяце ЕС начал официальное расследование в отношении TikTok, назвав вызывающий привыкание дизайн и вредный контент, а также защиту несовершеннолетних одними из своих приоритетов. Эта процедура продолжается. TikTok заявил, что с нетерпением ждет возможности представить Комиссии подробное объяснение своего подхода к защите несовершеннолетних.

Однако в последние годы у компании уже было несколько стычек с региональными правоохранительными органами, обеспокоенными безопасностью детей, в том числе вмешательство итальянского органа по защите данных в защиту детей, штраф в размере €345 млн прошлой осенью за нарушения защиты данных, также касавшийся несовершеннолетних, и продолжительные жалобы от групп защиты прав потребителей, которые обеспокоены безопасностью несовершеннолетних и профилированием.

TikTok также сталкивается с возможностью ужесточения регулирования со стороны агентств на уровне государств-членов, применяющих Директиву блока об аудиовизуальных медиа-услугах. Например, ирландская компания Coimisiún na Meán рассматривает возможность применения к платформам обмена видео правил, которые требуют отключения рекомендательных алгоритмов, основанных на профилировании, по умолчанию.

Картина не лучше для платформы и в США, поскольку законодатели только что предложили законопроект о запрете TikTok, если он не разорвет связи с китайской материнской компанией ByteDance, ссылаясь на национальную безопасность и потенциальную возможность отслеживания и профилирования пользователей платформой.

Ранее Европейский Союз начал расследование в отношении TikTok и компании ByteDance с целью выяснить, нарушены ли правила онлайн-контента, направленные на защиту детей и обеспечение прозрачной рекламы. Нарушение DSA грозит платформе социальных сетей крупным штрафом.