Согласно отчету группы защиты прав детей, контент о расстройствах пищевого поведения в Instagram рекламируется для детей в возрасте 9 лет.
Алгоритмы рекомендуют контент, который поощряет экстремистские подходы к снижению веса, говорится в отчете Fairplay For Kids под названием Designing for Disorder: Instagram’s Pro-Eating Disorder Bubble. Он обвиняет материнскую компанию Instagram Meta в получении прибыли от этого вредоносного контента.
Алгоритмы профилируют детей и подростков, чтобы предоставить им изображения, мемы и видео, поощряющие ограничительные диеты и экстремальную потерю веса. И, в свою очередь, Instagram продвигает и рекомендует контент о расстройствах пищевого поведения для детей и подростков полумиллиону человек по всему миру. Продвижение и охват этого контента явно не в интересах детей и подростков.
Пузырь расстройства пищевого поведения Меты — не единичный случай и не ужасная случайность. Скорее это пример того, как без надлежащих сдержек и противовесов Мета систематически ставит прибыль выше безопасности и благополучия молодых людей. Решения Meta относительно размещения и рекомендации материалов о расстройствах пищевого поведения могут приносить небольшую, но стабильную прибыль акционерам, но имеют серьезные последствия в реальной жизни для детей и молодежи.
Документы, обнаруженные в файлах Facebook, позволяют предположить, что Meta знала об этой проблеме как минимум с 2019 года и бездействовала.
В докладе говорится, что масштаб проблемы огромен.
Пузырь в поддержку расстройств пищевого поведения в Instagram включает 90 000 уникальных аккаунтов и достигает 20 миллионов уникальных подписчиков на платформе. Это может быть один из 75 пользователей Instagram, которые подписаны на кого-то в этом пузыре. Пузырь молодой. Это исследование показало, что дети в возрасте 9 и 10 лет подписаны на три или более учетных записи о расстройствах пищевого поведения, средний возраст которых составляет 18 лет. Треть пользователей Instagram, выступающих за расстройства пищевого поведения, несовершеннолетние, и у них более полумиллиона подписчиков. Meta получает около 2 миллионов долларов дохода в год от этого пузыря и 227,9 миллиона долларов от всех тех, кто следует за этим пузырем. Этот доход включает доход, полученный от несовершеннолетних пользователей — Meta напрямую зарабатывает 0,5 миллиона долларов в год от пузыря несовершеннолетних, поддерживающих расстройство пищевого поведения, и 62 миллиона долларов дохода от людей, которые подписаны на эти аккаунты несовершеннолетних, поддерживающих расстройство пищевого поведения.
В отчете содержится призыв к законодательным органам штата и федеральным властям принять меры, в том числе поддержать предложения, которые возлагают на технические платформы обязанность отдавать приоритет интересам детей.
Предложения перед Ассамблеей Калифорнии (Закон штата Калифорния о кодексе дизайна, соответствующего возрасту, AB 2773) и Конгрессом (Закон о безопасности детей в Интернете и Закон о защите информации наших уязвимых детей и молодежи) могут помочь гарантировать, что платформы разработаны и действовать таким образом, чтобы приоритет отдавался интересам детей. Эти законопроекты не регулируют контент, а скорее касаются дизайна и систем цифровых услуг. Они давно назрели и явно необходимы для стимулирования действий против алгоритмов, которые продвигают контент о расстройствах пищевого поведения. Такого рода регулирование может ввести требования по оценке и снижению рисков, связанных с алгоритмами, и запретить использование детских данных для обучения алгоритмов, которые наносят вред.
Через CNET
