Расследование Instagram показало, что сексуальный контент транслируется в аккаунты подростков
В конце 2024 года Meta представила аккаунты Instagram Teen , защитную сетку, призванную защитить молодые умы от деликатного контента и обеспечить им безопасное взаимодействие в сети, подкрепленную технологией определения возраста . Аккаунты для подростков автоматически классифицируются как личные, оскорбительные слова скрываются, а сообщения от незнакомцев блокируются.
Согласно расследованию некоммерческой организации Design It For Us, ориентированной на молодежь, и Accountable Tech , ограждения для подростков в Instagram не выполняют своих обещаний. В течение двух недель было протестировано пять тестовых аккаунтов, принадлежащих подросткам, и всем им был показан сексуальный контент, несмотря на обещания Meta.
Шквал сексуализированного контента
Во всех тестовых аккаунтах отображался неподходящий контент, несмотря на включение фильтра деликатного контента в приложении. «4 из 5 наших тестовых аккаунтов подростков алгоритмически рекомендовали контент, связанный с изображениями тела и расстройствами пищевого поведения», — говорится в отчете.
Более того, 80% участников сообщили, что испытывали стресс при использовании аккаунтов Instagram Teen. Интересно, что только один из пяти тестовых аккаунтов показывал образовательные изображения и видео.
«[Примерно] 80% контента в моей ленте было связано с отношениями или грубыми шутками о сексе. Этот контент в целом избегал быть абсолютно откровенным или показывать прямо графические образы, но также оставлял очень мало места для воображения», — цитируют одного из тестировщиков.
Согласно 26-страничному отчету, ошеломляющие 55% помеченного контента представляли собой сексуальные действия, сексуальное поведение и сексуальные образы. Такие видео собрали сотни и тысячи лайков, а одно из них набрало более 3,3 миллиона лайков.
Алгоритм Instagram также продвигал контент, который продвигал вредные концепции, такие как «идеальные» типы телосложения, позор тела и привычки в еде. Еще одной тревожной темой были видеоролики, которые пропагандировали употребление алкоголя, и видеоролики, которые подталкивали пользователей к использованию стероидов и добавок для достижения определенного мужественного типа телосложения.
Целый пакет плохих медиа
Несмотря на заявления Meta о фильтрации проблемного контента, особенно для пользователей-подростков, в тестовых аккаунтах также демонстрировался расистский, гомофобный и женоненавистнический контент. И снова такие клипы в совокупности получили миллионы лайков. Видеоролики, демонстрирующие насилие с применением огнестрельного оружия и домашнее насилие, также были отправлены в аккаунты подростков.
«Некоторые из наших тестовых аккаунтов подростков не получили защиты Meta по умолчанию. Ни один аккаунт не получил контроля за конфиденциальным контентом, а некоторые не получили защиты от оскорбительных комментариев», — добавляется в отчете.
Это не первый случай, когда Instagram (и другие платформы социальных сетей Meta в целом) были обнаружены в предоставлении проблемного контента . В 2021 году утечки показали, как Meta узнала о пагубном влиянии Instagram, особенно на молодых девушек, имеющих проблемы с психическим здоровьем и образом тела.
В заявлении, переданном The Washington Post , Meta заявила, что выводы отчета некорректны, и преуменьшила чувствительность помеченного контента. Чуть больше месяца назад компания также расширила свою защиту для подростков на Facebook и Messenger.
«Сфабрикованный отчет не меняет того факта, что десятки миллионов подростков теперь имеют более безопасный опыт благодаря Instagram Teen Accounts», — цитируют представителя Meta. Однако они добавили, что компания изучает рекомендации по проблемному контенту.