Расследование показало, что YouTube предлагает малышам и детям дошкольного возраста бессмысленную ерунду, созданную искусственным интеллектом.

Новое расследование The New York Times показывает, как быстро YouTube заваливает ленты странными видеороликами, созданными с помощью искусственного интеллекта и ориентированными на самых юных зрителей. После просмотра одного видеоролика CoComelon более 40 процентов рекомендованных коротких видео за 15-минутный сеанс содержали синтетические визуальные эффекты.

Алгоритм подсовывает контент с каналов, которые утверждают, что учат малышей алфавиту и животным. Но сами ролики часто бессмысленны: искаженные лица, лишние части тела и невнятный текст. Ни один из них не длится дольше 30 секунд.

Эксперты утверждают, что такой формат не оставляет места для повторений или повествовательной структуры, которые крайне важны для обучения маленьких детей с помощью медиа. Тем не менее, видеоролики набирают миллионы просмотров.

Создатели, многие из которых работают анонимно, превратили инструменты искусственного интеллекта в надежный источник дохода. Порог входа низок, отдача высока, а поток предложений неуклонно растет.

Алгоритм отдает приоритет количеству, а не качеству.

Журналисты проводили анализ в течение нескольких недель, просматривая популярные каналы, такие как CoComelon и Ms. Rachel, в режиме приватного просмотра. Затем они просматривали рекомендованные короткие видеоролики на YouTube с 15-минутными интервалами, чтобы посмотреть, что всплывет.

В ходе одной из сессий после просмотра видеоролика «Колеса на автобусе» более 40 процентов рекомендаций показали признаки генерации искусственным интеллектом . Некоторые ролики имели собственную метку YouTube «измененный или синтетический контент». Для подтверждения других требовался детектор ИИ, поскольку визуальные эффекты были достаточно незаметны, чтобы их не заметили случайные пользователи.

Одни и те же видеоролики и каналы появлялись неоднократно в разных сессиях. Это говорит о том, что алгоритм активно продвигает этот контент, а не отфильтровывает его. Многие аккаунты создают подобные ролики несколько раз в день, оптимизируя их для максимального количества просмотров с минимальными усилиями.

Внутри экономики создателей контента, подпитывающей этот поток информации.

Многие аккаунты на YouTube, создающие детский контент с помощью ИИ, работают анонимно. Они не указывают контактную информацию и предоставляют мало сведений о том, кто ими управляет. Порог входа удивительно низок.

Создатели контента обучаются самостоятельно, используя доступные инструменты, такие как Google Whisk и Runway, часто следуя онлайн-урокам. Некоторые каналы позиционируют себя как образовательные, демонстрируя анимированных животных и песни для совместного пения, призванные привлечь родителей, ищущих обучающий контент для малышей.

Финансовая выгода стимулирует быстрое производство. Одно видео на Хэллоуин с жуткими животными набрало более 370 миллионов просмотров. Аккаунты выпускают по несколько видео в день, оптимизированных для максимального охвата при минимальных усилиях. Формула работает: быстро привлечь внимание, сделать видео коротким и позволить алгоритму позаботиться о распространении.

YouTube реагирует, но родителям приходится контролировать контент.

После того, как газета Times предоставила YouTube примеры и запросила комментарии, платформа заблокировала все пять упомянутых каналов в своей партнерской программе. Эти аккаунты больше не могут получать доход от рекламы или появляться на YouTube Kids. Компания также удалила три гиперреалистичных видеоролика из детского приложения и один клип за нарушение правил безопасности детей.

Но реакция была реактивной, а не проактивной. YouTube требует от создателей контента раскрывать информацию о реалистичном контенте, созданном с помощью ИИ, но это правило не распространяется на анимационные видеоролики для детей. Таким образом, бремя ложится на родителей, и даже эксперты считают эту задачу сложной по мере совершенствования инструментов.

Некоторые семьи теперь создают собственные плейлисты из проверенного контента или полностью удаляют приложение. Американская академия педиатрии советует родителям избегать контента, созданного искусственным интеллектом, или контента, сильно преувеличивающего происходящее. Распознать его по-прежнему остается сложной задачей.

Статья под заголовком «Расследование показало, что YouTube предлагает малышам и детям дошкольного возраста бессмысленную чушь, созданную с помощью ИИ» впервые появилась на сайте Digital Trends .