YouTube наконец-то занялся самым рискованным аспектом создания дипфейковых видео.

YouTube усиливает борьбу с одним из самых тревожных способов использования ИИ: дипфейк-видео, имитирующими реальных людей. Компания объявила о расширении своей технологии распознавания сходства на пилотную группу журналистов, государственных чиновников и политических кандидатов. Этот шаг направлен на защиту общественных деятелей от имитации, создаваемой ИИ.

Эта функция работает примерно как Content ID для лиц. Участники загружают короткое видео и удостоверение личности государственного образца, чтобы система могла распознать их внешность. После регистрации YouTube сканирует загруженные видео на наличие сгенерированных искусственным интеллектом роликов, имитирующих их внешность. Если такой контент появляется, пользователь может просмотреть его и, возможно, запросить удаление.

Новая защита от подделки под ИИ.

Впервые функция распознавания лиц для создателей контента в рамках партнерской программы YouTube была внедрена в прошлом году. Теперь компания считает, что следующим приоритетом является защита публичных деятелей, чьи личности часто используются в кампаниях по дезинформации, особенно в контексте выборов и политических дискуссий.

Благодаря инструментам генеративного искусственного интеллекта дипфейки стали всё более реалистичными, что упрощает создание убедительных видеороликов, в которых люди говорят или делают то, чего на самом деле никогда не делали. В политике и журналистике этот риск может иметь серьёзные последствия, от дезинформации до ущерба репутации. Однако система — это не просто «кнопка удаления». YouTube заявляет, что запросы на удаление по-прежнему будут регулироваться существующими правилами конфиденциальности и модерации, а это значит, что некоторые видео могут остаться в сети, если они соответствуют критериям пародии, сатиры или являются законным комментарием.

Интересно, что, по словам YouTube, первоначальное внедрение этой функции для создателей контента не привело к большому количеству удалений. Большая часть обнаруженного контента оказалась относительно безобидной, хотя компания ожидает, что ситуация будет иной для общественных деятелей и политических лидеров, которые сталкиваются с более высоким риском целенаправленных атак с использованием дипфейков.

На данный момент программа останется ограниченной влиятельными лицами, а не широкой публикой. Но расширение программы свидетельствует о более масштабном сдвиге в технологической индустрии: необходимо быстро создавать механизмы защиты, прежде чем созданный с помощью ИИ контент станет невозможно отличить от реальности.

Статья "YouTube наконец-то решает самую рискованную сторону дипфейк-видео" впервые появилась на сайте Digital Trends .