Может ли Deepfake обмануть распознавание лиц? Новое исследование говорит «Да»!
Дипфейки и видео, созданные искусственным интеллектом, никуда не денутся. Но за последние несколько лет их качество и количество выросли, что заставляет многих людей беспокоиться о национальной безопасности и конфиденциальности.
Тем не менее, как бы анонимные онлайн-пользователи ни пытались сделать свое поддельное видео реалистичным, они никогда не могли пройти мимо передового программного обеспечения для распознавания лиц. До сих пор.
Обмануть API распознавания лиц
Исследователи из Университета Сунгюнкван в Сувоне, Южная Корея, проверили качество нынешней технологии дипфейка . Они протестировали API Amazon и Microsoft с использованием программного обеспечения с открытым исходным кодом и широко используемого программного обеспечения для создания видео Deepfake, чтобы увидеть, насколько хорошо они работают.
Исследователи использовали лица голливудских знаменитостей. Для создания надежных дипфейков программе требуется много качественных изображений одних и тех же людей с разных ракурсов, которые гораздо проще получить у знаменитостей, чем у обычных людей.
Исследователи также решили использовать API Microsoft и Amazon в качестве эталонов для своего исследования, поскольку обе компании предлагают услуги распознавания лиц знаменитостей. Они использовали общедоступные наборы данных и создали чуть более 8000 дипфейков. Из каждого дипфейк-видео они извлекли несколько снимков лица и отправили их в рассматриваемые API.
С помощью Microsoft Azure Cognitive Services исследователи смогли обмануть систему в 78% случаев, используя дипфейки. Результаты Amazon были немного лучше: 68% представленных лиц были идентифицированы как настоящие.
А как насчет детекторов Deepfake?
Детекторы дипфейков работают примерно так же, как дипфейки. Детекторы – это программное обеспечение, которое было обучено с использованием моделей машинного обучения тому, как обнаруживать deepfake-видео.
Но вместо того, чтобы сосредоточиться на создании гиперреалистичного видео, чтобы обмануть детекторы, дипфейки теперь могут включать в себя состязательные примеры в каждом кадре, чтобы сбить с толку систему ИИ. Фактически, вероятность успеха дипфейк-атак этого типа составляет от 78 до 99 процент�