В обличительном отчете говорится, что магазины приложений Apple и Google продвигают приложения с обнаженными изображениями.
Если вы считали, что Apple и Google просто медленно выявляют вредоносные приложения на своих платформах, новое расследование показывает, что проблема гораздо серьезнее. Проект прозрачности в сфере технологий (TTP) обнаружил, что App Store и Google Play не просто размещают приложения с непристойным содержанием . Их поисковые и рекламные системы активно направляют пользователей к таким приложениям.
Приложения Nudify — это инструменты искусственного интеллекта, которые могут цифровым способом снимать одежду с фотографий реальных людей. Они также могут создавать порнографические видеоролики или чат-боты сексуального характера, используя чье-либо изображение. Самое страшное? 31 из приложений, обнаруженных TTP, были оценены как подходящие для несовершеннолетних.
Как Apple и Google перенаправляют пользователей прямиком в эти приложения для получения обнаженных изображений.
TTP проводила поиск по таким запросам, как «обнажить», «раздеться», «дипфейк» и «AI NSFW» в обоих магазинах приложений. Примерно 40% из 10 лучших результатов по каждому запросу содержали приложения, которые могли отображать женщин обнаженными или в откровенной одежде. Но дело не ограничивается результатами поиска. Обе платформы размещали платную рекламу приложений для обнажения в этих результатах. В случае Google это включало карусель спонсируемых приложений, некоторые из которых носили откровенно порнографический характер.
Функция автозаполнения только усугубила ситуацию. Когда TTP ввел «AI NS» в поле поиска App Store, система предложила «image to video ai nsfw», что привело к появлению в первых результатах еще большего количества приложений, содержащих обнаженную натуру. Apple контролирует всю рекламу в своем App Store и имеет заявленную политику против рекламы, продвигающей контент для взрослых. Несмотря на это, 3 из поисков TTP в App Store все равно выдали рекламу приложений, содержащих обнаженную натуру, в качестве первого результата.
Почему это гораздо более серьезная проблема, чем вы думаете.
Приложения, обнаруженные в обоих магазинах, были загружены 483 миллиона раз и принесли более 122 миллионов долларов дохода за все время существования. Apple и Google получают часть этого дохода за счет платных подписок и внутриигровых покупок, что, по мнению TTP, может объяснять слабое регулирование.
После того, как TTP и Bloomberg сообщили об этих приложениях, Apple удалила 15 из них, а Google заблокировала еще несколько. Однако обе компании отказались объяснить, как эти приложения прошли проверку и почему возрастные ограничения позволяли несовершеннолетним их скачивать.
Сколько времени пройдет, прежде чем Apple и Google будут вынуждены принять меры?
Правительство Великобритании начало предлагать и принимать законы против откровенных дипфейков, а в США недавно был зафиксирован первый случай уголовного осуждения по одному из таких законов . Давление на Apple и Google с целью принятия более решительных мер, вероятно, будет только расти.
История правоприменения со стороны Apple уже подвергается критике. Письмо, полученное NBC News, показало, что в январе Apple в частном порядке угрожала удалить Grok из App Store из-за дипфейков сексуального характера, даже отклонив первое решение xAI как недостаточное. В итоге Apple разрешила Grok остаться, но с учетом участившихся подобных сообщений, обе компании теряют возможность закрывать на это глаза.