Google сообщает, что хакеры используют Gemini для атаки на вас.

Google утверждает, что хакеры злоупотребляют Gemini для ускорения кибератак, и это касается не только фишинговых спам-рассылок. В новом отчете Google Threat Intelligence Group говорится, что поддерживаемые государством группировки использовали Gemini на разных этапах операции, от первоначального исследования цели до работы после взлома.

Активность охватывает группы угроз, связанных с Китаем, Ираном, Северной Кореей и Россией. Google утверждает, что наблюдаемые запросы и результаты включали профилирование, социальную инженерию, перевод, помощь в программировании, тестирование уязвимостей и отладку в случае сбоев инструментов во время вторжения. Быстрая помощь в выполнении рутинных задач все еще может изменить исход.

Помощь ИИ, всё по старым правилам.

Исследователи Google рассматривают использование ИИ как ускорение, а не как магию. Злоумышленники уже проводят разведку, разрабатывают приманки, модифицируют вредоносное ПО и выявляют ошибки. Gemini может ускорить этот процесс, особенно когда операторам требуется быстрая переработка кода, поддержка языков программирования или исправление ошибок в условиях спешки.

В отчете описывается деятельность, связанная с Китаем, в ходе которой оператор выдавал себя за эксперта по кибербезопасности и заставлял Gemini автоматизировать анализ уязвимостей и создавать целевые планы тестирования в вымышленном сценарии. Google также утверждает, что базирующийся в Китае злоумышленник неоднократно использовал Gemini для отладки, исследований и технических консультаций, связанных с вторжениями. Речь идет не столько о новых тактиках, сколько об уменьшении препятствий.

Риск заключается не только в фишинге.

Главное изменение — темп. Если группы смогут быстрее совершенствовать методы наведения и инструменты, у защитников будет меньше времени между первыми сигналами и реальным ущербом. Это также означает меньше очевидных пауз, когда ошибки, задержки или повторная ручная работа могут всплыть в логах.

Google также указывает на другую угрозу, которая совсем не похожа на классические мошеннические схемы, — извлечение моделей и дистилляция знаний. В этом сценарии злоумышленники с авторизованным доступом к API засыпают систему подсказками, чтобы воспроизвести ее поведение и рассуждения, а затем используют эти знания для обучения другой модели. Google рассматривает это как нанесение ущерба коммерческой и интеллектуальной собственности, с потенциальным риском для дальнейшего развития, если это будет масштабировано, включая один пример с 100 000 подсказок, направленных на воспроизведение поведения в задачах на неанглийском языке.

Что вам стоит посмотреть дальше

Google заявляет, что заблокировал учетные записи и инфраструктуру, связанные с задокументированными случаями злоупотребления Gemini, и добавил целенаправленные средства защиты в классификаторы Gemini. Компания также заявляет, что продолжает тестирование и полагается на механизмы обеспечения безопасности.

Для команд безопасности практический вывод заключается в том, что атаки с использованием ИИ будут происходить быстрее, а не обязательно умнее. Отслеживайте внезапные улучшения качества приманки, более быструю итерацию инструментов и необычные модели использования API, а затем ужесточайте сценарии реагирования, чтобы скорость не стала главным преимуществом злоумышленника.

Статья " Хакеры используют Gemini для атаки на вас, сообщает Google" впервые появилась на сайте Digital Trends .