Google сообщает о вредоносном ПО на базе искусственного интеллекта, которое перезаписывает себя в режиме реального времени

Что произошло: Итак, главный отдел безопасности Google — Группа разведки угроз Google (GTIG) — только что обнаружил нечто, откровенно говоря, пугающее. Это новый тип вредоносного ПО, который они назвали PROMPTFLUX.

• Вот вам пример: этот новый вирус использует тот же ИИ, что и Google Gemini , чтобы переписывать свой код во время атаки. Он — оборотень. Его цель — постоянно меняться, чтобы антивирусы и системы безопасности не могли его распознать.
• Вместо того чтобы следовать заранее написанному, фиксированному сценарию, как большинство вредоносных программ, эта штука может «обучаться» и «адаптироваться» на лету, создавая новые методы атаки по мере ее развития.
• А теперь хорошие новости: Google утверждает, что эта штука, похоже, всё ещё находится на стадии тестирования. Найденные ими образцы содержали множество незаконченных деталей, и пока не было замечено, чтобы вирус кого-либо заражал. Они уже заблокировали связанные с ним ресурсы и учётные записи.

Почему это важно: Это знаменательный момент для мира кибербезопасности.

• Это один из первых реальных примеров вредоносного ПО , которое использует ИИ для самостоятельного развития.
• Подумайте сами: традиционный антивирус работает, распознавая «сигнатуру» вируса — его цифровой отпечаток. Но если вирус может менять свой «отпечаток» каждые несколько секунд, как его обнаружить?
• Этот тип адаптивного вредоносного ПО может сделать все наши старые способы обнаружения вирусов практически бесполезными, заставив всю индустрию безопасности искать новую стратегию.

Почему меня это должно волновать: Так почему же это важно для вас и меня? Потому что это доказывает, что гонка вооружений в сфере искусственного интеллекта официально началась.

• Пока хорошие парни используют ИИ для создания более эффективной обороны, плохие парни используют его для создания более умных, быстрых и страшных атак.
• Компания Google обеспокоена тем, что возникнет «черный рынок» для подобных вредоносных инструментов искусственного интеллекта, а это значит, что даже неопытные хакеры-любители смогут получить в свои руки сверхсовременное вредоносное ПО, способное изменять свою форму.

Что дальше: Все именно так, как и звучит: это полномасштабная война искусственного интеллекта против искусственного интеллекта.

• Google уже внедряет новую систему безопасности специально для защиты своих систем ИИ.
• Они также создают программы «противодействия ИИ» (одна из них дословно называется «Большой сон»), призванные выслеживать и устранять уязвимости до того, как их смогут использовать новые угрозы на базе ИИ.
• Похоже, отныне цифровая безопасность будет сводиться к одному: чей ИИ умнее.