Хакер превратил популярный инструмент искусственного интеллекта в машину киберпреступности
Компания, создавшая популярного чат-бота на основе искусственного интеллекта Claude, выступила с пугающим предупреждением о растущем использовании киберпреступниками инструментов на основе искусственного интеллекта по мере того, как эта технология становится все более сложной.
В своем последнем отчете Threat Intelligence компания Anthropic подробно описала недавний случай , когда хакер использовал ее инструменты искусственного интеллекта для запуска кибератаки, нацеленной на многочисленные компании и организации.
По данным Anthropic, хакер использовал кодирующий агент на основе искусственного интеллекта (в данном случае Claude Code) — инструмент, способный писать, редактировать и запускать код с минимальным участием человека.
В сообщении говорится, что за последний месяц хакер использовал агент для автоматизации «разведки, сбора учетных данных и проникновения в сеть в больших масштабах», похитив конфиденциальные данные как минимум у 17 предприятий и организаций из сферы государственного управления, здравоохранения, экстренных служб и религиозных учреждений.
Преступник смог получить доступ к личным данным людей, включая данные о состоянии здоровья, финансовую информацию и правительственные полномочия, после чего потребовал выкуп, угрожая опубликовать данные в Интернете, если требования не будут выполнены.
Агент Claude AI даже проанализировал украденные финансовые данные, чтобы рассчитать соответствующую сумму выкупа (в некоторых атаках требовалось до 500 000 долларов США), а также создал «визуально тревожные» записки с требованием выкупа, которые появлялись на экранах компьютеров жертв.
В компании Anthropic заявили, что эта смелая операция демонстрирует «вызывающую беспокойство эволюцию киберпреступности с использованием ИИ» и «представляет собой фундаментальный сдвиг в том, как киберпреступники могут масштабировать свои операции» теперь, когда ИИ можно использовать для автоматизации большей части процесса взлома, пусть и под руководством человека.
Хотя пока неясно, заплатил ли кто-либо из жертв в данном конкретном случае, компания Anthropic заявила, что уже приняла меры для предотвращения подобных злоупотреблений. Однако компания добавила, что этот метод атак, вероятно, будет становиться всё более распространённым, «поскольку ИИ снижает барьер для сложных киберпреступных операций».
В последнем отчете Threat Intelligence также говорится о том, как северокорейские агенты использовали Клода для мошеннического получения удаленных рабочих мест в технологических компаниях США из списка Fortune 500, а также о другом случае, когда киберпреступник использовал его инструменты ИИ для создания и продвижения различных программ-вымогателей, продавая их другим киберпреступникам по цене до 1200 долларов за штуку.
Многие хакеры уже много лет используют искусственный интеллект в той или иной форме. Однако чат-боты, такие как ChatGPT, выпущенный в 2022 году, упростили проведение атак, а теперь рост числа агентов на основе искусственного интеллекта представляет ещё большую угрозу. К счастью, те же технологии, которые используют злоумышленники, также используются компаниями, занимающимися кибербезопасностью, для создания критически важной линии защиты, хотя, очевидно, что это постоянная борьба за выживание.