Вирусный ИИ-агент Clawdbot может многое вам сделать, но эксперты по безопасности предупреждают о рисках.

Clawdbot, искусственный интеллект , который неожиданно покорил мир технологий, стал одним из самых быстрорастущих проектов на GitHub, потому что обещал нечто необычное.

Вместо простого общения в чате, Clawdbot может взаимодействовать с вашими файлами, отправлять сообщения, планировать события в календаре и автоматизировать задачи на вашем компьютере, и все это без отправки ваших данных на большой сервер.

Благодаря способности действовать от имени пользователей, он воспринимается как личный помощник на основе искусственного интеллекта. Это способствовало его популярности и быстрому распространению среди разработчиков и любопытных пользователей.

Проект недавно был переименован из Clawdbot в Moltbot после того, как компания Anthropic возразила против первоначального названия, сославшись на потенциальные конфликты с товарными знаками. Разработчик согласился на изменение, чтобы избежать юридических проблем, хотя само программное обеспечение осталось неизменным.

Что показали проверки безопасности о Clawdbot (Moltbot)?

Те же самые особенности, которые создавали впечатление мощных возможностей Moltbot, одновременно делают его и рискованным. Поскольку ИИ может получить доступ к вашей операционной системе, файлам, данным браузера и подключенным сервисам, исследователи предупреждают, что это создает широкую поверхность атаки, которую могут использовать злоумышленники .

Исследователи в области безопасности обнаружили сотни панелей управления администратора Moltbot, доступных в открытом доступе в интернете, поскольку пользователи развертывали программное обеспечение за обратными прокси-серверами без надлежащей аутентификации.

Поскольку эти панели управляют агентом ИИ, злоумышленники могут просматривать данные конфигурации, получать ключи API и даже просматривать полную историю переписки в личных чатах и ​​файлах.

В некоторых случаях доступ к этим интерфейсам управления означал, что посторонние фактически обладали главным ключом к цифровой среде пользователей. Это давало злоумышленникам возможность отправлять сообщения, запускать инструменты и выполнять команды на таких платформах, как Telegram, Slack и Discord, как если бы они были их владельцами.

Другие расследования показали , что Moltbot AI часто хранит конфиденциальные данные, такие как токены и учетные данные, в открытом текстовом виде, что делает их легкой мишенью для распространенных программ-похитителей информации и вредоносного ПО для сбора учетных данных.

Исследователи также продемонстрировали экспериментальные атаки, в ходе которых уязвимости в цепочке поставок позволили загрузить вредоносные «навыки» в библиотеку Moltbot, что обеспечило удаленное выполнение команд на нижестоящих системах, контролируемых ничего не подозревающими пользователями.

Это не просто теория. По данным издания The Register , аналитики предупреждают, что незащищенный экземпляр Moltbot, доступный через интернет, может действовать как удаленный бэкдор.

Существует также вероятность уязвимостей, связанных с внедрением вредоносных команд, когда злоумышленники обманом заставляют бота выполнять вредоносные команды; подобное мы уже видели в браузере с искусственным интеллектом от OpenAI, Atlas .

Если Moltbot не защищен должным образом с помощью традиционных мер безопасности, таких как песочница, изоляция через брандмауэр или аутентифицированный административный доступ, злоумышленники могут получить доступ к конфиденциальной информации или даже контролировать части вашей системы.

Поскольку Moltbot может автоматизировать действия в реальном мире, скомпрометированная система может быть использована для распространения вредоносного ПО или дальнейшего проникновения в сети. Вот что думает о чат-боте Хизер Адкинс, вице-президент команды безопасности Google:

Вкратце, Moltbot — это интригующий шаг на пути к созданию более совершенных персональных ИИ-помощников, но его глубокие системные привилегии и широкий доступ означают, что вам следует дважды подумать и оценить риски, прежде чем устанавливать его на свой компьютер.

Исследователи рекомендуют относиться к нему с той же осторожностью, что и к любому другому программному обеспечению, которое может затрагивать критически важные части вашей системы.

Статья " Вирусный ИИ-агент Clawdbot может многое для вас сделать, но эксперты по безопасности предупреждают о рисках" впервые появилась на сайте Digital Trends .