Искусственный интеллект-бот Meta помогал хакерам красть аккаунты в Instagram, и обмануть его было на удивление легко.

Instagram устранил серьезную уязвимость в системе безопасности, которая позволяла хакерам захватывать аккаунты, используя собственный чат-бот поддержки Meta. Проблема стала известна в выходные, когда несколько пользователей Reddit и X сообщили о взломе своих аккаунтов.

Как сообщает TechCrunch , среди пострадавших оказалась и исследовательница в области безопасности Джейн Вонг. «Пароль был изменен без моего ведома, и вчера мне неоднократно пытались сбросить пароль», — сказала она. «Это очень тревожно».

Как произошёл взлом?

Видео, опубликованное на X, продемонстрировало весь процесс, и его простота поразительна. Сначала хакер использовал VPN для подмены местоположения, обойдя автоматическую защиту аккаунта Instagram. Затем он открыл чат с помощником по поддержке ИИ Meta и просто попросил бота добавить новый адрес электронной почты к аккаунту жертвы.

И вот тут начинается самое интересное. Чат-бот отправил код подтверждения на электронную почту хакера, а не жертвы. Хакер передал код обратно чат-боту, который затем предложил кнопку для сброса пароля. Вот как легко было захватить аккаунт любого пользователя Instagram.

Издание TechCrunch подтвердило, что публичный почтовый ящик хакера действительно получил код подтверждения, что подтвердило успешность атаки именно так, как было показано.

Ваш аккаунт находится под угрозой?

Самое страшное в этой атаке то, что хакеру на протяжении всего процесса не требовался доступ к реальному адресу электронной почты жертвы. Весь процесс полностью обошел стороной фактического владельца аккаунта.

Представитель Instagram Энди Стоун подтвердил в понедельник, что проблема исправлена. Однако остается неясным, сколько пользователей столкнулись с взломом своих аккаунтов до установки обновления. Так что хорошая новость в том, что вам больше не нужно беспокоиться об этой проблеме.

Состояние ИИ в сфере поддержки

Рост цен на бытовую электронику , растущая легкость, с которой мошенники могут обманывать людей , и проблемы, с которыми сталкиваются университеты, когда студенты используют ИИ для списывания, — это лишь некоторые примеры того, как ИИ ухудшил нашу жизнь.

Для меня наиболее раздражающим применением ИИ являются чаты поддержки. Недавно я заказал ужин, который доставили с задержкой. Чат поддержки с использованием ИИ не позволял мне поговорить с живым человеком около двух часов, постоянно повторяя, что еда будет доставлена ​​через 10 минут.

До внедрения этой функции любой мой запрос решался в течение нескольких минут оператором службы поддержки. Чат-бот Meta с искусственным интеллектом — еще один пример того, как использование ИИ в сфере обслуживания клиентов создает ненужный стресс для пользователей.