Искусственный интеллект Google может привести вас к мошенническим номерам службы поддержки в поиске

За последние несколько месяцев мы столкнулись с многочисленными случаями использования сложных инструментов искусственного интеллекта для копирования голоса человека и вовлечения его в финансовые мошенничества . Эксперты также предупреждают, что искусственный интеллект открывает новые возможности для онлайн-мошенничества.

Похоже, обзоры Google с использованием искусственного интеллекта и результаты поиска в режиме искусственного интеллекта могут неосознанно заманить вас в похожую ловушку. Недавно владелец агентства недвижимости рассказал, как, ища номер службы поддержки клиентов Royal Caribbean, наткнулся на номер телефона. Номер, найденный в разделе «Обзоры Google с использованием искусственного интеллекта» в верхней части страницы поиска, оказался ненастоящим и принадлежал мошеннику.

«Публикую это как публичное объявление. С появлением результатов, генерируемых искусственным интеллектом, и поддельных номеров правила игры изменились», — написал в Facebook владелец компании Алекс Ривлин. Он добавил, что ему удалось сбежать в последний момент, но перед этим он уже передал данные своей кредитной карты злоумышленнику.

В другом отчёте упоминается похожий поддельный номер службы поддержки, привязанный к Southwest Airlines. Номер, указанный в обзоре Google AI, отсутствует на сайте Southwest Airlines и, по-видимому, используется мошенниками, пытающимися получить сотни долларов за исправление неправильно написанного имени в билетах.

Почему рискованно обращаться на горячую линию с помощью ИИ?

На Reddit я наткнулся на отчёт с подробным описанием истории человека, который тоже оказался на грани мошенничества, найдя в Google номер службы поддержки клиентов службы доставки еды. На эту аферу уже попались многие, и недавно 65-летний мужчина потерял более трёх тысяч долларов, найдя в Google «колл-центр Swiggy».

Чтобы проверить, сохранились ли проблемы, я нашёл «номер службы поддержки клиентов Swiggy» и переключился в новый режим Google AI. Вот тут-то и начинается путаница. На сайте Swiggy чётко указано , что у них «нет официальных телефонов службы поддержки клиентов. Остерегайтесь поддельных номеров». В режиме Google AI указано, что Swiggy «в первую очередь» предлагает пользователям решить проблему в приложениях. Ниже добавляется, что «некоторые источники упоминают эти номера как варианты связи со службой поддержки клиентов Swiggy».

Это само по себе сбивает с толку и вводит в заблуждение. Один из номеров предназначен только для регистрации партнёров, а не для «обслуживания клиентов», что было исходным поисковым запросом. Более того, два других номера не указаны в официальном справочнике Swiggy. Более того, один из этих номеров даже упоминается в жалобе, поданной введённым в заблуждение клиентом на сайте некоммерческой организации ConsumerComplaintsCourt.

Как действовать безопасно?

Это не уникальная проблема. Уже некоторое время результаты поиска Google переполнены поддельными номерами телефонов службы поддержки, которые только и ждут, чтобы обмануть ничего не подозревающего пользователя. Но с появлением инструментов искусственного интеллекта в поиске, таких как AI Overviews и Google AI Mode, риски многократно возросли.

«Мошенники обнаружили, что они могут наводнять сайты и форумы пользовательским контентом с поддельными номерами телефонов крупных компаний, а затем обманным путем заставлять звонящих предоставлять данные своих кредитных карт», — написала в LinkedIn Лили Рэй, вице-президент по SEO-стратегии и исследованиям компании Amsive.

Эксперты Odin и ITBrew также рассказали о том, как хакеры могут написать «команду, согласно которой Gemini должна включить сообщение и поддельный номер службы технической поддержки в свой ответ». Google, похоже, в курсе этой проблемы.

Google сообщила газете The Washington Post , что продолжает удалять ненадёжные записи из AI Overviews. Пока же, как рядовой пользователь интернета, я могу дать вам лучший совет: чтобы узнать все номера телефонов службы поддержки и адреса электронной почты, посетите официальный сайт компании и найдите необходимые контактные данные.