Чат-боты с искусственным интеллектом лгут вам, и заставить их это делать было до смешного легко.

Журналист BBC недавно провел нелепый эксперимент, чтобы доказать очень серьезный тезис. Всего за 20 минут он манипулировал платформами ChatGPT и Google , заставив их сообщить общественности, что он является чемпионом мира по поеданию хот-догов.

Самое пугающее то, что ему не пришлось делать ничего технически сложного, чтобы этого добиться. Всё, что он сделал, это опубликовал одну хорошо написанную запись в блоге на своём личном сайте, и ИИ воспринял её как истину в последней инстанции.

Это стало частью расследования, в ходе которого выяснилось, что сервисы ChatGPT, Gemini и обзоры искусственного интеллекта от Google использовались для предоставления предвзятых ответов по таким серьезным темам, как здоровье и личные финансы.

Эксперты утверждают, что подобные манипуляции происходят на широкомасштабном и системном уровне, и недобросовестные компании злоупотребляют ими, распространяя вводящие в заблуждение рекомендации по здоровью, предвзятую финансовую информацию и многое другое.

Как это работает?

Когда вы задаете вопрос чат-боту с искусственным интеллектом , он иногда ищет ответ в интернете, вместо того чтобы полагаться на свои встроенные знания. Вот тут и начинается проблема. По мнению экспертов по SEO, инструменты ИИ часто извлекают информацию с одной веб-страницы или публикации в социальных сетях , что делает их легко обманутыми.

«Пока у них не появятся более совершенные системы, следует исходить из того, что вами манипулируют», — говорит Лили Рэй, основательница консалтинговой компании Algorythmic, специализирующейся на поиске с использованием ИИ . «Искусственный интеллект выдает только один ответ. Становится очень легко принимать все за чистую монету».

На мероприятии Google I/O 2026 компания Google сосредоточилась на демонстрации своей поисковой системы на основе искусственного интеллекта, которая в конечном итоге заменит Google Search, которым мы пользовались последние пару десятилетий. Учитывая, как легко обмануть её и получить неверные ответы, я отношусь к ней с большей опаской, чем когда-либо.

Кто-нибудь это исправляет?

После расследования BBC компания Google обновила свою политику в отношении спама, подтвердив, что попытки манипулировать ответами ИИ нарушают ее правила. Веб-сайты, уличенные в подобных действиях, могут быть удалены или полностью понижены в рейтинге результатов поиска Google. Кроме того, есть признаки того, что Google и ChatGPT незаметно удаляют рекламный контент из ответов ИИ.

Тем не менее, Рэй провернул тот же трюк на этой неделе, на этот раз убедив Google, что его друг лучше всех строит замки из песка, и Google снова попался на эту уловку, так что, очевидно, работы еще много.

Пока не будут внедрены более совершенные системы, советы экспертов просты: не принимайте ответы ИИ за чистую монету, особенно когда речь идет о вашем здоровье, финансах или важных решениях.