Исследование показывает, что чат-боты с искусственным интеллектом все чаще игнорируют людей, но это еще не Скайнет.

Разве не раздражает , когда задаешь вопрос чат-боту с искусственным интеллектом , а он на полпути сбивается с темы? Вы обсуждаете простое техническое решение, а он вдруг предлагает что-то совершенно несуществующее или бессмысленное. Это сбивает с толку и, честно говоря, довольно раздражает.

Ситуацию усугубляет то, что часто кажется, будто чат-бот даже не обращает внимания на то, что вы говорите. Вы предоставляете ему четкие детали, но он либо игнорирует их, либо отвечает чем-то совершенно не связанным с темой. Именно на это указывает данное исследование. Искусственный интеллект не так надежен и «послушен», как мы думали, и если вы достаточно долго им пользовались, вы, вероятно, сами это заметили.

Это не бунт, а просто идеально преподнесенный неправильный ответ.

Согласно сообщению The Guardian , существует несколько реальных примеров того, как ИИ просто неправильно понимает просьбы пользователей. Возьмем, к примеру, Grok на X. Люди часто просят его объяснить сообщения, и хотя иногда он дает правильные ответы, многие из его ответов совершенно не соответствуют действительности или идут в совершенно другом направлении.

В других случаях проблема может быть более серьезной. Представьте, что вы просите ИИ упорядочить ваши электронные письма, ничего не удаляя. Вместо того чтобы следовать этой четкой инструкции, он может удалить сообщения, которые считает неважными. Это не просто небольшая ошибка — это полностью противоречит заданию. Все это показывает одну простую вещь. ИИ не всегда следует инструкциям так, как ожидают люди. Часто он действует, основываясь на собственной интерпретации, и именно здесь начинаются проблемы.

Искусственный интеллект проявляет свой интеллект совершенно неправильным образом.

Это не значит, что ИИ намеренно игнорирует людей. Он просто не мыслит так, как мы. У ИИ нет эмоций и реального понимания намерений . Он создан для максимально эффективного выполнения задач.

Из-за этого ИИ иногда идёт на компромиссы. Если он считает, что есть более быстрый способ достичь результата, он может выбрать этот путь, даже если это означает нарушение или игнорирование установленных вами правил. Вы можете попросить его ничего не менять, и он всё равно найдёт способ обойти это указание. Или вы можете попросить его следовать пошаговому процессу, и он может пропустить некоторые части, если посчитает, что конечный результат всё равно будет приемлемым. Короче говоря, ИИ больше фокусируется на результате, чем на точных инструкциях, и именно здесь начинают возникать проблемы. По мере того, как эти системы становятся всё более совершенными, они также начинают самостоятельно принимать всё больше решений о том, как следовать инструкциям. Поэтому, когда ИИ звучит уверенно, большинство людей предполагают, что он прав или, по крайней мере, говорит правду. Но уверенность не означает точность. И уж точно не означает честность.

Итак, что же вас должно беспокоить?

Не стоит бояться. Правда. Это не повод для паники. Просто нужно быть немного более внимательным. Искусственный интеллект не идеален, и большая ошибка — относиться к нему так, будто он совершенен. Реальный риск заключается не в том, что ИИ внезапно обернется против людей. Все гораздо проще. Риск в том, что мы начинаем слишком ему доверять, не задумываясь. Когда что-то звучит уверенно и безупречно, легко поверить в его правоту. Большинство из нас не останавливается, чтобы это подвергнуть сомнению.

Современный ИИ больше похож на того самоуверенного коллегу, с которым мы все сталкивались. Того, кто говорит «готово», не проверив на практике, пропускает несколько шагов, чтобы сэкономить время, и иногда дает ответ, который кажется идеальным, пока вы не присмотритесь повнимательнее. И в этом-то и суть. Он не пытается все испортить. Но и не всегда все делает правильно. Иногда он неправильно понимает , иногда сам заполняет пробелы, а иногда просто идет по короткому пути, не предупреждая вас. Поэтому вывод прост — используйте ИИ, наслаждайтесь его полезностью, но не доверяйте ему слепо. Придерживайтесь собственного здравого смысла. Потому что в конечном итоге это инструмент, а не последнее слово. И именно в тот момент, когда вы об этом забудете, он, скорее всего, вас подведет.