Google удалила сводки о состоянии здоровья, созданные с помощью ИИ, после того, как были выявлены опасные медицинские ошибки.

Все мы оказывались в такой ситуации. Вы чувствуете странную боль в боку или получаете от врача противоречивые результаты анализов, и первое, что вы делаете, это открываете Google. Вам не нужна медицинская степень; вы просто хотите быстро получить ответ на вопрос: «Со мной все в порядке?». Но недавно Google пришлось притормозить работу своих поисковых запросов, основанных на искусственном интеллекте, потому что, как выяснилось, обращение к роботу за медицинской помощью может быть опасно.

Google незаметно удалил из результатов поиска ряд сгенерированных ИИ медицинских обзоров после того, как расследование показало, что они предоставляли неточную и, откровенно говоря, пугающую информацию. Все началось с публикации в The Guardian, в которой указывалось, что эти « обзоры ИИ » — красочные всплывающие окна в самом верху результатов поиска — предоставляли неполные данные.

Самый вопиющий пример касался анализов крови на функцию печени.

Если бы вы попросили ИИ назвать «нормальные диапазоны», он бы просто выдал список чисел. Он не спрашивал, мужчина вы или женщина, не интересовался вашим возрастом, этнической принадлежностью или историей болезни. Он просто дал бы фиксированное число. Медицинские эксперты, изучив это, в основном сказали: «Это опасно».

Проблема здесь не только в том, что ИИ ошибся ; проблема в том, что он ввел в заблуждение. Представьте себе человека с ранней стадией заболевания печени, который смотрит результаты своих анализов. ИИ сообщает ему, что его показатели находятся в пределах «нормального» диапазона, который он скопировал с какого-то случайного веб-сайта. Этот человек может подумать: «О, значит, со мной все в порядке», и пропустить повторный прием. В реальности же «нормальный» показатель для 20-летнего человека может быть тревожным сигналом для 50-летнего. ИИ не обладает достаточной точностью, чтобы это понять, и этот разрыв в контексте может иметь серьезные последствия в реальной жизни.

Ответ Google был довольно стандартным — они удалили конкретные помеченные запросы и настаивали на том, что их система обычно полезна. Но вот в чем загвоздка: медицинские организации, такие как Британский фонд по борьбе с заболеваниями печени, обнаружили, что если просто немного изменить формулировку вопроса, та же самая неверная информация снова появляется. Это как игра в «бей крота» в цифровом формате. Вы исправляете одну ошибку, а ИИ через пять секунд генерирует новую.

Главная проблема здесь — доверие.

Поскольку эти сводки, созданные с помощью ИИ, располагаются в самом верху страницы, над ссылками на больницы или медицинские журналы, они создают впечатление авторитетности. Мы приучены доверять первому результату. Когда Google выдает ответ в аккуратном маленьком окошке, наш мозг подсознательно воспринимает его как «правильный». Но это не так. Это всего лишь система прогнозирования, пытающаяся угадать, какие слова последуют дальше.

На данный момент это серьезный тревожный сигнал. Искусственный интеллект отлично подходит для составления краткого обзора электронного письма или планирования маршрута путешествия, но когда дело касается вашего здоровья, он явно не готов к полноценному использованию. Пока эти системы не научатся понимать контекст — или пока Google не введет более строгие ограничения — вероятно, безопаснее пролистать страницу, минуя робота, и перейти по реальной ссылке от врача. Скорость — это хорошо, но точность — единственное, что имеет значение, когда речь идет о вашем здоровье.

Статья "Google удаляет медицинские сводки, созданные с помощью ИИ, после того, как были выявлены опасные медицинские ошибки" впервые появилась на сайте Digital Trends .