ChatGPT хочет поиграть в доктора со специальным режимом, но я пропущу

10 октября, 2025 Дядя Влад

Несколько недель назад один медицинский исследователь сообщил о довольно любопытном случае медицинской ошибки, вызванной искусственным интеллектом, подробно описав случай человека, обратившегося к ChatGPT и впавшего в психотическое состояние из -за отравления бромидом. Эксперты уже давно высказывают подобные опасения, и, похоже, OpenAI намерена противостоять им, создав специальный режим ChatGPT для медицинских консультаций.

Высокая надежда

Тибор Блахо, инженер компании AIPRM, специализирующейся на искусственном интеллекте, поделился интересным фрагментом кода веб-приложения ChatGPT. В строках упоминается новая функция под названием «Режим врача». В коде не раскрывается подробностей её работы, но, похоже, это специальный режим для поиска медицинских консультаций — точно так же, как реализованы меры безопасности для учётных записей подростков.

Веб-приложение ChatGPT теперь включает новые ссылки на «Режим врача»
Кроме того, конфигурация эксперимента включает новую подсказку «модель говорит первой» (вероятно, при использовании голосового режима): «Приветствуйте пользователя дружелюбно. Регион пользователя — {locale}, используйте его язык. Будьте кратки — не более… pic.twitter.com/hhrLppQ1ub
– Тибор Блахо (@btibor91) 9 октября 2025 г.

Примечательно, что OpenAI пока не делала официальных заявлений о подобной функции, поэтому воспринимайте эту новость с долей скепсиса. Однако существует несколько теорий о том, как это может работать. Джастин Энджел, разработчик, известный в сообществах Apple и Windows, поделился в X тем, что это может быть защищённый режим, ограничивающий источник информации медицинскими исследовательскими работами.

w00t. @ConsensusNLP только что анонсировал «Медицинский режим», ограничивающий источники RAG 8 млн доверенных 10/50 медицинских публикаций.
Только что выполнил запрос по лечению депрессии, и всё работает. Это то, что будет делать новый «режим врача» от ChatGPT? Ограничить результаты только медицинскими науками?… pic.twitter.com/GlpS5rgT5x
— Джастин Энджел (@JustinAngel) 10 октября 2025 г.

Например, если вы обратитесь за медицинской консультацией по поводу проблем со здоровьем или симптомов, ChatGPT предоставит ответ, основанный исключительно на информации, полученной из достоверных медицинских источников. Таким образом, снижается вероятность того, что ChatGPT будет давать вам вводящие в заблуждение советы по вопросам здоровья .

Суровая реальность

Идея, лежащая в основе чего-то вроде «Режима врача», не так уж и абсурдна. Всего день назад Consensus запустил функцию под названием «Медицинский режим». При запросе, связанном со здоровьем, разговорный ИИ ищет ответы «исключительно на основе медицинских доказательств высочайшего качества» — корпуса, включающего более восьми миллионов статей и тысячи проверенных клинических рекомендаций. На первый взгляд, этот подход кажется безопасным, но риски сохраняются.

Медицина развивается быстро. Доказательства должны развиваться быстрее.
Медицинский режим создан для вопросов, где качество доказательств не может быть поставлено под угрозу.
Присоединяйтесь к миллионам исследователей и врачей, попробуйте Medical Mode in Consensus уже сегодня: https://t.co/7OrmoDufgw
— Консенсус (@ConsensusNLP) 9 октября 2025 г.

В статье, опубликованной в журнале Scientific Reports в прошлом месяце, были отмечены подводные камни применения ChatGPT в медицинском контексте. «Следует проявлять осторожность и информировать коллег и пациентов о риске галлюцинаций и использования технического жаргона, который может затруднить интерпретацию результатов», — предупреждается в статье. Однако, похоже, отрасль уверенно движется в сторону ИИ.

Медицинская школа Стэнфордского университета тестирует программное обеспечение на базе искусственного интеллекта ChatEHR, которое позволяет врачам взаимодействовать с медицинскими картами в более интерактивной манере. Несколько месяцев назад OpenAI совместно с Penda Health также протестировала «медицинского ИИ-помощника» и объявила, что этот инструмент снизил вероятность диагностических ошибок на 16%.