ChatGPT собирается перестать говорить о гоблинах и гремлинах, избавляясь от своего «гиковского» имиджа.
Если вы в последнее время общались с ChatGPT и заметили, что он странно часто упоминает гоблинов, гремлинов, огров или троллей, вам не кажется. Компания OpenAI объяснила, почему у ChatGPT появилась эта странная привычка и как она будет исправлена.
Как «ботанская» странность стала проблемой для всех
Проблема незаметно началась с GPT-5.1, выпущенного в ноябре . После этого запуска использование слова «гоблин» в ответах ChatGPT подскочило на 175%, а «гремлин» — на 52%. Виновником оказалась одна из дополнительных настроек личности ChatGPT под названием «Зануда», которая была разработана для того, чтобы ИИ звучал игриво и интеллектуально любознательно.
В процессе обучения OpenAI случайно выдал модели необычно высокие вознаграждения за ответы, содержащие метафоры, связанные с животными, и эта привычка быстро закрепилась.
Как один-единственный параметр личности мог вызвать столько разговоров о гоблинах?
Вот тут-то и начинается самое интересное. Даже пользователи, которые никогда не включали «ботаник», начали замечать в своих чатах отсылки к гоблинам. Это потому, что обучение ИИ не ограничивается одной настройкой. Как только модель ChatGPT получила вознаграждение за такой стиль поведения, это поведение распространилось на общие ответы пользователей.
По данным OpenAI, на долю «ботаника» приходилось всего 2,5% всех ответов в ChatGPT, но при этом 66,7% всех упоминаний гоблинов.
Так как же OpenAI на самом деле решает эту проблему?
В марте OpenAI отказалась от модели поведения "Nerdy" в ChatGPT-5.4 , что привело к резкому снижению количества упоминаний гоблинов. Компания также удалила сигнал вознаграждения, управляющий этим поведением, и отфильтровала обучающие данные, чтобы уменьшить количество упоминаний других магических существ.
Однако для работы инструмента кодирования Codex потребовалась отдельная инструкция по переопределению, поскольку обучение началось еще до того, как была выявлена первопричина проблемы. Поклонники фэнтези все еще могут разблокировать режим гоблина в Codex вручную, если вам это интересно.
Компания OpenAI также занимается другими вопросами, связанными с персонализацией, в том числе приостанавливает на неопределенный срок запуск ранее анонсированного режима для взрослых для верифицированных пользователей .