В честь третьей годовщины ChatGPT я скучаю по тем временам, когда писал ужасно.

Бежевые обои

Я вспомнил первое задание, которое я попросил ChatGPT выполнить: как и ожидалось, это было написание документа на английском языке. После этого я, как и все остальные, попросил его составить план диеты для похудения. Знаменитая черно-зеленая цветовая гамма тех времен действительно вызвала ностальгию.

Тогда GPT был не таким убедительным и интеллектуальным, как сейчас. Мне приходилось разбивать длинные тексты на разделы и добавлять подсказку в начало каждого сообщения, чтобы убедиться, что он понимает задачу.

Три года назад ChatGPT появился словно комета, не только благодаря своему удобству и интеллекту в транзакционных задачах, но и благодаря своей способности «вести себя как человек» в этих разговорах и дискуссиях. Будь то его объём памяти или способность создавать неповторяющиеся предложения, он впервые заставил людей осознать, что чистый бинарный язык действительно может функционировать таким образом.

Оно логически обосновано, эмоционально насыщено и почти идеально. Отныне «порог выразительности» больше не существует. Грамматические ошибки, орфографические промахи и неточные формулировки могут быть переданы большой языковой модели, которая обработала миллиарды точек данных и создаст безошибочный продукт — даже при наличии всего одного входного параметра.

Но какова цена? В литературной критике существует термин «бежевая проза», обозначающий простой и лаконичный стиль письма, подобный китайскому понятию «описание». Этот стиль лаконичен и удобен, но ему не хватает выразительности; подобно кремовому цвету, он не допускает ошибок, но и не выделяется.

Это очень похоже на то, что мог бы предложить ChatGPT. Хотя прошло три года, и обновления модели становятся все более эффективными с каждой итерацией, она никогда не отклоняется от сути LLM и трансформера: вероятности.

Тирания вероятности

Справедливости ради, стоит отметить, что тон и стиль GPT теперь приобрели некий «искусственный колорит», и он стал довольно узнаваемым. До выхода GPT 5.1 он был запущен как анонимная модель на платформе OpenRouter, и пользователи сети идентифицировали его как продукт OpenAI, сравнивая его ответы с ответами предыдущих моделей.

ChatGPT развивался на протяжении поколений, каждое из которых имело свой собственный, неповторимый стиль письма: классическое «не…но…», более ранние «catch» и «I'm here», неизменное использование тире, выделение жирным шрифтом и повсеместное появление эмодзи.

Хотя эти уловки не всегда привлекательны, они не вызовут серьезных проблем: по сути, большие языковые модели «предсказывают следующее слово» и действуют на основе вероятности. Пока они следуют принципу наибольшего общего делителя, насколько серьезными могут быть последствия?

Однако малоизвестный факт заключается в том, что алгоритмы моделей не всегда выбирают слово с наибольшей вероятностью в предсказании — это объясняет, почему один и тот же запрос может давать разные результаты для одной и той же общей идеи. В разработке алгоритмов используются такие методы, как Temprature, Top-P и Top-K, для внесения случайности в результаты.

Чтобы соответствовать определениям «полезности» и «безопасности» в обучении с подкреплением на основе обратной связи от человека (RLHF), эти параметры варьируются, но они по-прежнему должны выбираться из «набора слов с более высокими вероятностями». Поэтому алгоритм не просто выдает среднее значение, а рисует круг, внося незначительные корректировки, пока не возникнут серьезные ошибки.

Итак, за последние три года, начиная с отзывов о магазинах на Xiaohongshu и заканчивая самоанализом в итоговых отчетах и ​​даже первоначальным написанием текстов для маркетинговых аккаунтов, вы обнаружите поразительное сходство: весь текст стал более плавным, все мнения превратились в «нет…но», и хотя иногда встречаются удачные моменты, в целом все эмоции стали грубыми и приглушенными. ChatGPT предлагает безрисковую креативность, но это также и тирания вероятности. В некоторой степени алгоритмы ненавидят неожиданности; их суть — плавность.

Тем не менее, контент, созданный под влиянием ИИ, уже проник в нашу жизнь, и мы постепенно перестаём злиться по этому поводу. У нас сложилось странное негласное взаимопонимание с ИИ: ради эффективности и приличий мы готовы пожертвовать частью своей индивидуальности.

Обратное мышление

Если первые два года мы обучали ИИ, то на третий год ИИ начал обучать нас. Особенно на третьем году, по мере того как различные приложения и инструменты становились все более удобными и универсальными, отношения между пользователями и ИИ переросли в странный «симбиоз».

Это отражается в том, что мы больше не можем различить, кто кого тренирует.

Сначала мы думали, что обучаем ИИ. Мы давали ему данные, предоставляли обратную связь и учили его говорить как человек.

Помимо инженеров, никто не использует его для обучения других; все используют его для решения конкретных проблем и получения ответов или даже более сложных результатов. Поэтому, чтобы получить более точные ответы, мы начали изучать «оперативное проектирование». Мы научились разбивать сложные и неоднозначные человеческие мысли на ясные, логически последовательные инструкции.

Прежде чем задать вопрос, мы сначала проводим своего рода «предварительную обработку» в своем сознании, отсеивая чрезмерно эмоциональные или импульсивные мысли, потому что подсознательно знаем: «Искусственный интеллект не понимает этих вещей, поэтому мы должны давать инструкции таким образом, чтобы он их понял».

Процесс использования инструментов заключается в том, что мы сами формируемся под их воздействием — утверждение, которое нам уже надоело повторять. Поэтому, столкнувшись с обширной языковой моделью, которая делает акцент на плавности, мы тоже изменились, став более логичными, более эффективными и больше похожими на машины.

Наблюдая за быстро появляющимся на экране текстом, мы испытываем одновременно и восторг от ощущения «полного контроля над ситуацией», и чувство пустоты, утраты субъективности, душит нас в тени.

Остался единственный

«Это вообще можно считать обновлением?» К третьему году обновления ChatGPT уже не вызывали прежнего удивления, а вместо этого сопровождались всё большим количеством жалоб и недовольства. То, чего Apple потребовалось более десяти лет, OpenAI удалось достичь за три года.

Несмотря на жалобы, люди всё ещё им пользуются. ChatGPT сейчас — это супергигант с 700 миллионами пользователей, и в свой день рождения он получил множество «поздравлений» — даже Роберт ему позавидовал.

Учитывая недовольство и протесты пользователей по всему миру против принудительного удаления версии 40 при запуске GPT 5, приходится признать одно: существует еще одно измерение наших отношений с ChatGPT, называемое «эмоциональным измерением».

Всё больше людей делятся своими невысказанными секретами с ChatGPT. Звучит трагично, но если вы когда-либо это испытывали, то напряжение покажется вам невероятно захватывающим: вы знаете, что по ту сторону экрана происходит множество холодных матричных умножений, вы знаете, что его «эмпатия» — всего лишь статистическая симуляция. Но порой это «имитированное понимание» гораздо мягче, чем «настоящее нетерпение».

Человеческое слушание часто сопровождается осуждением, высокомерием типа «Я же говорил» или беспокойством, свойственным нетерпеливому желанию дать совет. Искусственный интеллект, напротив, просто слушает (точнее, обрабатывает информацию), просто успокаивает; он обеспечивает «безопасную близость», и это безусловно.

«Судите по поступкам, а не по намерениям», и, кроме того, у GPT нет намерений. Похоже, что только в присутствии объекта без физической формы человек может по-настоящему ослабить бдительность.

Эмоциональное напряжение лучше всего отражает наши отношения с ChatGPT: мы часто помогаем, всегда доверяем и иногда оказываемся втянутыми в конфликт.

Эти отношения также представляют собой первый этап нашего взаимодействия с искусственным интеллектом. Три года — это долгий срок, но в то же время очень короткий; это всего лишь небольшой, осторожный шаг в долгом танце между человечеством и технологией.

В следующие три года, а затем еще в течение трех лет, мы будем продолжать оставаться в этих напряженных отношениях, и самое «человечное», что мы можем сделать, — это поддерживать эту небольшую периодическую связь, чтобы доказать, что человек, сидящий перед экраном, по-прежнему остается сложной, противоречивой и непредсказуемой личностью.

#Добро пожаловать на официальный аккаунт iFanr в WeChat: iFanr (идентификатор WeChat: ifanr), где вы сможете в кратчайшие сроки увидеть еще больше интересного контента.

ifanr | Оригинальная ссылка · Посмотреть комментарии · Sina Weibo