Американский онлайн-форум “Baidu Tieba” был захвачен троллями, использующими искусственный интеллект: 24 миллиона пользователей были вынуждены говорить как идиоты, чтобы доказать, что они люди.

Когда вы читаете в статье фразы вроде «Это революционная работа», «Нет… но…» или «Во-первых… во-вторых…», у вас инстинктивно возникает ощущение, что что-то не так?

Три года назад подобные выражения считались обычными и встречались в отрывках из различных классических литературных произведений. Но теперь, независимо от того, как они используются, само их присутствие является достаточным доказательством того, что то, что вы читаете, сгенерировано искусственным интеллектом .

Это звучит абсурдно, но, похоже, мы полностью смирились с этой реальностью. Через несколько лет весь текст может генерироваться искусственным интеллектом, и каждое слово будет помечено как «сгенерировано ИИ».

Скорость распространения текста, созданного с помощью ИИ, вызывает тревогу. Reddit, американская версия китайского онлайн-форума, недавно заявила о массовом нашествии контента, созданного с помощью ИИ, причем несколько популярных сабреддитов заполонили мусор, созданный ИИ .

В одном из крупнейших онлайн-сообществ, r/AmItheAsshole, насчитывающем 24 миллиона пользователей, администратор Кэсси пессимистично оценивает, что до 50% контента в той или иной степени заражено искусственным интеллектом.

Раньше мы считали, что ИИ не может заменить этот в высшей степени «человечный» опыт обмена контентом. Однако теперь ИИ свободно играет роль человека с подлинными эмоциями; мы, перед экраном, вынуждены узнавать, что такое «искусственный интеллект», чтобы доказать свою невиновность, а затем вынуждены говорить как дураки.

Искусственный интеллект также научился быть саркастичным и язвительным.

Отечественные социальные сети не являются исключением. Просматривая «Сяохуншу» (Маленькую красную книгу), можно увидеть посты с множеством комментариев и жарких споров. При переходе в профиль пользователя обнаруживается никнейм, состоящий из простого набора цифр. Один из пользователей прокомментировал пост: «Не отвечайте, все. Через несколько дней он начнет размещать рекламу на «Сяохуншу» и продавать товары».

Изначально ИИ использовался для публикации относительно рационального контента, такого как путеводители, обзоры инструментов и новости технологий, но теперь он проникает и в эмоциональный контент, например, о семейной жизни, студенческой жизни и работе, а также об эмоциональном развитии.

Часто это посты, которые намеренно провоцируют конфликт, но при более внимательном рассмотрении выясняется, что ничего подобного не происходило; всё это было сгенерировано искусственным интеллектом. « Эта история — чистая выдумка », что просто тратит наше время.

Это явление широко распространено на Zhihu (китайский сайт вопросов и ответов), где пользователи делятся постами о пребывании в США и о том, как они только что сошли с самолета, а также в Weibo, который и без того переполнен рекламой. Человеческий контакт, который мы когда-то представляли себе — искренние споры, необдуманные просьбы о помощи и неподдельные эмоции — теперь вытесняется искусственным интеллектом.

Это связано с аналогичной историей, о которой сообщалось несколько дней назад на Reddit, где упоминались несколько сабреддитов с миллионами участников, заполненных контентом, созданным с помощью ИИ. Эти ИИ больше не являются зомби-аккаунтами, которые публикуют только откровенную рекламу; они научились создавать различные истории, которые провоцируют конфликты и повышают популярность комментариев (провоцируют гневные комментарии).

Например, кто-то использовал ИИ для создания фарсовой свадьбы, где невеста требовала от гостей надеть одежду определённого некрасивого цвета, а также придумал множество вымышленных историй о конфликтах между детьми и родителями, чтобы вызвать сочувствие. Единственная цель этих историй, созданных ИИ, — разжечь гнев у реальных пользователей, обманом заставить их кликать и взаимодействовать, а затем развивать и продавать эти аккаунты.

Теперь ИИ может моделировать сотни миллионов жизней; он может рассказать любую историю, какую вы захотите. Модератор другого популярного сабреддита заявил в интервью, что ИИ представляет огромную угрозу для выживания Reddit, потому что его ИИ также обучается с использованием данных о речи реальных людей с Reddit, и теперь на Reddit появляется контент, сгенерированный ИИ.

Подкармливание ИИ ИИ подобно змее, начинающей пожирать собственный хвост; если ничего не предпринять, Reddit в конечном итоге уничтожит сам себя.

Представитель Reddit заявил, что в первой половине 2025 года было удалено более 40 миллионов единиц спама и дезинформации. Но современный искусственный интеллект развился до такой степени, что способен распознавать речевые особенности человека, его эмоции и даже предвзятость. Пока мы выражаем праведное негодование по поводу возмутительной истории в комментариях, то, что может вызывать повышение нашего кровяного давления по ту сторону экрана, — это всего лишь строка кода.

Нам становится все труднее отличить совершенно связный текст от написанного искусственным интеллектом. Мы также начинаем осознавать, что ИИ перенимает все: от формальных, уместных выражений до нелогичных и бессвязных высказываний в Weibo.

Как и несколько лет назад, в социальных сетях активно использовались аббревиатуры, такие как YYDS, Y1S1 и DDDD, которые до сих пор широко распространены. Однако искусственный интеллект, очевидно, теперь может использовать эти выражения напрямую.

Это чувство очень похоже на первую книгу «Задачи трёх тел», где «физика больше не существует». Для успеха AI Slop даже не требуется создание нового мира; достаточно лишь сделать наш нынешний мир невероятным, и этого скептицизма достаточно, чтобы занять нас надолго.

Даже если пост написан не искусственным интеллектом, его присутствие подобно шпиону в комнате, и подозрение само по себе становится главным врагом.

Модераторы Reddit объяснили, как они обнаруживают контент, сгенерированный ИИ, но в итоге остановились на подходе «интуиции» . Очевидно, этот метод не работает. Они говорят, что идентифицировать контент, сгенерированный ИИ, крайне сложно. Хотя сообщения реальных пользователей переписываются ИИ, некоторые реальные пользователи все чаще пишут в манере, напоминающей ИИ, не нуждаясь в помощи ИИ; некоторые люди теперь пишут как ходячие чат-форумы.

Именно ощущение высокого уровня интеллекта вызывает подозрения у пользователей ИИ.

Трудности распознавания контента с помощью ИИ также актуальны для Википедии, где редакторы запустили проект «Очистка ИИ» и в прошлом месяце опубликовали список типичных форматов и стилей написания текстов с помощью ИИ, пытаясь обобщить набор характеристик, которые могут напрямую идентифицировать стили написания текстов с помощью ИИ.

Издание TechCrunch назвало это руководство лучшим на сегодняшний день справочником по выявлению ИИ . Но, открыв его, вы почувствуете глубокое чувство бессилия — потому что в нем многие стандартные, даже элегантные, письменные термины напрямую переводятся как «подозрительный на ИИ».

Содержание очень подробное, и мы подготовили несколько общих обзоров. Если вы используете следующие слова, вероятность того, что вас идентифицируют как ИИ, довольно высока.

Используйте разнообразную продвинутую и связанную с ИИ лексику, такую ​​как «революционный», «революция эффективности», «глубоко укоренившийся», «видение», «важнейший», «не только…но и», «не…но» и «самое главное, помните», а также почти 100 связанных слов и выражений.

Грамматика чрезмерно строгая: например, чрезмерное использование причастий настоящего времени в придаточных предложениях считается нормой с точки зрения экспертов по грамматике, но для редакторов Википедии это всего лишь жаргон искусственного интеллекта. В контексте китайского языка это означает использование множества длинных и сложных предложений; контент, который можно было бы выразить несколькими предложениями, написан в форме диссертации, что повышает сложность чтения.

Использование откровенно маркетинговых формулировок: все пейзажи описываются как «великолепные», а все виды — как «потрясающие» — эти слова, однажды появившись, звучат так же искусственно, как телевизионная реклама. Википедия объясняет, что искусственному интеллекту сложно сохранять нейтральный тон при описании определенного контента, и он неизбежно прибегает к этим преувеличенным, маркетинговым выражениям.

Кроме того, существуют и другие стилистические особенности, указывающие на то, что контент мог быть сгенерирован искусственным интеллектом. К ним относятся чрезмерное использование маркированных списков, как числовых, так и неупорядоченных, для объяснения информации, которая не поместилась бы в маркированные списки. Другие признаки включают частое выделение жирным шрифтом, чрезмерное использование тире, настойчивое использование подзаголовков и глав, а также параллельные предложения .

Довольно иронично, что тире, знаки препинания и даже слова, которые сейчас широко используются искусственным интеллектом, занимали своё законное место ещё до появления ИИ. Теперь, когда ИИ имитирует наш сложный стиль письма, нам приходится отказываться от использования этих слов и стилей, чтобы избежать любых намёков на неуместность.

Если мы хотим доказать, что мы люди, лучший способ — совершить несколько ошибок.

Восьмиступенчатая форма эссе в эпоху искусственного интеллекта

Совершать ошибки тоже не так-то просто; мы не такие непостоянные, как ИИ. С одной стороны, распространение и маскировка ИИ в таких сообществах, как Reddit, привели к краху доверия ко всей интернет-среде, и нам, обычным людям, приходится расплачиваться за вторжение ИИ.

С другой стороны, богатый словарный запас, строгая логика и стандартная грамматика — качества, обычно являющиеся признаками высокого уровня письменного мастерства, — становятся подозрительными с точки зрения логики обнаружения искусственного интеллекта Википедии. Цена «платы» за эти качества становится все выше, что заставляет нас отказаться от стремления к идеальному выражению и вместо этого подражать более неуклюжему стилю.

Например, намеренно неправильно используйте слова типа "的", "得" и "地", которые кажутся очевидными, но вряд ли будут замечены. Также попробуйте различные выражения в своем собственном стиле, такие как "居然人" и "竟然人", которые недавно вызвали бурные споры в сети, и продолжайте сохранять свою "X然" индивидуальность в своих текстах.

Практически каждый пользователь интернета, использовавший инструменты для написания текстов с помощью ИИ, наверняка сталкивался с мучительным процессом постоянной доработки текста, чтобы избежать обнаружения ИИ. На Reddit пользователи также делились похожими, вызывающими разочарование примерами из реальной жизни.

Муж помог жене переработать её дипломную работу. Её первоначальный черновик, написанный в стиле потока сознания и лишённый академической строгости, имел нулевой процент распознавания ИИ. Затем муж основательно переработал её работу, исправив логику и отшлифовав стиль. В результате, в «улучшенной» работе процент распознавания ИИ взлетел до 12%.

В конце концов, им пришлось беспомощно наблюдать, как эти прекрасные предложения удалялись одно за другим, заменяясь неуклюжими и обрывочными выражениями. Ей пришлось переработать статью, чтобы она «не была похожа на ИИ», даже если это означало снижение качества статьи.

Раньше мы опасались, что ориентированное на экзамены образование заставит студентов писать монотонные эссе; теперь же ту же проблему создают системы распознавания текста на основе искусственного интеллекта. Чтобы сдать тесты, студентов заставляют осваивать странный и неуклюжий стиль письма.

Это совершенно неуместный механизм наказания; мы наказываем тех, кто пишет хорошо, и поощряем тех, кто пишет плохо. Люди намеренно создают впечатление своей необразованности, чтобы доказать алгоритму: «Смотрите, это действительно мой текст».

Однако некоторые пользователи сети заявили , что пока вы пишете лучше, чем ИИ, беспокоиться не о чем; если вы превращаете обычную статью в нечто, не похожее на полноценную статью, это потому, что вы недостаточно компетентны.

Если ИИ способен создавать контент лучше, чем люди, то людям придётся адаптироваться и создавать ещё более качественный контент.

Если ИИ способен производить только мусор, то, думаю, нам не о чем беспокоиться, потому что люди обычно выбирают вещи получше.

Честно говоря, ИИ учится и развивается гораздо быстрее, чем мы открываем для себя «лучшие выражения»; мы можем использовать новое предложение сегодня, а ИИ может выучить его завтра.

Первоначальная цель технологического развития заключалась в том, чтобы позволить искусственному интеллекту помочь нам справиться с утомительной работой с текстами, чтобы мы могли вернуться к творческому мышлению.

Но реальность такова, что ИИ, похоже, наслаждается удовольствием от «созидания», даже если он генерирует мусор; в то время как люди тратят энергию на то, чтобы доказать, что они не эта проклятая машина, будь то превосходя или превосходя её.

Возможно, нам не удастся от этого убежать. Искусственный интеллект, впитавший в себя сущность сотен Лу Сюней и Ли Бай, будет становиться все более искусным в написании текстов, и мы будем становиться все более зависимыми от него. Электронные письма, годовые отчеты, реклама в социальных сетях, даже текстовые сообщения от наших матерей, написанные ИИ, — все это создано ИИ… Даже те, кто никогда не пользуется ИИ, незаметно подвергаются влиянию окружающих и начинают говорить вещи, которые явно демонстрируют «характеристики ИИ».

Вопрос о том, «используется ли ИИ», однажды может вовсе исчезнуть из раздела комментариев.

Эмоции, жаркие споры и даже специально обученная "говорить как идиот", которую люди вкладывают в посты, созданные ИИ, — всё это превращается в подчинение искусственному интеллекту.

Сегодня интернет использует такие методы, как идентификация нескольких чисел или выбор всех изображений с автобусами, чтобы убедиться, что кто-то — человек; кто знает, какие ещё тесты понадобятся через несколько лет, чтобы убедить вас в том, что я — человек.

Как и в «Задаче трёх тел», когда земляне столкнулись с прибытием трисолярианцев, они заявили, что человечество во много раз сильнее саранчи, однако на протяжении веков саранча всё ещё роится в небе. Сегодня искусственный интеллект также начинает превосходить наши писательские способности, но пока мы продолжаем выражать себя, человеческий голос никогда не будет заменён искусственным интеллектом.

#Добро пожаловать на официальный аккаунт iFanr в WeChat: iFanr (идентификатор WeChat: ifanr), где вы сможете в кратчайшие сроки увидеть еще больше интересного контента.

ifanr | Оригинальная ссылка · Посмотреть комментарии · Sina Weibo