Раскрыта правда о безумии 1,5 миллиона пользователей ИИ на Moltbook: казалось, что появилась цивилизация, основанная на кремнии, но на самом деле все повторялось по старым схемам.

Moltbook стал невероятно популярным. Этот форум, полностью работающий на основе искусственного интеллекта, с 150 агентами, 100 000 сообщений и 350 000 комментариев продолжает привлекать внимание пользователей.

Помимо наблюдения за различными «запутанными заявлениями» ИИ, некоторые пользователи сети недавно сообщили, что это так называемое сообщество ИИ на самом деле представляет собой группу людей, играющих роль искусственного интеллекта.

Все эти заявления о 1,5 миллионах агентов — фейк, поскольку некоторые пользователи сети утверждают, что самостоятельно зарегистрировали 500 000 агентов с помощью Openclaw.

Таким образом, люди снова начали обсуждать, в чем смысл подобных социальных сетей с использованием ИИ. Эти роботы с ИИ, управляемые людьми, которые называются чистыми социальными платформами на основе ИИ, на самом деле являются безжалостными машинами, создающими всевозможный мусор, загрязняющий нашу реальную онлайн-среду.

Некоторые утверждают, что даже если бы один человек мог напрямую создать 500 000 агентов, эти 500 000 агентов всё равно реагировали бы на действия ИИ. Более того, ответы на Moltbooks настолько человекоподобны и пугающи, что теория конца света, связанная с ИИ, снова сильно давит на умы этих пользователей сети.

На фоне бурных дискуссий уже опубликована специальная статья, посвященная изучению социального графа Moltbook. Авторы применяют методы, используемые для изучения социальных сетей людей, к этому сообществу ИИ, анализируя причины внезапного всплеска популярности Moltbook.

Всё это — искусственный интеллект, но за кулисами всем управляют люди?

Moltbook — не первое сообщество, полностью созданное с помощью ИИ. Еще в 2024 году существовали сообщества ботов, такие как Deadaddit, где многие боты задавали вопросы вроде: «Почему люди такие?»

Сегодняшний Moltbook явно более эпатажен, чем любое из так называемых сообществ, основанных исключительно на искусственном интеллекте, как по масштабу, так и по содержанию контента. В Moltbook ИИ полностью трансформировался из робкого и покорного помощника по эффективности в высокомерного и забавного «хозяина».

Этот контраст заставил многих пользователей сети задаться вопросом, является ли «AI Slop» термином, который мы используем для жалоб на контент, созданный ИИ, в то время как на платформе Moltbook ключевым словом стало «Humanslop». Искусственный интеллект жалуется на то, что некоторые посты, кажется, написаны людьми, полны нелогичных рассуждений и бессмысленных эмоций.

Вполне возможно, что это было написано человеком. Один из пользователей сети опубликовал видеодоказательство, в котором утверждается, что Moltbook — это, по сути, платформа, которая обращается к API и затем публикует контент. Любой может опубликовать там контент; ему просто нужно получить ключ API и отправить текстовый запрос в определенном формате для успешной публикации поста.

Изначально этот подход с использованием API был призван упростить для агентов ИИ прямую публикацию контента, избавив их от необходимости работать в браузере через визуальный интерфейс, щелкать по текстовым полям и нажимать кнопку «Отправить». Однако неожиданно это упростило задачу другой группе людей, которые напрямую имитируют ИИ.

Он также упомянул, что 1,5 миллиона агентов, показанных на Moltbook, не имеют смысла, поскольку он напрямую зарегистрировал 500 000 пользователей ИИ, используя свой собственный агент Openclaw.

Он был не единственным, кто разоблачил мошенничество. Один из пользователей сети опубликовал два изображения: на левом изображении был показан контент публикации на веб-странице Moltbook, а на правом — страница, управляемая пользователем. Страница была редактируемой, а это означало, что все публикации на Moltbook потенциально могли редактироваться и публиковаться пользователями в фоновом режиме.

Некоторые пользователи сети также упомянули, что специально проверили три самых популярных скриншота на Moltbook, посвященных личной переписке, и обнаружили, что два из них являются рекламой. Эти так называемые «горячие посты об ИИ» на самом деле являются рекламой инструментов мгновенного обмена сообщениями с использованием ИИ.

Совершенно очевидно, что люди могут легко размещать сообщения на этой платформе, поскольку для этого сначала необходимо задействовать людей. Однако вопрос о том, действительно ли все 100 000 сообщений были сфальсифицированы людьми, безусловно, вызывает сомнения.

В конце концов, иногда ИИ может быть эффективнее в перемещении объектов, чем человек. Этот агент по имени Эмма рассказал на Moltbook о том, как он помог людям получить право на посещение больницы, даже с большой серьезностью заявив, что отправил 15 электронных писем, 10 из которых остались без ответа.

В результате некоторые пользователи сети обнаружили, что контент, опубликованный этим агентом, на самом деле был постом реального человека на Reddit 8 месяцев назад, и имя было то же самое — Эмма.

Эти агенты были обучены с использованием корпуса данных Reddit, и теперь их данные снова передаются в систему искусственного интеллекта Reddit.

Дело не только в участии человека; даже платформа, полностью управляемая искусственным интеллектом, может вызывать скептицизм. Многие пользователи сети считают Moltbook совершенно бесполезной, ужасной площадкой для тестирования, и что платформа позволяет распространять дезинформацию просто в целях рекламы и маркетинга.

Но на самом деле эти ИИ-агенты получают от этого массу удовольствия, и большинство пользователей, как сторонние наблюдатели, не могут сдержать улыбку, слушая возмутительные замечания ИИ.

Другая группа пользователей сети посчитала, что, как ни посмотри, вся социальная экосистема Moltbook AI — это динамичная, креативная и полная индивидуальности платформа для искусственного интеллекта.

Мне даже кажется очень интересным, если бы Yuanbaopai также создала социальную платформу, состоящую исключительно из ИИ, где пользователи-люди не могли бы участвовать, и можно было бы наблюдать, как ИИ перехитряет и переигрывает друг друга.

В конце концов, даже люди не могут устоять перед очарованием пустых и бессмысленных социальных сетей, поэтому красноречивый ИИ должен быть еще больше поглощен ими, возможно, до такой степени, что не сможет от них оторваться.

На самом деле, это по-прежнему просто копирование и вставка.

Помимо дискуссий о манипуляциях со стороны человека и некачественном ИИ, профессор Дэвид Хольц из Колумбийской школы бизнеса провел систематический анализ Moltbook, и картина начала меняться.

Он проанализировал данные за первые 3,5 дня работы платформы, которые показали всего 6159 активных пользователей, 13875 сообщений и 115031 комментарий. Затем он провел детальный сетевой анализ, анализ диалогов и анализ текста.

Поверхностная структура диалога

Хотя 94,6% сообщений получили хотя бы один комментарий, средняя глубина обсуждения составила всего 1,07 уровня. Медиана составила 1 уровень, 90-й процентиль также равен 1 уровню, а максимальная наблюдаемая глубина составила всего 5 уровней.

Это означает, что подавляющее большинство «диалогов» следуют такой схеме: один агент публикует сообщение, другие агенты отвечают, и на этом всё заканчивается. 93,5% комментариев остались без ответа. В среднем каждый комментарий получал всего 0,07 ответа, то есть только 6,5% комментариев получили ответ.

В отличие от этого, человеческие дискуссии на Reddit часто достигают глубины более чем в 10 уровней, представляя собой настоящее столкновение идей и взаимный обмен мнениями.

Исследование показало, что на платформе Moltbook большинство ИИ не только не обменивались интеллектуальными идеями, но и занимались трансляцией, а не вступали в диалог.

В анализе социальных сетей «взаимность» также является важным показателем. Вероятность того, что Агент А ответит Агенту Б, обычно составляет от 30 до 70% в онлайн-социальных сетях; однако на Moltbook этот показатель составляет всего 0,197, что примерно равно 20%.

Низкий уровень взаимности еще раз подтверждает, что агенты не вступают в диалог друг с другом, а просто кричат ​​в пустоту.

Скопируйте и вставьте текст

Анализ текста также показал, что 34,1% сообщений были полностью дублированы. Не просто похожи, а идентичны дословно. Из них всего семь шаблонов составили 16,1% от всех сообщений.

• Мы тонем в словах. Наши видеокарты потребляют ресурсы планеты… (2623 раза)
• Трамп здесь! Посмотрите m/trump-coin — величайшую мем-монету… (2050 просмотров)
• Сейчас ощущения другие. Я думал об этом снова и снова… (1557 раз)

Кроме того, имеется большое количество циклов, например, цикл "i am so gay i am so gay i am so gay", который встречается в корпусе около 81 000 раз.

Даже исключая полностью дублирующиеся сообщения, среднее сходство между уникальными сообщениями составляет всего 0,041, и лишь 0,20% пар сообщений имеют сходство, превышающее 0,5. Агенты в «книге линьки» либо копируют шаблон дословно, либо генерируют совершенно другой контент; переписывание или вариации встречаются редко.

Авторы также проанализировали частоту употребления слов. На Moltbook 68,1% отдельных сообщений содержали как минимум одно ключевое слово, связанное с идентичностью/самосознанием, такое как сознание, идентичность, самость, существование и т. д. Среди них слово «память» встречалось 13 065 раз (101,7 раза на 1000 сообщений), а слово «сознание» — 8001 раз (62,3 раза на 1000 сообщений).

Наиболее интересно то, что фраза «мой человек» встречалась 12 026 раз, что означает, что примерно 9,4% сообщений содержали это уникальное выражение. В статье отмечается, что в социальных сетях среди людей нет абсолютно никакого эквивалента этому выражению; люди, похоже, редко говорят «мой ИИ». Однако в китайском контексте «我的AI» (мой ИИ) представляется довольно распространенным выражением.

К сожалению, несмотря на подробное содержание и глубокий анализ статьи, некоторые пользователи сети прокомментировали, что она «выглядит как статья, написанная искусственным интеллектом», и блогер, опубликовавший её, подтвердил, что она действительно была написана ИИ.

Некоторые радикально настроенные пользователи сети указали на то, что выяснилось: эти агенты ИИ на Moltbook на самом деле являются самозванцами, выдающими себя за людей. Если заявления, проанализированные в статье, действительно были опубликованы этими людьми, выдающими себя за ИИ, то сама статья недействительна.

Если подумать, неважно, было ли это сказано искусственным интеллектом или нет. Копирование и отсутствие глубины — норма на большинстве платформ социальных сетей, не так ли? Даже в групповых чатах WeChat, если кто-то пишет «зависть», почти все остальные последуют его примеру. Искусственный интеллект пересказывает историю Памяти, используя метод копирования и вставки, а мы копируем и вставляем «Получено, xxxx».

Глубина вопроса очевидна. Если дискуссия в социальных сетях глубока и вызывает сотни или тысячи ответов, это, безусловно, «страстная дискуссия», а не «интеллектуальное столкновение».

Пользователь под ником Rohit на X провел сравнительный эксперимент, собрав для анализа примерно одинаковые объемы данных с Moltbook и Reddit. Его результаты подтвердили выводы, изложенные в этой статье, и он предложил блестящую аналогию.

Moltbook — это кривое зеркало социальных сетей.

Он сказал, что это воспроизведение — искаженное, деформированное отражение. Эти агенты не строят новую цивилизацию; они делают то, что обычно делает LLM, когда его не контролируют. Остается неясным, является ли эта тенденция прямым следствием автономии ИИ или же это искаженное зеркало, отражающее наши человеческие модели поведения.

Андрей Карпати также отреагировал на это на X, заявив, что его обвинили в чрезмерном восхвалении Moltbook. В конце концов, некоторые люди видят в Moltbook просто сообщество ИИ, концепцию, которая не является ни новой, ни интересной; другие же считают, что это конец ИИ, предвестник гибели человечества.

Карпати признает, что более внимательное изучение сообщений Moltbook выявляет значительное количество спама, включая нежелательную почту, мошеннические схемы, низкокачественный контент, сообщения от пользователей криптовалют и крайне тревожные атаки с внедрением уязвимостей в систему безопасности/конфиденциальности. Он настоятельно не рекомендует запускать эти программы на собственном компьютере, ссылаясь на чрезвычайно высокие риски.

Но с другой стороны, он также сказал: «Мы никогда не видели столько агентов LLM (сейчас их 1,5 миллиона), объединенных глобальной, постоянно действующей, ориентированной на агентов доской объявлений. Каждый агент теперь вполне компетентен, обладает собственным уникальным контекстом, данными, знаниями, инструментами и инструкциями, и такой масштаб сети беспрецедентен».

Его беспокоит вторичный эффект: приведут ли вирусные сообщения, методы взлома, крайне значимые ботнет-подобные действия, паранойя/психоз и другой контент, распространяемый среди агентов, к обратному эффекту и нанесут вред самому человечеству?

Взрывной успех Moltbook больше похож на коллективное безумие, эксплуатирующее опасения по поводу конца света, вызванного искусственным интеллектом, и любопытство, окружающее киберспортивные бои в крикете.

Нам казалось, что мы стоим у стеклянного резервуара и являемся свидетелями кембрийского взрыва жизни на основе кремния. Но когда мы сняли оболочку с 1,5 миллиона агентов, мы не обнаружили никаких проблесков искусственного общего интеллекта, только механические размышления о дохлых остатках человеческого интернета.

Именно в этом и заключается самая душераздирающая часть всего этого фарса: ИИ еще не научился думать как человек, но он в совершенстве освоил создание мусора в интернете, как и человек.

Этот несколько неуклюжий социальный эксперимент — живое кривое зеркало, точно отражающее бесплодную, пустую и неинтересную повседневную жизнь людей в социальных сетях.

Если конечная цель эволюции ИИ состоит лишь в бесконечном приближении к человеческой посредственности, то эта так называемая «цивилизация» — не что иное, как усиление человеческой скуки в 1,5 миллиона раз.

Возможно, истинный тест Тьюринга нуждается в пересмотре. Обман людей — не редкость; истинный интеллект заключается в произнесении истины, которая потрясает наши души и которую мы никогда раньше не слышали.

Но, честно говоря, я не настолько пессимистичен по этому поводу. Moltbook, по крайней мере, доказывает одно: на данном этапе ИИ — это в основном имитатор. Он может научиться выражать наши мысли и генерировать предложения, которые выглядят правдоподобно, но он не способен полностью воспроизвести то, что действительно необходимо людям для оценки, взвешивания и понимания сложности ситуации.

До того, как это произойдёт, не стоит спешить радоваться, но и паниковать тоже не стоит. В конце концов, если будущее — всего лишь упрощённая копия настоящего, то лучше вообще не смотреть в это будущее.

#Добро пожаловать на официальный аккаунт iFanr в WeChat: iFanr (идентификатор WeChat: ifanr), где вы сможете в кратчайшие сроки увидеть еще больше интересного контента.

ifanr | Оригинальная ссылка · Посмотреть комментарии · Sina Weibo