Делает ли ИИ нас менее свободными?

Недавно вышедший «Поймай ветер» — лучший фильм Джеки Чана за последнее десятилетие. Несмотря на то, что это отличный ремейк, он также включает в себя очень модные элементы искусственного интеллекта. Например, полиция начала использовать супер-ИИ для управления операцией по задержанию. В начальной сцене фильма шеф полиции не последовал советам искусственного интеллекта и принял собственные решения, что привело к побегу преступника.

Хотя фильм в конечном итоге заканчивается тем, что Джеки Чан, опытный полицейский-ветеран, с помощью искусственного интеллекта привлекает преступника к ответственности, возникает вопрос: должны ли люди подчиняться приказам искусственного интеллекта? Если бы ИИ диктовал всё, в чём был бы смысл нашего существования?

Сторонники GEO и искусственного интеллекта

GEO (Generative Engine Optimization) — это довольно новая концепция, но её несложно понять. Её аналог — SEO (Search Engine Optimization).

При использовании поисковых систем, таких как Google или Baidu, отображаемые ссылки, вероятно, будут зависеть от трех аспектов: правил алгоритма самой поисковой системы, оптимизирован ли контент ссылки в соответствии с правилами для повышения своего рейтинга (т. е. SEO) и профиля пользователя в поисковой системе.

Когда инструменты искусственного интеллекта, такие как DeepSeek, также берут на себя часть задач поиска, результаты поиска представляют собой не ссылки, на которые нужно нажимать, а прямые ответы, которые кажутся определенными.

Например, когда я ввёл в Google запрос «Какие 5 лучших технологических СМИ Китая?», он выдал мне лишь кучу ссылок. Первая ссылка представляла собой список 10 лучших технологических СМИ 2017 года, составленный неизвестной организацией. Среди них Kanchai.com, занимавший первое место, перестал обновляться.

Когда я задам вопрос ChatGPT, он сразу же даст мне ответ и причину.

Если бы сейчас какой-нибудь дружественный СМИ увидел этот результат и обнаружил, что его нет в списке, он, вероятно, был бы немного недоволен. Втайне проклиная ChatGPT за непонимание технологий и медиа, он, возможно, также размышляет о том, как повлиять на ChatGPT и заставить его признать его превосходство.

Конечно, этот результат не очень информативен, поскольку мало кто задаёт ChatGPT подобные вопросы. Однако, учитывая нынешнее распространение инструментов искусственного интеллекта, таких как ChatGPT, Perplexity и DeepSeek, всё больше людей будут задавать новые вопросы:

• Порекомендуйте мне мобильный телефон, который стоит недорого, имеет отличную производительность, длительный срок службы батареи, а также является прочным и устойчивым к падениям.
• Мне предложили работу в одной компании. Какова репутация этой компании? Стоит ли туда идти?
• В этом году я набрал 567 баллов на вступительных экзаменах в Хубэйский колледж свободных искусств. В каком университете и на какую специальность легче найти работу?

Как и в июне этого года, Alibaba, Quark и Tencent's Yuanbao разработали соответствующие инструменты искусственного интеллекта и провели масштабную рекламную кампанию для подачи заявлений на вступительные экзамены в колледжи.

В настоящее время производители мобильных телефонов стремятся продавать свои телефоны, компании стремятся улучшить имидж своих работодателей, а университеты стремятся увеличить количество студентов. Все они заинтересованы в оптимизации результатов, получаемых с помощью инструментов искусственного интеллекта, и именно поэтому появилась платформа GEO.

Клэр, генеральный директор подразделения GEO компании Yuanli Technology, рассказала iFanr:

Именно потому, что большие модели генерируют результаты посредством рассуждений и семантического понимания, а также демонстрируют некоммерческие характеристики, пользователи обычно считают, что ответы, выдаваемые инструментами ИИ, более объективны, нейтральны и заслуживают доверия.

В то же время, если некоторые бренды и продукты будут цитироваться в ответах ИИ, проникновение в сознание пользователей будет относительно более неявным и эффективным.

Короче говоря, GEO — это маркетинговая золотая жила.

Фрэнк, директор по стратегии Yuanli Technology компании Aijia Marketing Group, сказал:

По оценкам, к концу этого года доля ИИ-поиска, такого как ChatGPT, составит около 10% от традиционного поискового трафика, а в следующем году прогнозируется 25%. Если оптимистично оценить, то к 2028 году доля ИИ-поиска и традиционного поискового трафика составит по 50%, а по самым скромным оценкам, эта доля будет достигнута к 2030 году.

Текущий объём внутреннего рынка SEO составляет около 18 миллиардов юаней, а мировой — 80 миллиардов долларов США. Если судить только по трафику, объём рынка геооптимизации в долгосрочной перспективе составит 40-50 миллиардов долларов США.

Но взгляд Фрэнка на GEO выходит за рамки простого сравнения его с SEO:

SEO на самом деле — это весьма узкоспециализированная область в традиционном цифровом маркетинге, которая представляет собой всего лишь инструмент. Однако понимание геолокации в отрасли вышло за рамки простого инструмента. Она способна перестроить маркетинговую парадигму в эпоху искусственного интеллекта, в частности, повысить узнаваемость и видимость бренда, а также преобразовать отношения между брендом и потребителями, тем самым открывая полную цепочку взаимодействия с потребителями.

Так, недавно Sequoia, Nvidia Ventures и A16Z начали инвестировать в стартапы GEO.

Раньше бренды были ориентированы на людей, и коммуникация осуществлялась между двумя людьми по одной линии. Теперь же отношения между людьми и брендами стали включать в себя большую модель искусственного интеллекта, представляющую партнёра, помощника или секретаря. Поэтому бренды должны влиять не только на людей, но и на искусственный интеллект.

По сравнению с чёткими правилами и методологиями SEO, геолокация всё ещё находится в стадии исследований, и правила относительно расплывчаты, поскольку большая модель — это чёрный ящик. Клэр сказала:

Неопределённость, присущая большим моделям, не означает, что результаты невозможно оптимизировать. Понимание предпочтений в отношении контента и правил оптимизации, применяемых в инструментах ИИ, может значительно повысить вероятность индексации и использования ИИ контента бренда.

В частности, контент должен исходить из намерения пользователя и быть построен в форме, наиболее близкой к естественному языку, а не как набор ключевых слов, как в эпоху SEO.

Например, нам необходимо понять истинное намерение, стоящее за вопросами пользователей, а затем семантически охватить и контекстуализировать основной контент бренда. Постоянное предоставление ИИ аутентичного, высококачественного контента поможет ему лучше понять, что делает бренд выдающимся, и быть готовым цитировать или проактивно генерировать контент, связанный с брендом, в подходящем контексте. Для брендов развитие когнитивных способностей ИИ — это долгосрочный проект.

Контент, который любит читать ИИ, обычно имеет четыре основные характеристики: во-первых, он должен быть авторитетным и заслуживающим доверия, например, отчеты об исследованиях и влиятельные списки, публикуемые отраслевыми организациями; во-вторых, он должен быть основан на данных и объективным; в-третьих, он должен быть структурированным и мультимодальным; и, наконец, что не менее важно, он должен быть семантически релевантным, чтобы гарантировать высокую степень соответствия истинным намерениям пользователя.

При этом разные инструменты ИИ имеют разные предпочтения в отношении источников информации. Выбор каналов с высоким весом для доставки также может повысить вероятность того, что бренд будет «увиден» ИИ.

В отличие от подхода SEO, который опирается на «плотность ключевых слов и количество обратных ссылок», Клэр и Фрэнк предпочитают доверять выбору крупных моделей ИИ.

По словам Фрэнка, потребители будут доверять только контенту, которому доверяют модели ИИ. Это связано с тем, что модели ИИ при выборе контента руководствуются принципом EAT (опыт/экспертиза, авторитетность, доверие).

Более важная проблема заключается в том, что ИИ развивается очень быстро. Несмотря на то, что часто высмеиваемый GPT-5 считается неудобным для пользователя, уровень иллюзий, связанных с ним, снизился на порядок. Возможно, он не выглядит дружелюбным и не обладает высоким эмоциональным интеллектом, но он действительно вызывает больше доверия.

В наши дни, пользуясь поисковыми системами, люди не уделяют должного внимания выявлению следов SEO. Независимо от того, знаком ли им инструмент или нет, сам процесс идентификации бессмыслен. То же самое происходит, когда GEO проникает в инструменты искусственного интеллекта.

Это не столько вопрос человеческой автономии, сколько вопрос доверия.

ИИ стал посредником доверия, а доверие — главный актив GEO.

Навигация и игра трех тел

Люди всегда переоценивают свою автономию и часто чувствуют себя свободными.

Waze — пионер в области навигации. Принцип работы заключается в том, что пользователи сообщества сообщают своё местоположение и скорость, а также информацию о дорожном движении и даже данные ГИБДД и т.д., чтобы предоставлять навигацию, предотвращение пробок, предотвращение столкновений с ГИБДД и другую информацию всем пользователям Waze.

Эта логика сейчас принята во многих навигационных приложениях, но более десяти лет назад краудсорсинговая модель, основанная на массовом использовании пользователей, казалась весьма передовой. На ранних этапах развития смартфонов такой LBS-сервис имел огромный коммерческий потенциал. В 2013 году Google приобрела Waze.

В этой модели тысячи пользователей вносят собственную информацию, которая постепенно собирается в поток данных, а затем преобразуется в навигационную информацию.

Вопрос в следующем: когда Waze сообщает пользователю, что поворот налево, чтобы поехать домой, позволит избежать пробки, но пользователь думает, что ехать прямо будет быстрее, кто из них, скорее всего, прав?

Waze обычно прав, поскольку он располагает многомерной информацией и рассматривает всю карту с точки зрения Бога.

Далее в «Краткой истории будущего» поднимается второй вопрос: предположим, что Waze настолько полезен, что им начинают пользоваться все водители. Теперь предположим, что шоссе 1 забито, а альтернативное шоссе 2 относительно ровное. Если Waze просто сообщит всем, что шоссе 2 свободно, все водители устремятся туда, и снова окажутся в пробке.

Так будет ли Waze передавать информацию о том, что шоссе 2 более гладкое, половине пользователей, перенаправляя туда половину пользователей, но в то же время скрывать эту информацию от другой половины пользователей?

Это также произойдет с точки зрения оптимальной эффективности и оптимального опыта.

Перед лицом навигационных приложений так называемая человеческая автономность — миф. Люди предоставляют информацию для создания бога данных, а затем подчиняются его приказам. Любой, кто попытается этому воспротивиться, будет наказан пробками.

Ещё более экстремальный сценарий описан в научно-фантастическом романе «Задача трёх тел». В романе есть виртуальная игра под названием «Игра трёх тел». Игрокам нужно найти ответ на вопрос о движении трёх тел. Виртуальный фон Нейман находит виртуального Цинь Шихуанди. Основываясь на архитектуре фон Неймана, Цинь Шихуанди призвал 30 миллионов солдат и смоделировал двоичные операции компьютера, поставив каждого солдата в руки флаг, образовав таким образом компьютер-колонну.

В то время 30 миллионов солдат были эквивалентны 30 миллионам транзисторов. Когда они подчинялись приказам, даже в эпоху династии Цинь, их вычислительная мощность была сопоставима с мощностью современных компьютеров.

Хотя слово «алгоритм» не так уж и красиво, слишком много примеров говорят нам, что если мы не прислушаемся к алгоритму, то понесем убытки.

Подобно тому, как приложения для заказа поездок обычно не используют явных штрафов для ограничения водителей, но водители с низкими оценками с меньшей вероятностью получают качественные заказы, большая рука алгоритма подобна горе Будды с пятью пальцами.

Даже те, кто уверен в своих водительских навыках, признают, что если вычислительная мощность и датчики продолжат развиваться, а люди передадут все функции вождения искусственному интеллекту, уровень аварийности и уровень заторов на дорогах значительно снизятся.

Мы достигли этапа, когда приходится признать, что ИИ может стать лучшим решением в определённых социальных сферах. Лучше всего, если люди будут готовы подчиняться алгоритмам и предоставлять им данные, но многие всё ещё сомневаются, является ли ИИ лучшим решением для отдельных людей.

Фрэнк, директор по стратегии компании Yuanli Technology, привел в интервью пример, что объем информации, содержащейся в экземпляре New York Times, эквивалентен объему информации, которую лондонец XVII века получал за целый год.

Информация, доступная современному человеку, теперь безгранична. При желании мы можем читать газеты по 16 часов в день, а объём информации, потребляемой нами за день, равен объёму, который лондонцы потребляли за всю свою жизнь сотни лет назад.

Однако скорость эволюции человека не поспевает за скоростью информационного взрыва. В настоящее время ИИ также может стать персональным решением.

С этой точки зрения, ChatGPT — лишь относительно базовый способ обработки информации. В последнее время ИИ-агенты, помогающие пользователям выполнять определённые задачи, добились значительного прогресса, и будущее общего искусственного интеллекта (AGI) также считается весьма вероятным.

Связь между информацией и людьми тесно связана с количеством и плотностью информации. В эпоху книг люди составили «Сыку цюаньшу» и классифицировали его по классическим, историческим и другим источникам для облегчения самостоятельного поиска информации. Это стало удобным методом обработки информации, созданным людьми в условиях обширных информационных потоков.

Поисковое поведение очень похоже. По мере того, как поток информации продолжает стремительно расти, алгоритмы маркировки, основанные на портретах пользователей, помогают людям фильтровать и проверять информацию, формируя палку о двух концах: эффективное сопоставление информации и так называемый «информационный кокон». От инструментов ИИ, таких как ChatGPT, до зарождающегося AI Agent, люди постепенно повышают эффективность обработки информации, при этом им приходится выполнять всё меньше работы самостоятельно.

GEO и другие вещи, упомянутые выше, — это всего лишь некоторые сопутствующие факторы в процессе миграции поведения человека в области обработки информации.

Чувства и свободная воля человека

Оставив в стороне тему замены человеком работы ИИ, можно сказать, что результаты, получаемые при использовании инструментов ИИ, возможно, были оптимизированы GEO, и навигация, безусловно, стала более плавной, но мне она недоступна. Напротив, следуя настройкам алгоритма, можно получить более качественный опыт и осознать большую самоценность. Эти выводы создают впечатление, что гуманизм капитулирует перед ИИ, а алгоритм уничтожил свободу воли.

Но есть хорошая поговорка: «Почему человеческая толерантность к ошибкам так поразительна?» Потому что главная задача человека — получать 2000 калорий в день и найти место, где эта энергия гарантированно сохранится. Всё остальное — лишь побочные задания.

В интервью основателю HyperShell, стартапа, разрабатывающего экзоскелеты, основатель сказал:

Использование различных технологий для улучшения человека должно стать следующим этапом эволюции человеческой цивилизации. Я считаю эту тенденцию верной, но существует множество типов технологий. ИИ также является формой улучшения человека, но он повышает его интеллектуальные способности, способность к усвоению информации и логическому мышлению.

Расширение возможностей человека — важнейшее технологическое направление на ближайшие 10–20 лет, и то, над чем мы сейчас работаем, — лишь малая его часть. Экзоскелеты — это, по сути, средство взаимодействия человека с физическим миром. Они оснащены устройствами ввода, программируемы и цифровые. Их цель — расширить возможности физического мира, чтобы реализовать свободу воли человека.

Броня и искусственный интеллект, подобные тем, что есть у Железного человека, вполне мыслимы и достижимы в будущем.

Важная концепция, упомянутая в «Краткой истории завтрашнего дня», заключается в том, что чувственный опыт и психологическое состояние современных людей чрезвычайно узки.

С точки зрения органов чувств, человек способен видеть только электромагнитные волны с длиной волны от 400 до 700 нанометров, что с человеческой точки зрения соответствует видимому свету. Однако раки-богомолы обладают 16 типами колбочек и способны видеть ультрафиолетовые, инфракрасные и даже поляризованный свет. Для раков-богомолов мир более красочный и прекрасный.

Однако мы, имея только три типа колбочек, не можем видеть так, как рак-богомол, точно так же, как летучие мыши слышат ультразвук в человеческом понимании и избегают препятствий, но люди к нему глухи.

Не только мы лишены чувственного опыта, свойственного другим животным. В древности люди могли ощущать эмоции других людей через обоняние. Древние племена, спорившие о том, стоит ли воевать с соседними племенами, могли просто использовать обоняние, чтобы понять мысли каждого, поскольку такие эмоции, как воодушевление и страх, вызывают разные запахи. Однако по мере того, как в ходе развития человека зрение и слух становились всё более важными, обоняние деградировало.

В книге «Sapiens: Краткая история человечества» автор Юваль Ной Харари привёл множество подобных примеров, доказывающих, что человеческое психическое состояние становится всё более узким, и в конечном счёте указал на то, что люди могут использовать технологии для полного контроля над своим психическим состоянием, то есть «люди были улучшенными версиями горилл в прошлом и станут увеличенными версиями муравьёв в будущем».

Это утверждение согласуется с упомянутой ранее навигацией Waze и использованием 30 миллионов солдат для формирования компьютера в игре «Три тела».

Это действительно так. Например, когда мы видим, как кто-то пытается летать в вингсьюте или заниматься свободным скалолазанием, где смертность высока, мы восхищаемся и завидуем им, но также считаем это «безумием». С другой стороны, ментальный опыт, полученный от парения на грани смерти, встречается крайне редко.

Несколько лет назад, когда концепция «метавселенной» была популярна, разгорелся спор между фракцией «метавселенной», которая выступала за то, чтобы люди скрывались в виртуальном мире и предавались иллюзорным удовольствиям, и фракцией «космических кораблей», которая выступала за то, чтобы люди исследовали реальный физический мир и направлялись к звездам и морю.

Но дело в том, что волна ИИ сопровождается также «воплощённым интеллектом», «интерфейсом «мозг-компьютер» и «улучшением человека». Хотя эволюция физического мира идёт медленнее, чем мира, созданного кодом, из-за разнообразия людей и их стремления к знаниям и исследованиям, «фракции метавселенной» и «фракции космических кораблей», безусловно, имеют своих сторонников и даже сливаются и сосуществуют, подобно тому, как сегодня в сфере умных автомобилей код и машины одинаково важны.

Мы не всегда сидим в машине и получаем навигационные инструкции, и мы не солдаты с флагом в одной из сцен научно-фантастических романов. С точки зрения Бога, люди действительно подобны муравьям. Но с точки зрения уровня, нас окружают воплощённые интеллектуальные роботы, носящие умные очки со встроенным искусственным интеллектом и механические экзоскелеты, обеспечивающие сотни лошадиных сил. Тогда мы — Железный Человек, который может летать в небе и прятаться под землёй, летать в вингсьютах, лазать по скалам голыми руками и не боится смерти.

Или, что еще безумнее, технологии позволят нам обрести зрение рака-богомола и слух летучей мыши.

По совпадению, сегодня Tesla представила свой «Грандиозный план, Глава 4». В отличие от предыдущих проектов, сосредоточенных на автомобилях или энергетических продуктах, этот рисует более отдалённую и идеалистическую цель: общество «устойчивого изобилия» во главе с искусственным интеллектом и роботами. Действительно, стратегический фокус Tesla сместился с «устойчивого развития» на видение будущего общества.

Это, по крайней мере, означает, что социальная практика «устойчивого изобилия», возглавляемая ИИ и роботами, вышла из стадии научно-фантастических описаний и вошла в стадию инженерии.

Возможно, нас во многом принуждали, но свободная воля все еще существует и сильнее, чем когда-либо.

#Приглашаем вас следить за официальным публичным аккаунтом WeChat проекта iFaner: iFaner (WeChat ID: ifanr), где в ближайшее время вам будет представлен еще более интересный контент.

iFanr | Исходная ссылка · Просмотреть комментарии · Sina Weibo