От мобильных телефонов, ПК до автомобилей: искусственный интеллект, который не раскрывает секреты, — это тот искусственный интеллект, который нужен времени.

11 мая, 2025 Дядя Влад

Любой технологический продукт имеет поверхность атаки, и большие модели неизбежны. Модельные продукты и методы атаки — это всегда приливы и отливы «Дао» и «Демона».

Например, в прошлом году в статье был предложен новый метод атаки, который успешно украл поля, отправленные другими пользователями в большие модели. Эта уязвимость использует совместное использование кэша KV — технологию, широко используемую в индустрии моделей больших языков (LLM) и используемую двумя основными платформами вывода: SGLang и vLLM.

Проблемы безопасности LLM нельзя недооценивать. Утечка данных может оказаться «фатальной» как для пользователей, так и для предприятий. В предыдущей статье APPSO упоминалось, что все больше и больше людей считают Doubao, DeepSeek и ChatGPT своими доверенными лицами, доверяют им и непреднамеренно раскрывают свою личную информацию. Как только LLM обнаруживает утечку, злоумышленники могут идентифицировать конкретных пользователей и соответствующие им личности на основе данных, которые могут быть использованы в незаконных целях.

Чтобы отреагировать на проблемы конфиденциальности пользователей iPhone, использующих продукты искусственного интеллекта, и обеспечить согласованность политики конфиденциальности данных компании, во второй половине 24 года Apple анонсировала систему под названием Apple PCC (Private Cloud Compute):

В сценарии Apple Intelligence, когда вычислительной мощности на стороне клиента недостаточно, пользовательские данные шифруются закрытым ключом и загружаются в облако. Большая модель, развернутая в частном вычислительном модуле сервера (аналогично защищенному отсеку в чипе iPhone), выполняет зашифрованный вывод и расшифровывается лишь на короткое время, когда процесс вывода и результаты возвращаются на сторону клиента. Все данные по всей ссылке передаются в зашифрованном виде, и используется модель вычислений без сохранения состояния, гарантирующая, что данные хранятся в нулевом времени и уничтожаются после использования.

Технология очень хорошая, но, к сожалению, из-за текущего деликатного статуса Apple Intelligence в Китае пользователи iOS не могут ее использовать.

В мире технологических продуктов за пределами iOS еще одна компания также решает проблему частных облачных вычислений:

Ожидается, что платформа Jeddak PCC (частные облачные вычисления), разработанная Volcano Engine, будет использоваться в большем количестве областей, таких как телефоны Android, компьютеры, новые энергетические транспортные средства и т. д., чтобы защитить конфиденциальность миллиардов пользователей при использовании LLM. Предприятиям не нужно беспокоиться об утечке данных, одновременно расширяя интеграцию LLM со своими собственными сценариями.

Применяя возможности платформы Jeddak PCC в своих аппаратных продуктах и стеках технологий LLM, производители оборудования могут расширить свои обязательства по защите конфиденциальности личных данных пользователей от устройства до облака.

LLM в новую эпоху должен быть большим и безопасным

Недавно Volcano Engine объявила о возможном сотрудничестве в области безопасного вывода/частных вычислений на основе искусственного интеллекта в частном облаке на базе Jeddak PCC. В число партнеров входят такие бренды оборудования, как Lenovo и Nubia. Это также делает Jeddak PCC первым решением для частных облачных вычислений в Китае, ориентированным на рынок персональных компьютеров и смартфонов.

Предысторию понять нетрудно: в повседневной жизни большое количество пользователей и предприятий взаимодействуют с LLM на обычных устройствах, таких как ПК и смартфоны. Пользователи Lenovo выполняют текстовую работу, такую как генерация текста, полировка, обобщение и углубленное мышление, на ПК, в то время как пользователи Nubia используют такие продукты, как мультимодальные модели погремушек и Button Space Agent (интеллектуальные агенты) на своих мобильных телефонах.

Не все задачи ИИ можно выполнить локально. Для некоторых задач, требующих глубокого мышления, создания базы знаний и возможностей агента, размер локальной модели слишком мал или вычислительная мощность недостаточна, поэтому требуется облачный LLM.

Проблема в том, что взаимодействие пользователей с LLM и агентом может включать конфиденциальные данные или личную информацию. При этом возникает дилемма переноса конфиденциальных данных в облако. Облачная модель обширна, но поставщик услуг не может гарантировать безопасность. Когда пользователи работают в высокочувствительной и плотной рабочей среде, они не могут легко загружать данные в LLM.

Производителям ПК и мобильных телефонов необходимо перестроить архитектуру продуктов и услуг искусственного интеллекта, чтобы удовлетворить потребности конфиденциальных вычислений. Они надеются создать комплексную частную облачную вычислительную платформу, которая будет полнофункциональной и сможет самостоятельно подтвердить свою непричастность к решению проблем безопасности и конфиденциальности данных LLM в рамках совместных вычислений в конечном облаке.

Существует несколько решений, лучше подходящих для этой проблемы, чем Jeddak PCC. Просто посмотрите на следующий типичный случай:

Предположим, исследователь предприятия пишет статью и планирует представить ее в ведущий журнал, но ему необходимо использовать инструмент LLM для доработки и оптимизации статьи. Ему необходимо использовать инструмент LLM, предоставленный внешней компанией, и требует, чтобы данные были полностью зашифрованы — это типичная задача расширенной генерации данных (RAG).

Ключ: у пользователя есть ключ (BYOK — «Принеси свой собственный ключ»), который PCC использует для шифрования/дешифрования в течение всего процесса выполнения задачи LLM. Ключ хранится на пользовательском устройстве + в защищенном модуле анклава (TEE Trusted Execution Environment) в облаке.
Создание базы знаний: когда пользователи загружают документы, PCC предоставляет возможности зашифрованной связи на основе взаимного доверия в конечном облаке для безопасной передачи пользовательских документов с конечных устройств в защищенные отсеки; служба базы знаний расшифровывает и разрезает документы для создания векторов и фрагментов открытого текста; служба шифрования преобразует их в векторы зашифрованного текста и срезы зашифрованного текста и сохраняет в векторной базе данных (VikingDB) — создание плотной государственной базы знаний завершено.
Поиск и вызов базы знаний: пользователь вводит запрос в LLM; слово подсказки передается в защищенный отсек посредством зашифрованной связи конечного облака, основанной на взаимном доверии, а вектор открытого текста генерируется и шифруется в защищенном отсеке; вектор зашифрованного текста используется для поиска в базе данных, и вызывается фрагмент зашифрованного текста; после расшифровки слайса в защищенном отсеке выполняются переранжирование и другие процессы.
Этап вывода: результаты поиска открытого текста, сгенерированные путем сращивания + слова-подсказки пользователя, передаются в большую модель (также в безопасном отсеке) для вывода, и генерируются результаты вывода открытого текста — вывод завершается.
Этап возврата: PCC шифрует сгенерированные результаты, генерирует результаты зашифрованного текста и передает их обратно на пользовательское устройство; служба дешифрования конечного TEE расшифровывает результаты и представляет результаты в виде открытого текста пользователю.

Именно это Lenovo и делает с Jeddak PCC. 7 мая Lenovo официально выпустила сверхинтеллектуальный продукт для индивидуальных и корпоративных пользователей, а решение для частных облачных вычислений Volcano Engine стало краеугольным камнем этого решения Agent.

В работе типа RAG Jeddak PCC векторизует различные пользовательские документы, расширяет возможности безопасности аппаратного шифрования на уровне чипа в облаке и реализует полнопроцессное шифрование с помощью методов частных вычислений, таких как конфиденциальные вычисления и криптография , что позволяет пользователям создавать базы знаний частного/корпоративного уровня, не беспокоясь об утечках данных.

Ряд компьютерных устройств, выпущенных Lenovo за тот же период, включая SKU для потребительского и коммерческого рынка, поддерживают технологию Jeddak PCC.

Из всего процесса вы можете увидеть:

Все процессы, связанные с передачей данных, защищены шифрованием с использованием ключей, определяемых пользователем;
Облако хранит только векторы зашифрованного текста и не хранит текст и векторы открытого текста;
Только вывод LLM использует открытый текст, и процесс вывода выполняется в безопасном отсеке;
Операторы LLM и поставщики услуг облачных вычислений не имеют доступа к пользовательским ключам на протяжении всего процесса и не могут видеть простой текст, что обеспечивает полную конфиденциальность.

Тогда возникает вопрос: оказывает ли метод полного шифрования какое-либо влияние на эффективность вывода и удобство работы пользователя?

Ощутимого воздействия практически нет. APPSO узнала от Volcano Engine, что, хотя процесс шифрования сложен, пользователи не заметят его с точки зрения времени, а скорость всего на 5% медленнее или ниже, чем метод открытого текста.

Судя по результатам вывода, благодаря использованию высокопроизводительных методов криптографии трудно потерять информацию в процессе шифрования и дешифрования. Работа по выводу LLM выполняется в безопасном отсеке без риска утечки данных. Конечный результат вывода бесконечно близок к результату без потерь, и LLM по-прежнему поддерживает рабочий режим потокового вывода, позволяя пользователям видеть, что токены генерируются непрерывно.

Благодаря открытой архитектуре и обширному бизнесу компания Jeddak PCC готова к «Первому году агента».

Впервые о конфиденциальности/конфиденциальных вычислениях было упомянуто публике в 2013 году. Начиная с iPhone 5s того же года, Apple начала встраивать в процессор A-серии отдельный небольшой вычислительный модуль конфиденциальности, называемый безопасным анклавом, который используется для биометрической проверки, оплаты и других операций. Приложения, процессоры и даже вся операционная система не могут видеть открытый текст, соответствующий этим личным данным.

Времена меняются и технологии совершенствуются. Теперь каждый пытается догнать тенденцию искусственного интеллекта и насладиться удобством и инновационным опытом, предоставляемым такими технологиями, как LLM и Agent. Однако конфиденциальность вычислений долгое время не поспевала за популяризацией искусственного интеллекта — до появления Jeddak PCC.

Концепция частных облачных вычислений является продолжением конфиденциальных вычислений в эпоху облачных вычислений и эпохи искусственного интеллекта. Jeddak PCC на самом деле использует ту же технологию для распространения этой концепции на сценарий облачных вычислений с искусственным интеллектом, размещая личные данные, хранящиеся на стороне пользователя, в большей области для безопасного хранения, хостинга и вычислений.

Подобно тому, как Secure Enclave от Apple впервые позволяет пользователям соприкоснуться с частными компьютерами, Jeddak PCC также впервые передает возможности частных облачных вычислений в руки корпоративных разработчиков, производителей устройств и их конечных пользователей. А с точки зрения архитектурной открытости, поддерживаемых типов бизнеса, интеграции программного и аппаратного обеспечения Jeddak PCC также продемонстрировал очевидные преимущества по сравнению с Apple PCC.

Согласно пониманию APPSO, Jeddak PCC использует открытую архитектуру, поддерживает процессоры, графические процессоры и гетерогенные вычисления, поддерживает NVIDIA Hopper, Intel TDX, AMD SEV и другие конфиденциальные вычислительные платформы для удовлетворения потребностей клиентов в публичном/частном облаке и других множественных или интегрированных требованиях к развертыванию.

Это создает четкое различие между Jeddak PCC и закрытой архитектурой Apple PCC и полной зависимостью от эксклюзивного программного и аппаратного обеспечения. В конце концов, Apple PCC был запущен только для реализации собственных внутренних приложений (Apple Intelligence), в то время как Jeddak PCC является результатом самостоятельной разработки Volcano Engine возможностей частных облачных вычислений и популяризируется во всей технологической отрасли.

Apple утверждает, что одной из причин, по которой ее система PCC использует закрытую архитектуру, является обеспечение замкнутого цикла безопасности. Но на самом деле, с развитием технологий и концепций, индустрия безопасности теперь в целом считает, что закрытые системы не могут замедлить цикл «уязвимость-вторжение-заплатка»; Программное обеспечение безопасности разрабатывается с открытой архитектурой и моделью сотрудничества, что позволяет всем заинтересованным сторонам своевременно обнаруживать уязвимости и повышать безопасность.

Вот почему открытая архитектура решения Jeddak PCC может быть более легко принята отраслью и может значительно ускорить повышение общего уровня безопасности в отрасли.

Volcano Engine накопил большое количество талантов в области баз данных, криптографии и других областях. Эти области тесно связаны с частными облачными вычислениями. Сильные кадровые резервы, возможности исследования безопасности и политики безопасности ведущих поставщиков облачных услуг могут гарантировать своевременное обнаружение скрытых опасностей.
В настоящее время команда проекта Jeddak имеет в общей сложности 130 патентов в области безопасности, из которых в 2024 году будет получено 62 новых патента, касающихся криптографии, конфиденциальных вычислений, системной безопасности и других основных направлений, охватывающих такие технические направления, как искусственный интеллект, безопасность LLM и доверенные среды выполнения.
В дополнение к работе Volcano Engine открытая архитектура также означает, что возможности и улучшения безопасности Jeddak PCC также зависят от совместной разработки с конечными производителями и клиентами.

Что касается поддерживаемых типов бизнеса ИИ, Apple PCC в настоящее время преследует только две цели: 1) обслуживание пользователей продуктов Apple Intelligence; 2) Собственное серверное обучение Apple, а также внутренние задачи сотрудников внутри компании. Конкретные возможности в настоящее время включают только уровень вывода, и другие основные виды бизнеса LLM не поддерживаются.

Jeddak PCC уже поддерживает доверенные рассуждения ИИ и безопасный RAG — оба из которых были продемонстрированы в случаях, описанных в предыдущем разделе. На самом деле за этим стоит тот факт, что команда Volcano Engine, занимающаяся конфиденциальными вычислениями, передала свой многолетний опыт в области конфиденциальных вычислений и гомоморфного шифрования клиентам облачных сервисов, чтобы помочь им лучше достигать расширения приложений, снижения затрат и повышения эффективности в рамках соответствия требованиям безопасности LLM.

Что касается поддержки агента со стороны Jeddak PCC, то это бизнес-проект, в рамках которого Volcano Engine активизирует исследования, разработки и испытания.

В отрасли принято считать 2025 год «Годом агентов». От развлечений и досуга до профессиональных задач, бесконечным потоком появляются различные типы Агентов с различными возможностями; Bytedance, компания, создавшая Volcano Engine, также глубоко затронула рынок агентов с помощью таких продуктов, как Doubao и Button Space. Очевидно, что «Агент» стал категорией продуктов искусственного интеллекта с самыми богатыми возможностями сцены и наибольшей живучестью.

В июне Volcano Engine выпустит надежную версию агента на основе Jeddak PCC — OS Agent, которая позволит пользователям выполнять сложные операции, такие как заказ еды на вынос и бронирование авиабилетов, с помощью инструкций на естественном языке, а весь процесс выполнения задач реализует логику частных облачных вычислений Jeddak PCC. Благодаря постоянному развитию технологий агентов и растущей активности на рынке, Jeddak PCC также подготовилась к полному взрыву агентов.

Безопасность искусственного интеллекта, воспринимаемая пользователем

Касаются ли они экрана или печатают что-то, каждое взаимодействие пользователя с приложением оставляет след. При сегодняшней структуре прав пользователей Интернет-сервисов смущающим фактом является то, что пользователи на самом деле не «владеют» своими собственными данными.

В эпоху ИИ эта логика сохраняется. Если судить только по нынешней форме продукта LLM, права пользователей на контроль конфиденциальности также крайне ограничены, а политика конфиденциальности поставщиков услуг не поспевает за ними. Пользователи часто отправляют в продукты LLM больше личных и конфиденциальных данных, даже не осознавая этого.

Volcano Engine считает, что на этом фоне разработчикам LLM и платформам облачных вычислений необходимо приложить больше усилий, чтобы помочь гражданам повысить свою осведомленность о конфиденциальности и безопасности данных в эпоху искусственного интеллекта.

В новую эпоху, когда искусственный интеллект полностью получил распространение, а LLM встроен в переднюю, среднюю и внутреннюю часть каждого продукта, технология частных облачных вычислений становится все более важной для пользователей. В то же время преимущества этой технологии также должны быть осознаны пользователями и давать им видимое ощущение выгоды.

Представьте себе, что в недалёком будущем в системных настройках-функции конфиденциальности мобильного телефона появится новый модуль «ИИ»:

Например, вы можете видеть, что сегодня вы взаимодействовали с ИИ 100 раз, из них 80 было выполнено локально, а 20 было отправлено на выполнение в облако.

Мало того, вы также можете увидеть конкретные сведения о каждом взаимодействии, такие как время, введенный контент приглашения и то, было ли оно обработано локально или в облаке. Для просмотра этих данных требуется ваш отпечаток пальца, лицо или, по крайней мере, пароль, поскольку они защищены безопасным анклавом чипа телефона — локальный анклав также защищен системой Jeddak PCC.

В дальнейшем вы также сможете увидеть количество взаимодействий в облаке, то, как данные шифруются в облаке и были ли они удалены после использования — возможность «доказать свою невиновность» является одним из самых основных требований для надежной платформы PCC.

Хороший дизайн увлажняет вещи бесшумно. Но что касается основного вопроса конфиденциальности и безопасности данных, то, возможно, правдой является то, что пользователи действительно могут воспринимать процесс как плавный и безопасный одновременно.

В первой половине 2025 года все основные отечественные производители Android добавят функции LLM и агента, и инновации будут появляться одна за другой. Но в то же время в эпоху искусственного интеллекта еще больше увеличился риск утечки конфиденциальности личных данных. Спрос на технологии частных облачных вычислений также растет с каждым днем.

Volcano Engine надеется, что запуск Jeddak PCC сможет удовлетворить потребности этих производителей оборудования и разработчиков LLM и стать важной вехой в улучшении защиты конфиденциальности и повышении осведомленности о безопасности для всех людей в эпоху искусственного интеллекта.

# Добро пожаловать на официальную общедоступную учетную запись WeChat Айфанера: Aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.

Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo