Nvidia превратила центр обработки данных в настольный компьютер и назвала его DGX Spark.

Что случилось? DGX Spark от Nvidia уже здесь и позиционируется как самый маленький в мире суперкомпьютер с искусственным интеллектом. Благодаря чипу GB10 Grace Blackwell, он обеспечивает до 1 петафлопс вычислительной мощности, 128 ГБ унифицированной памяти и возможность запуска моделей с 200 миллиардами параметров — и всё это всего за 3999 долларов. Однако это не обычный настольный ПК. Это настоящий движок центра обработки данных в компактном корпусе. Он уже привлекает внимание тем, как стирает грань между рабочей станцией и системой центра обработки данных.

• Работает на базе чипа GB10 Grace Blackwell Superchip , включающего графический процессор + центральный процессор с объединенной памятью и интерфейсом NVLink-C2C .
• Обеспечивает до 1 петафлопс вычислений ИИ (точность FP4) и может поддерживать модели с 200 миллиардами параметров.
• Поставляется с 128 ГБ унифицированной памяти и твердотельным накопителем NVMe емкостью до 4 ТБ для высокоскоростного хранения данных.
• Цена составила 3999 долларов США , тогда как ранее ожидалось, что она составит 3000 долларов США.
• Компактный форм-фактор с портами USB4, 10 GbE LAN и поддержкой сетевого интерфейса ConnectX-7 для объединения двух DGX Sparks в систему с 405 миллиардами параметров.
• Разработанный с учетом потребностей разработчиков ИИ , он поддерживает такие основные фреймворки, как PyTorch и TensorFlow, а также полный стек ИИ от NVIDIA.

Почему это важно: Это один из самых очевидных шагов на пути к внедрению реальных вычислений с использованием ИИ на настольных компьютерах, избавляя от необходимости использования удалённых кластеров. Сжимая вычислительные мощности корпоративного уровня до размеров, помещающихся под монитором, Nvidia разрушает границу между исследовательскими лабораториями и жилыми комнатами. Этот шаг может переосмыслить, как и где появляются инновации в области ИИ. DGX Spark также служит заявлением о намерениях Nvidia: ИИ — это больше не просто облачный сервис, а локальный инструмент для создателей, исследователей и разработчиков.

• Перевод рабочих процессов разработки ИИ из облачных в гибридные/локальные среды.
• Это позволяет небольшим командам, исследователям и стартапам создавать прототипы и дорабатывать крупные модели собственными силами .
• Делает серьезные возможности искусственного интеллекта более доступными , учитывая, что 3999 долларов — это мелочь по сравнению с расходами на центр обработки данных.
• Служит сигналом о том, что мощные вычисления ИИ не обязательно должны оставаться запертыми в серверных фермах.
• Заставляет конкурентов переосмыслить , сколько возможностей искусственного интеллекта можно втиснуть в компактные, энергоэффективные машины.

Почему меня это должно волновать? Для большинства это не будет иметь особого значения, поскольку DGX Spark не заменит Mac Mini и не станет вашим следующим домашним ПК. Но в этом-то и суть. Это не потребительский настольный компьютер; это миниатюрный суперкомпьютер, созданный для разработчиков, исследователей и стартапов, работающих над масштабными моделями искусственного интеллекта. Если вы глубоко погружены в машинное обучение, проводите обучающие задания или экспериментируете с генеративным искусственным интеллектом, DGX Spark может стать настоящим прорывом. Он привнесет мощь серьёзного центра обработки данных на ваш рабочий стол, позволяя локально выполнять масштабные задачи без аренды облачных графических процессоров. Представьте себе персональную лабораторию искусственного интеллекта: компактную, мощную и, без сомнения, избыточную для тех, кто не занимается высокопроизводительными задачами в области искусственного интеллекта.

• Исследователи и любители искусственного интеллекта смогут обучать или настраивать более крупные модели локально , сокращая задержки и затраты на облако.
• Конфиденциальные или защищенные права собственности наборы данных могут храниться локально, избегая воздействия облака .
• Благодаря возможности объединения двух единиц вы можете расширить территорию моделирования на еще большую величину (класс параметров 405B).
• Он действует как мост: создайте локальную версию на базе Spark, а затем разверните ее в облаке Nvidia DGX или более крупной инфраструктуре ИИ.

Хорошо, а что дальше? Nvidia не останавливается на DGX Spark. Компания уже подтвердила , что крупные производители ПК, включая Acer , Dell , HP, Lenovo и MSI , готовят свои собственные версии. Таким образом, можно ожидать, что системы, вдохновленные Spark, будут появляться повсюду, как только производство наберет обороты. Что касается Nvidia, то теперь основное внимание уделяется созданию своей программной экосистемы DGX, чтобы разработчики могли легко масштабировать свои рабочие нагрузки с настольных компьютеров до облака, не теряя времени. Это часть более крупной тенденции, которую мы наблюдаем, когда вычисления на основе ИИ становятся персональными. То, что раньше занимало серверные стойки и корпоративные бюджеты, постепенно умещается в более компактные и тихие коробки.