Самый маленький в мире суперкомпьютер с искусственным интеллектом по размерам сравним с портативным зарядным устройством.

Компания Tiiny AI представила устройство, которое, по данным Книги рекордов Гиннесса, является самым маленьким в мире персональным суперкомпьютером для искусственного интеллекта. Он называется Tiiny AI Pocket Lab, и, несмотря на размеры, сравнимые с портативным зарядным устройством, обещает производительность, обычно требующую очень дорогого оборудования. Другие небольшие суперкомпьютеры, такие как NVIDIA Project Digits, цена которого составляет около 3000 долларов , и DGX Spark, который продается за 4000 долларов , находятся в ценовом диапазоне, недоступном для большинства обычных пользователей.

Компания Tiiny AI утверждает, что сегодня реальным узким местом в сфере ИИ является не вычислительная мощность, а наша зависимость от облачных технологий. Директор GTM Самар Бходж говорит: «Интеллект должен принадлежать не центрам обработки данных, а людям». Запуская большие модели локально, Pocket Lab стремится уменьшить зависимость от облачных технологий, улучшить конфиденциальность и сделать так, чтобы передовой ИИ воспринимался как персонализированный, а не удаленный.

Технологии, лежащие в основе суперкомпьютера Tiiny AI.

Устройство Pocket Lab имеет размеры всего 14,2 × 8 × 2,53 см и весит всего 300 граммов, но, по словам компании, может развертывать большие языковые модели с количеством параметров до 120 миллиардов. Модели такого размера обычно устанавливаются в серверных стойках или на профессиональных графических процессорах, но Tiiny AI хочет предоставить эти возможности устройству, которое помещается в руке.

Pocket Lab построен на базе новейшего 12-ядерного процессора ARM v9.2 и поддерживает популярные модели с открытым исходным кодом, такие как GPT-OSS, Llama, Qwen, DeepSeek, Mistral и Phi. В основе устройства лежит дискретный нейронный процессор, способный обеспечить производительность 190 TOPS. Он также включает 80 гигабайт памяти LPDDR5X, что позволяет использовать агрессивное квантование, благодаря чему масштабные модели могут работать локально, не завися от облачной инфраструктуры.

Компания Tiiny AI также внедрила в систему две ключевые технологии. TurboSparse — это метод разреженной активации на уровне нейронов, который повышает эффективность вывода без снижения интеллекта модели. PowerInfer — это гетерогенный механизм вывода, который распределяет рабочие нагрузки ИИ между ЦП и НПУ, обеспечивая производительность серверного уровня при низком энергопотреблении. Эта комбинация делает Pocket Lab привлекательным вариантом для всех, кто экспериментирует с локальным ИИ, будь то исследования, робототехника или сложные задачи логического мышления.

Компания Tiiny AI планирует продемонстрировать устройство на выставке CES 2026. Информация о цене и дате выпуска пока держится в секрете, но индустрия будет внимательно следить за тем, как покажет себя такой компактный суперкомпьютер после того, как он попадет к реальным пользователям.

Статья "Самый маленький в мире суперкомпьютер с искусственным интеллектом размером с портативное зарядное устройство" впервые появилась на сайте Digital Trends .