четверг, 11 декабря 2025 г.

Компания Tiiny AI представила самый маленький в мире персональный суперкомпьютер с ИИ без подключения к облаку, подтвержденный Книгой рекордов Гиннесса.

[На фото Tiiny AI Pocket Lab подключается к ноутбуку, но это опционально. Устройство полностью автономно. 
Pocket Lab — полноценный мини-ПК с ARMv9.2 12-ядерным CPU, NPU на 190 TOPS, 80 ГБ LPDDR5X RAM и 1 ТБ SSD, запускающий 120B-модели ИИ (Llama, Qwen и агенты вроде OpenManus) полностью локально и оффлайн, без облака или хоста. Оно подключается напрямую к монитору (HDMI/DisplayPort), клавиатуре и мыши через свои порты, как стандартный компьютер.Устройство имеет предустановленную ОС и экосистему, где one-click deployment загружает и запускает открытые модели напрямую на его 80 ГБ RAM и 1 ТБ SSD с NPU (190 TOPS). Никакого ноутбука или облака не требуется — агенты (OpenManus и др.) работают полностью оффлайн на Pocket Lab.]

Американский стартап Tiiny AI Inc. представил 10 декабря то, что, по его словам, является самым маленьким в мире персональным AI-суперкомпьютером, способным запускать большие языковые модели с 120 миллиардами параметров полностью без подключения к облаку, что ознаменовало выход компании на растущий рынок AI-устройств.

Tiiny AI Pocket Lab, официально верифицированный Книгой рекордов Гиннесса в категории «Самый маленький MiniPC (100B LLM локально)», имеет размеры всего 14,2 × 8 × 2,53 сантиметра и весит приблизительно 300 грамм. Устройство на базе Arm оснащено 12-ядерным процессором ARMv9.2 в паре с пользовательским нейропроцессором, обеспечивая производительность AI-вычислений приблизительно 190 TOPS при работе в пределах энергопотребления 65 ватт.

По данным компании, устройство оснащено 80 ГБ памяти LPDDR5X и SSD на 1 ТБ — спецификации, которые, по словам компании, позволяют ему поддерживать модели до 120 миллиардов параметров с производительностью, сравнимой с GPT-4o. Система работает полностью в автономном режиме, обрабатывая данные локально с тем, что Tiiny AI описывает как шифрование банковского уровня.

Технический подход и отраслевой контекст


Устройство опирается на две ключевые технологии: TurboSparse — технику разрежённой активации на уровне нейронов, повышающую эффективность вывода, и PowerInfer — гетерогенный движок вывода с открытым исходным кодом, имеющий более 8000 звёзд на GitHub и динамически распределяющий вычисления между CPU и NPU. «Облачный ИИ принёс поразительный прогресс, но он также создал зависимости, уязвимости и проблемы устойчивости, — сказал Самар Бходж (Samar Bhoj), директор по выходу на рынок (GTM Director) компании Tiiny AI. — Мы считаем, что интеллект должен принадлежать не дата-центрам, а людям».

Объявление сделано на фоне прогноза роста мирового рынка ИИ на периферийных устройствах: ожидается, что он будет увеличиваться со среднегодовым темпом 22,50% до 2032 года, чему способствует растущий спрос на обработку в реальном времени, более низкую задержку и повышенную конфиденциальность данных. Ряд технологических компаний инвестирует в возможности он- девайс ИИ, причём исследование McKinsey показывает, что 71% потребителей перестали бы пользоваться услугами бренда, если бы тот делился конфиденциальными данными без разрешения.

Основанная в 2024 году, Tiiny AI объединяет инженеров из MIT, Stanford, HKUST, SJTU, Intel и Meta, имеющих публикации на конференциях SOSP, OSDI, ASPLOS и EuroSys. В 2025 году компания привлекла многомиллионный посевной раунд от того, что она описывает как ведущих глобальных инвесторов.

Устройство поддерживает установку в один клик открытых моделей, включая Llama, Qwen, DeepSeek, Mistral и Phi, а также фреймворков ИИ-агентов, таких как OpenManus, ComfyUI и Flowise. Tiiny AI планирует представить полный набор функций и обновления аппаратной части «по воздуху» на CES 2026 в январе. Компания пока не раскрыла информацию о цене. 

 Характеристики 


ХАРАКТЕРИСТИКА ОПИСАНИЕ
Processor ARMv9.2 12-core CPU
AI Compute Power Custom SoC + dNPU, ≈190 TOPS
Memory & Storage 80GB LPDDR5X + 1TB SSD
Model Capacity До 120B LLM полностью на устройстве
Power Efficiency 30W TDP, 65W система
Размеры & Вес 14.2×8×2.53 см, 300г
Ecosystem One-click LLM + агенты
Connectivity ОФФЛАЙН, без облака [attached_file:1]
***

tab version
Processor AI Compute Power Memory & Storage Model Capacity Power Efficiency Dimensions & Weight Ecosystem Connectivity
ARMv9.2 12-core CPU Custom heterogeneous module (SoC + dNPU), delivering ≈190 TOPS 80GB LPDDR5X + 1TB SSD Runs up to 120B-parameter LLMs fully on-device 30W TDP, 65W typical system power 14.2 × 8 × 2.53 cm, approx. 300g, pocket-sized One-click deployment of dozens of open-source LLMs and agent frameworks Works fully offline; no internet or cloud required [attached_file:1]

Комментариев нет:

Отправить комментарий