Железо subme_
14 серверов NVIDIA B300
Модели из подписки работают на собственных GPU в российском ЦОД: 112 ускорителей Blackwell Ultra, 32,2 ТБ HBM3e и 202 ТБ/с суммарной пропускной способности памяти.
Кластер
Факты без маркетинга
Спецификация
Почему B300, а не «просто мощные GPU»
NVIDIA Blackwell Ultra
288 ГБ HBM3e
1,8 ТБ/с на GPU
1,8 ТБ/с на GPU
14 серверов · 32,2 ТБ HBM3e · 202 ТБ/с
Для клиентов
Что это даёт вашей команде
Влезают большие модели
Веса Kimi K3.1 Pro и GLM держатся в HBM без квантования, а остаток памяти идёт под длинный контекст.
Быстрый decode
1,8 ТБ/с памяти на GPU — это скорость генерации токенов, которая заметна в интерактивной IDE.
NVLink вместо сети
Карты внутри ноды обмениваются данными по NVLink, а не через Ethernet; задержки меньше.
Запас на рост
32 ТБ памяти — запас для длинных сессий, мультимодальных задач и новых моделей.
Источник
Что читать про B300
Официальная страница платформы: 72 Blackwell Ultra, HBM3e, FP4, NVLink.
Агентные workload на GB300 NVL72 — до 50K токенов/с на GPU и 600 токенов/с пользователю.
Разбор Micron 12Hi HBM3e в HGX B300: 36 ГБ на пакет, 12 слоёв DRAM.
8× B300 Blackwell Ultra на узел — индустрия строит приватный инференс именно так.
Следующий шаг
Посмотреть кластер в работе
Расскажем, как 14 серверов превращаются в лимиты подписки для вашей команды.