B200 — GPU для дата-центров из поколения Blackwell, которое пришло на смену Hopper (H100 и H200). Против H200 у неё больше памяти (180 ГБ против 141 ГБ), в 1,67 раза быстрее память (8 ТБ/с против 4,8 ТБ/с) и вдвое быстрее связь между картами (NVLink 1,8 ТБ/с). Новый формат FP4 ускоряет инференс крупных моделей. Переход оправдан, если вы обучаете большие модели или упираетесь в память H200; для моделей, которые уже удобно работают на H200, выигрыш не окупит разницу в цене.
Содержание8 разделов
NVIDIA B200 — основная серверная карта архитектуры Blackwell. Внутри у неё два кристалла, соединённых в одну GPU, память HBM3e на 180 ГБ и пятое поколение NVLink. Для языковых моделей это значит, что на одну карту помещается модель крупнее, ответы генерируются быстрее, а восемь карт в сервере обмениваются данными вдвое быстрее, чем у Hopper.
Конфигурации, цена «от» и сроки запуска — на странице аренда B200.
Что такое Blackwell и где в нём B200
Blackwell — название архитектуры, как Hopper у H100 и H200 или Ampere у A100. В поколении несколько продуктов:
- B200 — GPU в форм-факторе SXM, обычно восемь штук на плате HGX B200;
- B300 — версия Blackwell Ultra с памятью до 288 ГБ на чип и ускоренным вниманием (подробно — в статье про B300);
- GB200 и GB300 — суперчипы, где GPU Blackwell соединены с процессором Grace; их ставят в стойки NVL72 на 72 GPU.
Что нового в B200
Подробно поколение разобрано в обзоре Blackwell против Hopper; для B200 важны четыре цифры.
Два кристалла в одной GPU. Чип собран из двух кристаллов, связанных каналом 10 ТБ/с, — всего 208 млрд транзисторов, и для программ это одна GPU.
Память: 180 ГБ и 8 ТБ/с. В сервере NVIDIA DGX B200 стоит 1 440 ГБ HBM3e на восемь GPU, то есть 180 ГБ на карту, и 64 ТБ/с суммарной скорости памяти — 8 ТБ/с на карту. По сравнению с H200 памяти больше на 39 ГБ, а скорость выше в 1,67 раза. NVIDIA указывает и 192 ГБ для других версий Blackwell; для серверов B200 ориентируйтесь на 180 ГБ.
NVLink пятого поколения. Каждая B200 обменивается данными с соседями на 1,8 ТБ/с, а на плате HGX B200 суммарная пропускная способность NVLink между восемью картами — 14,4 ТБ/с.
FP4. Второй Transformer Engine добавил 4-битный формат: плата HGX B200 из восьми GPU выдаёт 72 PFLOPS в FP4 без учёта разреженности — вдвое больше, чем в FP8, если модель и движок инференса поддерживают формат.
B200 против H200 и H100
| H100 SXM | H200 SXM | B200 | |
|---|---|---|---|
| Поколение | Hopper | Hopper | Blackwell |
| Память | 80 ГБ HBM3 | 141 ГБ HBM3e | 180 ГБ HBM3e |
| Скорость памяти | 3,35 ТБ/с | 4,8 ТБ/с | 8 ТБ/с |
| NVLink на GPU | 900 ГБ/с (4-е поколение) | 900 ГБ/с (4-е поколение) | 1,8 ТБ/с (5-е поколение) |
| Новые форматы | FP8 | FP8 | FP8, FP6, FP4 |
| Мощность | до 700 Вт | до 700 Вт | — |
| Сервер DGX на 8 GPU, максимум | 10,2 кВт | 10,2 кВт | ≈ 14,3 кВт |
Пришлём 2–3 варианта с форм-фактором, числом GPU и ценой. Ответим за 15 минут в рабочее время.
Оставить заявкуДля чипа Blackwell NVIDIA указывает мощность до 1 200 Вт; в серверах HGX B200 её настраивают ниже.
B200 — другой чип: вдвое быстрее связь, новые форматы и больше памяти. Зато она и требовательнее к инфраструктуре: сервер на восемь B200 потребляет примерно на 40 % больше, чем такой же на H200 (арифметика по данным DGX).
B300 — в сервере DGX B300 (2,1 ТБ на 8 GPU; чип — до 288 ГБ)
Для каких задач B200 даёт больше всего
Обучение и полное дообучение крупных моделей. Здесь сходятся все три преимущества: больше памяти на карту, быстрее связь между картами и выше вычислительная мощность. Если ваш сервер на восемь H200 загружен обучением неделями, переход на B200 сокращает срок или позволяет взять модель крупнее.
Инференс больших моделей в FP4 и FP8. Скорость памяти 8 ТБ/с прямо ускоряет генерацию токенов, а FP4 позволяет поместить на карту модель вдвое крупнее, чем в FP8. Модель на 200 млрд параметров в FP4 занимает около 100 ГБ весов (арифметика: 0,5 байта на параметр) и помещается на одну B200 с запасом под контекст.
Модели, которым тесно в 141 ГБ. 70B в FP16 (140 ГБ весов) на одной H200 не работает — нет места под кэш. На B200 остаётся около 40 ГБ — это десяток запросов по 8 тысяч токенов (по 2,7 ГБ кэша на каждый — расчёт для Llama 3.1 70B есть в статье про H200).
Когда переход с H200 не окупается
Новое поколение не всегда выгоднее. B200 стоит дороже в час, а выигрыш получается только там, где задача упирается в то, что изменилось.
- Модель уже удобно работает на H200 — помещается с запасом, задержка устраивает. Больше памяти не понадобится, а прибавка в скорости генерации не окупит разницу в цене.
- Код и пайплайн настроены под Hopper. Перенос на Blackwell требует свежих версий драйверов, CUDA и фреймворков, а старые зависимости проекта придётся обновить вместе с ними.
- Нужно FP16 без квантования и короткие задачи. Главная прибавка B200 в вычислениях приходится на FP4 и FP8. Если вы осознанно остаётесь в 16 битах, выигрыш будет в основном за счёт памяти.
А если, наоборот, тесно уже и в 180 ГБ, — смотрите B300: та же архитектура, около 260 ГБ на GPU в сервере DGX B300 (2,1 ТБ на 8 GPU; чип — до 288 ГБ).
Что нужно серверу с B200
B200 ставят на плату HGX B200: восемь GPU SXM, коммутаторы NVLink пятого поколения, сетевые адаптеры на 0,8 ТБ/с суммарно. Готовый сервер NVIDIA DGX B200 на такой плате потребляет до 14,3 кВт — это заметно больше обычной стойки, поэтому B200 живут в дата-центрах, рассчитанных на плотное питание и охлаждение. Как устроена плата на восемь GPU и зачем там коммутаторы, разобрано на примере H200 в статье 8 × H200 на платформе HGX; для B200 принцип тот же.
B200 в Ampuna
B200 в Ampuna — от 1 до 8 GPU в сервере. Одна B200 — от 816,00 ₽/ч (≈ 595 680 ₽/мес); сборки на 2, 4 и 8 GPU подбираем под задачу и присылаем цену в ответе на заявку. Для B200 — аванс за первый месяц, запуск до 3 рабочих дней после оплаты.
NVIDIA B200Blackwell · 180 ГБ HBM3e · Индия180 ГБ HBM3e, NVLink 1,8 ТБ/сот 816 ₽/ч≈ 595 680 ₽/месОткрыть B200 →Вопросы и ответы
Чем B200 отличается от H200?
B200 — другое поколение (Blackwell против Hopper). У неё 180 ГБ памяти против 141 ГБ, скорость памяти 8 ТБ/с против 4,8 ТБ/с, NVLink 1,8 ТБ/с против 900 ГБ/с и поддержка FP4. Чип собран из двух кристаллов и потребляет больше энергии.
Нужна ли B200, если хватает H100?
Если H100 справляется с вашей задачей, B200 даст только скорость. Это оправдано для долгого обучения и нагруженного инференса; для разовых экспериментов и небольших моделей выгоднее остаться на Hopper.
Какую модель можно запустить на одной B200?
С весами в FP8 — модель примерно до 150 млрд параметров, в FP4 — примерно до 300 млрд, и в обоих случаях около 30 ГБ остаётся под контекст (расчёт редакции: 1 и 0,5 байта на параметр при 180 ГБ памяти). Модель на 70B в 16 битах тоже помещается: после весов остаётся около 40 ГБ под кэш.



8 × H200