- Blackwell — поколение GPU NVIDIA после Hopper (H100, H200).
- B200 — основная карта поколения, B300 — усиленная версия Blackwell Ultra.
- GB200 и GB300 — суперчипы: на одной плате процессор Grace и GPU Blackwell. Их собирают в стойки NVL72 на 72 GPU.
- Против Hopper у Blackwell два кристалла в одной GPU, до 288 ГБ памяти на чип, вдвое более быстрый NVLink и формат FP4 для инференса.
Содержание8 разделов
Названия NVIDIA легко спутать: B200, B300, GB200, GB300, NVL72, Blackwell Ultra, а рядом ещё RTX PRO 6000 Blackwell. За ними стоят всего два вида продуктов. Есть отдельные GPU, которые ставят по восемь штук в стандартный корпус на плате HGX, и есть стойки, где 72 GPU работают как одна система.
Для большинства команд, которые обучают или запускают модели, из всего поколения практический интерес представляют две карты, B200 и B300; конфигурации и цены «от» — на страницах B200 и B300.
Что изменилось по сравнению с Hopper
Два кристалла в одной GPU
У Hopper один чип на 80 с лишним млрд транзисторов. GPU Blackwell собрана из двух кристаллов предельного для производства размера, всего 208 млрд транзисторов. Кристаллы соединены каналом 10 ТБ/с, и программы видят их как одна GPU.
Память
H100 SXM — 80 ГБ HBM3, H200 — 141 ГБ HBM3e. У B200 в серверах NVIDIA DGX — 180 ГБ на GPU, у B300 — около 260 ГБ (2,1 ТБ на 8 GPU в DGX B300) при максимуме чипа 288 ГБ. Скорость памяти выросла с 4,8 ТБ/с у H200 до 8 ТБ/с у B200 и B300.
NVLink пятого поколения
Связь между картами удвоилась: 1,8 ТБ/с на GPU против 900 ГБ/с у Hopper. Внутри одной стойки NVL72 NVLink объединяет 72 GPU в один домен с общей пропускной способностью 130 ТБ/с, а в пределе NVIDIA заявляет масштабирование до 576 GPU.
FP4 и Transformer Engine второго поколения
Hopper принёс вычисления трансформеров в FP8. Blackwell добавил FP4 и микромасштабные форматы: числа хранятся в 4 битах, а точность удерживается масштабированием мелкими блоками. Для инференса это вдвое меньше памяти на веса, чем в FP8, и больше операций без учёта разреженности: у B200 — вдвое, у B300 — втрое, если модель квантована в этот формат.
Надёжность и защита данных
В Blackwell появился отдельный блок RAS, который следит за состоянием чипа и предупреждает о сбоях заранее. А конфиденциальные вычисления, впервые появившиеся в Hopper, в Blackwell идут почти с той же скоростью, что без шифрования, по данным NVIDIA.
Семейство в одной таблице
| H100 | H200 | B200 | B300 | GB200 | GB300 | |
|---|---|---|---|---|---|---|
| Поколение | Hopper | Hopper | Blackwell | Blackwell Ultra | Blackwell | Blackwell Ultra |
| Что это | GPU | GPU | GPU | GPU | суперчип: 1 Grace + 2 GPU | суперчип Grace + GPU Blackwell Ultra |
| Как ставится | SXM на HGX или PCIe | SXM на HGX или PCIe (NVL) | SXM на HGX B200 | SXM на HGX B300 | стойка GB200 NVL72 | стойка GB300 NVL72 |
| Память | 80 ГБ HBM3 на GPU (SXM) | 141 ГБ HBM3e на GPU | 180 ГБ HBM3e на GPU | около 260 ГБ HBM3e на GPU в DGX B300 (чип — до 288 ГБ) | 372 ГБ HBM3e на суперчип | 20 ТБ на стойку |
| NVLink на GPU | 900 ГБ/с | 900 ГБ/с | 1,8 ТБ/с | 1,8 ТБ/с | 1,8 ТБ/с, домен 72 GPU | 1,8 ТБ/с, домен 72 GPU |
| Для чего | обучение и инференс | LLM с длинным контекстом | обучение крупных моделей, FP4 | самые большие модели, рассуждающие модели | обучение и инференс в масштабе стойки | то же, самые крупные системы |
Пришлём 2–3 варианта с форм-фактором, числом GPU и ценой. Ответим за 15 минут в рабочее время.
Оставить заявкуДве левые колонки и две средние — карты, которые ставят восьмёркой в обычный корпус на плате HGX. Две правые колонки — уже не карты, а целые стойки с жидкостным охлаждением.
Grace Blackwell: стойки GB200 NVL72 и GB300 NVL72
GB200 — суперчип из одного процессора Grace и двух GPU Blackwell. В стойке GB200 NVL72 таких суперчипов 36: всего 72 GPU и 36 процессоров с 2 592 ядрами Arm. Видеопамяти в стойке 13,4 ТБ HBM3e, и все 72 GPU связаны NVLink в один домен на 130 ТБ/с.
GB300 NVL72 устроена так же, только на GPU Blackwell Ultra: 72 GPU, 36 процессоров Grace, 20 ТБ видеопамяти и 17 ТБ памяти LPDDR5X у процессоров. Стойка полностью на жидкостном охлаждении.
8 GPU · один NVLink-домен
72 GPU + 36 Grace · один NVLink-домен · жидкостное охлаждение
Зачем это нужно. Самые большие модели обучаются на тысячах GPU, и узкое место там — обмен данными. Внутри одного NVLink-домена он идёт на полной скорости, между доменами — по сети, которая в разы медленнее. Стойка на 72 GPU позволяет держать в быстром домене в девять раз больше карт, чем плата HGX.
Когда это вам не нужно. Если модель помещается на 8 GPU или вы обучаете её на нескольких серверах с параллелизмом по данным, стойка NVL72 избыточна. Сервер на восемь B200 или B300 закрывает инференс открытых моделей до сотен миллиардов параметров в FP4 и работает в дата-центре с питанием около 14 кВт на сервер, без жидкостного охлаждения всей стойки.
Что выигрывает от Blackwell
Обучение крупных моделей. Вдвое более быстрый NVLink и больше памяти на карту сокращают время на синхронизацию и позволяют реже делить модель между серверами. Подробно о B200 и том, когда она окупается по сравнению с H200, — в статье про B200.
Инференс больших моделей. Память на 8 ТБ/с ускоряет генерацию, а в 4 битах на ту же карту входит вдвое больше параметров, чем в FP8. У B300 к этому добавляются около 260 ГБ памяти на карту в DGX B300 и вдвое более быстрые блоки внимания — это важно для рассуждающих моделей с длинными цепочками. Подробнее — в статье про B300.
Модели, которые не помещаются в 141 ГБ. Если на H200 модель приходится делить на две карты, на B300 она часто помещается на одну.
Как не перепутать: RTX PRO 6000 Blackwell
Слово «Blackwell» стоит и в названии RTX PRO 6000 Blackwell — профессиональной PCIe-карты на 96 ГБ GDDR7 мощностью до 600 Вт. Архитектура общая, но назначение другое: рабочие станции, графика, рендеринг, инференс моделей среднего размера. Карты RTX PRO 6000 не ставятся на плату HGX и не объединяются в восьмёрку через NVSwitch. Если вам нужна именно она, смотрите страницу RTX PRO 6000.
Стоит ли переходить с H200
Переходить имеет смысл, когда модели тесно в 141 ГБ или обучение на восьми картах длится неделями; если модель удобно работает на H200 или H100, новое поколение потребует свежих драйверов, больше энергии и денег в час без заметной отдачи. Как решить это для вашей модели, разобрано в статье про B200.
Какие карты Blackwell можно взять в Ampuna
Из поколения Blackwell мы предлагаем B200 и B300 — от 1 до 8 GPU. Стоимость и доступные конфигурации — на страницах этих моделей; флагманские GPU запускаем до 3 рабочих дней после оплаты.
Вопросы и ответы
Что такое Blackwell и Blackwell Ultra?
Так NVIDIA назвала поколение GPU, которое сменило Hopper; главная карта в нём — B200. Blackwell Ultra — обновление той же архитектуры: GPU B300 и суперчип GB300. У чипа B300 до 288 ГБ памяти (в DGX B300 — около 260 ГБ на карту) и ускоренные блоки внимания.
Чем GB300 отличается от B300?
B300 — отдельная GPU, восемь таких ставят на плату HGX B300 в обычный сервер. GB300 — суперчип, где GPU Blackwell Ultra соединены с процессором Grace; его собирают в стойку GB300 NVL72 на 72 GPU и 36 процессоров с жидкостным охлаждением.
Что такое NVL72?
Стойка NVIDIA на 72 GPU Blackwell или Blackwell Ultra и 36 процессоров Grace с общим NVLink-доменом на 130 ТБ/с. Для программ это одна система на 72 GPU с полной скоростью NVLink между любыми двумя картами.


