A100 (80 ГБ HBM2e, 2 ТБ/с, Ampere) и H100 (80 ГБ HBM3, 3.35 ТБ/с, Hopper) несут одинаковый объём памяти, но H100 быстрее по пропускной способности и добавляет формат FP8 с Transformer Engine — на обучении и инференсе LLM это ощутимый, хотя и зависящий от задачи, прирост. A100 (ориентир $15–20 тыс.) выгоден, когда пиковая скорость Hopper не нужна; H100 ($25–35 тыс.) окупается на тяжёлом обучении. Обе легальны в РФ по параллельному импорту.
Сравнительная таблица
| Параметр | A100 80GB | H100 80GB |
|---|---|---|
| Архитектура | Ampere | Hopper |
| Память | 80 ГБ HBM2e | 80 ГБ HBM3 |
| Пропускная способность | 2 ТБ/с | 3.35 ТБ/с |
| Форматы вычислений | FP16 / BF16 / TF32 | + FP8 (Transformer Engine) |
| Пиковая производительность | FP8 не поддерживается | ~1979 TFLOPS FP8 |
| TDP | до 400 Вт | до 700 Вт |
| Цена, ориентир | $15–20 тыс. | $25–35 тыс. |
| Канал поставки в РФ | параллельный импорт | параллельный импорт |
| Срок, ориентир | 2–5 нед. | 2–6 нед. |
Одинаковый объём памяти (80 ГБ) не означает одинаковую производительность: H100 быстрее по HBM (3.35 против 2 ТБ/с) и умеет FP8, чего у A100 нет. Точный множитель ускорения зависит от модели и формата вычислений — это предмет теста, а не паспорта. ТТХ и цены — ориентир по справочнику.
В чём A100 всё ещё хорош
A100 80GB — зрелая рабочая лошадка Ampere: 80 ГБ HBM2e, 2 ТБ/с, отлаженная экосистема CUDA и предсказуемые сроки поставки. Для обучения и инференса моделей среднего масштаба, классического HPC и задач, где не требуется пиковая скорость Hopper, A100 даёт лучшую стоимость владения.
Карта потребляет до 400 Вт против 700 Вт у H100 — это проще по питанию и охлаждению и позволяет плотнее набивать узлы там, где ограничен теплопакет. Если бюджет считается на количество карт, разница в цене напрямую конвертируется в больший парк.
За что доплачивают в H100
H100 сохраняет те же 80 ГБ, но переходит на HBM3 (3.35 ТБ/с) и добавляет главное — формат FP8 и второй Transformer Engine. На обучении и инференсе трансформеров это даёт заметный прирост скорости; насколько именно — зависит от модели, длины контекста и того, использует ли ваш пайплайн FP8.
Мы намеренно не называем один «магический» множитель: на памяти-ограниченных задачах разрыв меньше, на вычислительно-тяжёлом обучении с FP8 — больше. Правильный способ решить — прогнать вашу нагрузку на обеих картах, в том числе в аренде, прежде чем закупать парк.
Что выбрать под задачу
Берите A100, если обучаете и запускаете модели среднего масштаба, важна цена за карту и предсказуемость, а FP8 в вашем стеке не используется. Берите H100, если задача — тяжёлое обучение LLM, нужен FP8/Transformer Engine и быстрая память, а разница в цене окупается сокращением времени обучения.
Если модель упирается в память сильнее, чем в скорость, обе карты с их 80 ГБ могут оказаться тесными — тогда смотрите на H200 (141 ГБ) или MI300X (192 ГБ). А для разовых экспериментов дешевле арендовать, чем покупать.