H200 vs H100 SXM
Specificaties van de fabrikant van de H200 en de H100 SXM, naast elkaar, per GPU. Een waarde die de fabrikant voor het exacte model niet publiceert, wordt zo aangegeven en nooit geschat.
NVIDIA H200 141GB
Hopper
- GPU-geheugen
- 141 GB
- Geheugenbandbreedte
- 4.800 GB/s
Live prijs op EverXCloud · vanaf US$ 4,19 per GPU-uur
Geschikte toepassingen
NVIDIA H100 SXM 80GB
Hopper
- GPU-geheugen
- 80 GB
- Geheugenbandbreedte
- 3.350 GB/s
Live prijs op EverXCloud · vanaf US$ 2,88 per GPU-uur
Geschikte toepassingen
Belangrijkste verschillen
- De H200 heeft 1,8× het GPU-geheugen van de H100 SXM (141 GB vs 80 GB).
- De H200 heeft 1,4× de geheugenbandbreedte van de H100 SXM (4.800 vs 3.350 GB/s), wat meestal het tempo van tokengeneratie bij LLM’s bepaalt.
- Beide hebben ongeveer dezelfde dense BF16-tensordoorvoer (989 vs 989 TFLOPS).
- Beide hebben ongeveer dezelfde dense FP8-tensordoorvoer (1.979 vs 1.979 TFLOPS).
Specificaties
| Specificatie | H200 | H100 SXM |
|---|---|---|
| GPU-geheugen | 141 GB (hoger) | 80 GB |
| Geheugentype | HBM3e | HBM3 |
| Geheugenbandbreedte | 4.800 GB/s (hoger) | 3.350 GB/s |
| FP16-tensor | 989 TFLOPS | 989 TFLOPS |
| BF16-tensor | 989 TFLOPS | 989 TFLOPS |
| FP8-tensor | 1.979 TFLOPS | 1.979 TFLOPS |
| Max. vermogen | 700 W | 700 W |
| Architectuur | Hopper | Hopper |
| Interconnect | NVLink 4 (900 GB/s) · PCIe 5.0 | NVLink 4 (900 GB/s) · PCIe 5.0 |
De hoogste waarde van elke gemeten rij staat vetgedrukt. Specificaties van de fabrikant, per GPU. Tensordoorvoer wordt zonder sparsity getoond. Waarden die de fabrikant voor dit exacte model niet publiceert, zijn weggelaten.
Wat in het geheugen past, op één GPU
| Toepassing | H200 | H100 SXM |
|---|---|---|
| LLM-inferentie, 16-bit | ≈ 55B parameters | ≈ 30B parameters |
| LLM-inferentie, 4-bit | ≈ 180B parameters | ≈ 100B parameters |
| Volledige training, mixed precision | ≈ 7B parameters | ≈ 4B parameters |
Voorzichtige schattingen waarbij 80% van het geheugen voor de modelgewichten wordt gerekend; contextlengte, batchgrootte en framework veranderen de echte limiet. Meerdere GPU’s samen kunnen grotere modellen bevatten.
H200 vs H100 SXM: veelgestelde vragen
Welke heeft meer geheugen, de H200 of de H100 SXM?
De H200 heeft 141 GB GPU-geheugen, tegenover 80 GB voor de H100 SXM.
Welke is sneller voor LLM-inferentie, de H200 of de H100 SXM?
Tokengeneratie wordt meestal begrensd door de geheugenbandbreedte, en de H200 heeft 1,4× de bandbreedte van de H100 SXM. De geheugengrootte bepaalt vervolgens welke modellen passen. Meet je eigen model vóór een grote run.
Kan ik de H200 en de H100 SXM per uur huren?
Ja, wanneer verkopers ze op de EverXCloud-spotbeurs aanbieden: je koopt GPU-uren tegen de live prijs vanuit een prepaid saldo in euro, Amerikaanse dollars of ponden. Prijzen worden exclusief belasting getoond en EverXCloud is de merchant of record voor elke huur.
Wees klaar op de dag van de lancering
Maak nu je account aan: je kunt je saldo opwaarderen en de GPU huren die bij je toepassing past zodra de markt opengaat.
Heb je GPU-servers?
Bedrijven kunnen zich aansluiten bij het EverXCloud Network en uren van hun GPU-servers op de spotbeurs verkopen.