MI300X vs H200
MI300X と H200 のメーカー仕様を GPU 1 基あたりで並べて表示します。メーカーが該当モデルについて公開していない値はその旨を表示し、推定はしません。
AMD Instinct MI300X 192GB
CDNA 3
- GPU メモリ
- 192 GB
- メモリ帯域幅
- 5,300 GB/s
EverXCloud のライブ価格 · GPU 1 時間あたり $4.16〜
NVIDIA H200 141GB
Hopper
- GPU メモリ
- 141 GB
- メモリ帯域幅
- 4,800 GB/s
EverXCloud のライブ価格 · GPU 1 時間あたり $4.19〜
主な違い
- MI300X の GPU メモリは H200 の 1.4× です（192 GB vs 141 GB）。
- MI300X のメモリ帯域幅は H200 の 1.1× です（5,300 vs 4,800 GB/s）。通常、LLM のトークン生成速度を左右します。
- MI300X の密な BF16 テンソル性能は H200 の 1.3× です（1,307 vs 989 TFLOPS）。ほとんどの学習で使われる精度です。
- MI300X の密な FP8 テンソル性能は H200 の 1.3× です（2,614 vs 1,979 TFLOPS）。
仕様
| 項目 | MI300X | H200 |
|---|---|---|
| GPU メモリ | 192 GB （高い方） | 141 GB |
| メモリの種類 | HBM3 | HBM3e |
| メモリ帯域幅 | 5,300 GB/s （高い方） | 4,800 GB/s |
| FP16 テンソル | 1,307 TFLOPS （高い方） | 989 TFLOPS |
| BF16 テンソル | 1,307 TFLOPS （高い方） | 989 TFLOPS |
| FP8 テンソル | 2,614 TFLOPS （高い方） | 1,979 TFLOPS |
| 最大消費電力 | 750 W | 700 W |
| アーキテクチャ | CDNA 3 | Hopper |
| インターコネクト | AMD Infinity Fabric (128 GB/s per link) · PCIe 5.0 | NVLink 4 (900 GB/s) · PCIe 5.0 |
各計測項目で高い方の値を太字で示しています。 メーカー仕様、GPU 1 基あたり。テンソル性能はスパース性なしの値です。この正確なモデルについてメーカーが公開していない値は省略しています。
GPU 1 基のメモリに収まるもの
| 用途 | MI300X | H200 |
|---|---|---|
| LLM 推論、16 ビット | ≈ 75B パラメータ | ≈ 55B パラメータ |
| LLM 推論、4 ビット | ≈ 250B パラメータ | ≈ 180B パラメータ |
| フル学習、混合精度 | ≈ 9B パラメータ | ≈ 7B パラメータ |
メモリの 80% をモデルの重みに充てた慎重な目安です。コンテキスト長、バッチサイズ、フレームワークにより実際の上限は変わります。複数の GPU を組み合わせればより大きなモデルを扱えます。
MI300X vs H200：よくある質問
MI300X と H200、メモリが多いのはどちらですか？
MI300X の GPU メモリは 192 GB、H200 は 141 GB です。
LLM 推論が速いのは MI300X と H200 のどちらですか？
トークン生成は通常メモリ帯域幅に制約され、MI300X の帯域幅は H200 の 1.1× です。どのモデルが収まるかはメモリ容量で決まります。大規模な実行の前に、ご自身のモデルで計測してください。
MI300X と H200 は時間単位でレンタルできますか？
はい、販売者が EverXCloud スポット取引所に掲載していれば可能です。ユーロ、米ドル、英ポンドのプリペイド残高から、ライブ価格で GPU 時間を購入します。料金は税抜きで表示され、EverXCloud がすべてのレンタルの販売事業者です。
ローンチ日に備える
今すぐアカウントを作成：マーケットが開いたらすぐに残高をチャージし、用途に合った GPU をレンタルできます。
GPU サーバーをお持ちですか？
法人は EverXCloud Network に参加し、GPU サーバーの時間をスポット取引所で販売できます。