L40S vs A100 SXM
L40S と A100 SXM のメーカー仕様を GPU 1 基あたりで並べて表示します。メーカーが該当モデルについて公開していない値はその旨を表示し、推定はしません。
NVIDIA L40S 48GB
Ada Lovelace
- GPU メモリ
- 48 GB
- メモリ帯域幅
- 864 GB/s
EverXCloud のライブ価格 · GPU 1 時間あたり $0.79〜
NVIDIA A100 SXM 80GB
Ampere
- GPU メモリ
- 80 GB
- メモリ帯域幅
- 2,039 GB/s
EverXCloud のライブ価格 · GPU 1 時間あたり $1.79〜
主な違い
- A100 SXM の GPU メモリは L40S の 1.7× です（80 GB vs 48 GB）。
- A100 SXM のメモリ帯域幅は L40S の 2.4× です（2,039 vs 864 GB/s）。通常、LLM のトークン生成速度を左右します。
- L40S の密な BF16 テンソル性能は A100 SXM の 1.2× です（362 vs 312 TFLOPS）。ほとんどの学習で使われる精度です。
- L40S には 3D レンダリング向けのレイトレーシングコアがありますが、A100 SXM にはありません。
仕様
| 項目 | L40S | A100 SXM |
|---|---|---|
| GPU メモリ | 48 GB | 80 GB （高い方） |
| メモリの種類 | GDDR6 | HBM2e |
| メモリ帯域幅 | 864 GB/s | 2,039 GB/s （高い方） |
| FP16 テンソル | 362 TFLOPS （高い方） | 312 TFLOPS |
| BF16 テンソル | 362 TFLOPS （高い方） | 312 TFLOPS |
| FP8 テンソル | 733 TFLOPS | 非公開 |
| 最大消費電力 | 350 W | 400 W |
| アーキテクチャ | Ada Lovelace | Ampere |
| インターコネクト | PCIe 4.0 | NVLink 3 (600 GB/s) · PCIe 4.0 |
各計測項目で高い方の値を太字で示しています。 メーカー仕様、GPU 1 基あたり。テンソル性能はスパース性なしの値です。この正確なモデルについてメーカーが公開していない値は省略しています。
GPU 1 基のメモリに収まるもの
| 用途 | L40S | A100 SXM |
|---|---|---|
| LLM 推論、16 ビット | ≈ 15B パラメータ | ≈ 30B パラメータ |
| LLM 推論、4 ビット | ≈ 60B パラメータ | ≈ 100B パラメータ |
| フル学習、混合精度 | ≈ 2B パラメータ | ≈ 4B パラメータ |
メモリの 80% をモデルの重みに充てた慎重な目安です。コンテキスト長、バッチサイズ、フレームワークにより実際の上限は変わります。複数の GPU を組み合わせればより大きなモデルを扱えます。
L40S vs A100 SXM：よくある質問
L40S と A100 SXM、メモリが多いのはどちらですか？
A100 SXM の GPU メモリは 80 GB、L40S は 48 GB です。
LLM 推論が速いのは L40S と A100 SXM のどちらですか？
トークン生成は通常メモリ帯域幅に制約され、A100 SXM の帯域幅は L40S の 2.4× です。どのモデルが収まるかはメモリ容量で決まります。大規模な実行の前に、ご自身のモデルで計測してください。
L40S と A100 SXM は時間単位でレンタルできますか？
はい、販売者が EverXCloud スポット取引所に掲載していれば可能です。ユーロ、米ドル、英ポンドのプリペイド残高から、ライブ価格で GPU 時間を購入します。料金は税抜きで表示され、EverXCloud がすべてのレンタルの販売事業者です。
ローンチ日に備える
今すぐアカウントを作成：マーケットが開いたらすぐに残高をチャージし、用途に合った GPU をレンタルできます。
GPU サーバーをお持ちですか？
法人は EverXCloud Network に参加し、GPU サーバーの時間をスポット取引所で販売できます。