RTX 4090 vs. A100 PCIe
Die Herstellerangaben der RTX 4090 und der A100 PCIe nebeneinander, pro GPU. Ein Wert, den der Hersteller für das genaue Modell nicht veröffentlicht, wird als solcher gekennzeichnet und nie geschätzt.
NVIDIA GeForce RTX 4090 24GB
Ada Lovelace
- GPU-Speicher
- 24 GB
- Speicherbandbreite
- 1.008 GB/s
Live-Preis bei EverXCloud · ab 0,33 $ pro GPU-Stunde
Passende Einsatzbereiche
NVIDIA A100 PCIe 80GB
Ampere
- GPU-Speicher
- 80 GB
- Speicherbandbreite
- 1.935 GB/s
Live-Preis bei EverXCloud · ab 1,79 $ pro GPU-Stunde
Passende Einsatzbereiche
Wichtigste Unterschiede
- Die A100 PCIe hat 3,3× so viel GPU-Speicher wie die RTX 4090 (80 GB gegenüber 24 GB).
- Die A100 PCIe hat 1,9× die Speicherbandbreite der RTX 4090 (1.935 gegenüber 1.008 GB/s), die meist das Tempo der Token-Erzeugung eines LLM bestimmt.
- Die RTX 4090 hat Raytracing-Kerne für 3D-Rendering, die A100 PCIe nicht.
Technische Daten
| Merkmal | RTX 4090 | A100 PCIe |
|---|---|---|
| GPU-Speicher | 24 GB | 80 GB (höher) |
| Speichertyp | GDDR6X | HBM2e |
| Speicherbandbreite | 1.008 GB/s | 1.935 GB/s (höher) |
| FP16-Tensor | Nicht veröffentlicht | 312 TFLOPS |
| BF16-Tensor | Nicht veröffentlicht | 312 TFLOPS |
| Max. Leistungsaufnahme | 450 W | 300 W |
| Architektur | Ada Lovelace | Ampere |
| Interconnect | PCIe 4.0 | NVLink bridge (600 GB/s) · PCIe 4.0 |
Der höhere Wert jeder gemessenen Zeile ist fett dargestellt. Herstellerangaben pro GPU. Der Tensor-Durchsatz ist ohne Sparsity angegeben. Werte, die der Hersteller für genau dieses Modell nicht veröffentlicht, werden nicht angezeigt.
Was in den Speicher passt, auf einer GPU
| Einsatzbereich | RTX 4090 | A100 PCIe |
|---|---|---|
| LLM-Inferenz, 16 Bit | ≈ 9 Mrd. Parameter | ≈ 30 Mrd. Parameter |
| LLM-Inferenz, 4 Bit | ≈ 30 Mrd. Parameter | ≈ 100 Mrd. Parameter |
| Volltraining, gemischte Präzision | ≈ 1 Mrd. Parameter | ≈ 4 Mrd. Parameter |
Vorsichtige Schätzungen bei 80 % des Speichers für die Modellgewichte; Kontextlänge, Batchgröße und Framework verändern die tatsächliche Grenze. Mehrere GPUs zusammen fassen größere Modelle.
RTX 4090 vs. A100 PCIe: häufig gestellte Fragen
Welche hat mehr Speicher, die RTX 4090 oder die A100 PCIe?
Die A100 PCIe hat 80 GB GPU-Speicher, gegenüber 24 GB bei der RTX 4090.
Welche ist schneller bei der LLM-Inferenz, die RTX 4090 oder die A100 PCIe?
Die Token-Erzeugung ist meist durch die Speicherbandbreite begrenzt, und die A100 PCIe hat 1,9× die Bandbreite der RTX 4090. Die Speichergröße entscheidet dann, welche Modelle passen. Messen Sie Ihr eigenes Modell vor einem großen Lauf.
Kann ich die RTX 4090 und die A100 PCIe stundenweise mieten?
Ja, wenn Verkäufer sie an der EverXCloud-Spot-Börse listen: Sie kaufen GPU-Stunden zum Live-Preis aus einem Prepaid-Guthaben in Euro, US-Dollar oder Pfund. Die Preise werden zzgl. Steuern angezeigt, und EverXCloud ist bei jeder Anmietung Verkäufer im eigenen Namen (Merchant of Record).
Am Starttag bereit sein
Erstellen Sie jetzt Ihr Konto: Sie können Ihr Guthaben aufladen und die passende GPU für Ihren Workload mieten, sobald der Markt öffnet.
Sie haben GPU-Server?
Unternehmen können dem EverXCloud Network beitreten und Stunden ihrer GPU-Server an der Spot-Börse verkaufen.