L4 vs. Tesla T4
Die Herstellerangaben der L4 und der Tesla T4 nebeneinander, pro GPU. Ein Wert, den der Hersteller für das genaue Modell nicht veröffentlicht, wird als solcher gekennzeichnet und nie geschätzt.
NVIDIA L4 24GB
Ada Lovelace
- GPU-Speicher
- 24 GB
- Speicherbandbreite
- 300 GB/s
Live-Preis bei EverXCloud · ab 0,44 $ pro GPU-Stunde
Passende Einsatzbereiche
NVIDIA Tesla T4 16GB
Turing
- GPU-Speicher
- 16 GB
- Speicherbandbreite
- 320 GB/s
Live-Preis bei EverXCloud · ab 0,18 $ pro GPU-Stunde
Passende Einsatzbereiche
Wichtigste Unterschiede
- Die L4 hat 1,5× so viel GPU-Speicher wie die Tesla T4 (24 GB gegenüber 16 GB).
- Die Tesla T4 hat 1,1× die Speicherbandbreite der L4 (320 gegenüber 300 GB/s), die meist das Tempo der Token-Erzeugung eines LLM bestimmt.
Technische Daten
| Merkmal | L4 | Tesla T4 |
|---|---|---|
| GPU-Speicher | 24 GB (höher) | 16 GB |
| Speichertyp | GDDR6 | GDDR6 |
| Speicherbandbreite | 300 GB/s | 320 GB/s (höher) |
| FP16-Tensor | 121 TFLOPS (höher) | 65 TFLOPS |
| BF16-Tensor | 121 TFLOPS | Nicht veröffentlicht |
| FP8-Tensor | 242 TFLOPS | Nicht veröffentlicht |
| Max. Leistungsaufnahme | 72 W | 70 W |
| Architektur | Ada Lovelace | Turing |
| Interconnect | PCIe 4.0 | PCIe 3.0 |
Der höhere Wert jeder gemessenen Zeile ist fett dargestellt. Herstellerangaben pro GPU. Der Tensor-Durchsatz ist ohne Sparsity angegeben. Werte, die der Hersteller für genau dieses Modell nicht veröffentlicht, werden nicht angezeigt.
Was in den Speicher passt, auf einer GPU
| Einsatzbereich | L4 | Tesla T4 |
|---|---|---|
| LLM-Inferenz, 16 Bit | ≈ 9 Mrd. Parameter | ≈ 6 Mrd. Parameter |
| LLM-Inferenz, 4 Bit | ≈ 30 Mrd. Parameter | ≈ 20 Mrd. Parameter |
| Volltraining, gemischte Präzision | ≈ 1 Mrd. Parameter | Unter 1 Mrd. Parameter |
Vorsichtige Schätzungen bei 80 % des Speichers für die Modellgewichte; Kontextlänge, Batchgröße und Framework verändern die tatsächliche Grenze. Mehrere GPUs zusammen fassen größere Modelle.
L4 vs. Tesla T4: häufig gestellte Fragen
Welche hat mehr Speicher, die L4 oder die Tesla T4?
Die L4 hat 24 GB GPU-Speicher, gegenüber 16 GB bei der Tesla T4.
Welche ist schneller bei der LLM-Inferenz, die L4 oder die Tesla T4?
Die Token-Erzeugung ist meist durch die Speicherbandbreite begrenzt, und die Tesla T4 hat 1,1× die Bandbreite der L4. Die Speichergröße entscheidet dann, welche Modelle passen. Messen Sie Ihr eigenes Modell vor einem großen Lauf.
Kann ich die L4 und die Tesla T4 stundenweise mieten?
Ja, wenn Verkäufer sie an der EverXCloud-Spot-Börse listen: Sie kaufen GPU-Stunden zum Live-Preis aus einem Prepaid-Guthaben in Euro, US-Dollar oder Pfund. Die Preise werden zzgl. Steuern angezeigt, und EverXCloud ist bei jeder Anmietung Verkäufer im eigenen Namen (Merchant of Record).
Am Starttag bereit sein
Erstellen Sie jetzt Ihr Konto: Sie können Ihr Guthaben aufladen und die passende GPU für Ihren Workload mieten, sobald der Markt öffnet.
Sie haben GPU-Server?
Unternehmen können dem EverXCloud Network beitreten und Stunden ihrer GPU-Server an der Spot-Börse verkaufen.