A30 vs A10
Spesifikasi pabrikan A30 dan A10, berdampingan, per GPU. Nilai yang tidak dipublikasikan pabrikan untuk model tersebut ditandai demikian, tidak pernah diperkirakan.
NVIDIA A30 24GB
Ampere
- Memori GPU
- 24 GB
- Bandwidth memori
- 933 GB/s
Harga langsung di EverXCloud · Saat ini tidak ada penawaran
Beban kerja yang cocok
NVIDIA A10 24GB
Ampere
- Memori GPU
- 24 GB
- Bandwidth memori
- 600 GB/s
Harga langsung di EverXCloud · mulai US$0,24 per GPU-jam
Beban kerja yang cocok
Perbedaan utama
- Keduanya memiliki memori GPU 24 GB.
- A30 memiliki 1,6× bandwidth memori A10 (933 vs 600 GB/s), yang biasanya menentukan kecepatan pembuatan token LLM.
- A30 memiliki 1,3× throughput tensor BF16 dense A10 (165 vs 125 TFLOPS), presisi yang digunakan sebagian besar pelatihan.
- A10 memiliki core ray tracing untuk rendering 3D; A30 tidak.
Spesifikasi
| Spesifikasi | A30 | A10 |
|---|---|---|
| Memori GPU | 24 GB | 24 GB |
| Jenis memori | HBM2 | GDDR6 |
| Bandwidth memori | 933 GB/s (lebih tinggi) | 600 GB/s |
| Tensor FP16 | 165 TFLOPS (lebih tinggi) | 125 TFLOPS |
| Tensor BF16 | 165 TFLOPS (lebih tinggi) | 125 TFLOPS |
| Daya maks. | 165 W | 150 W |
| Arsitektur | Ampere | Ampere |
| Interkoneksi | NVLink bridge (200 GB/s) · PCIe 4.0 | PCIe 4.0 |
Nilai yang lebih tinggi pada setiap baris yang diukur ditampilkan tebal. Spesifikasi pabrikan, per GPU. Throughput tensor ditampilkan tanpa sparsity. Nilai yang tidak dipublikasikan pabrikan untuk model ini tidak ditampilkan.
Yang muat di memori, pada satu GPU
| Beban kerja | A30 | A10 |
|---|---|---|
| Inferensi LLM, 16-bit | ≈ 9B parameter | ≈ 9B parameter |
| Inferensi LLM, 4-bit | ≈ 30B parameter | ≈ 30B parameter |
| Pelatihan penuh, presisi campuran | ≈ 1B parameter | ≈ 1B parameter |
Perkiraan hati-hati yang menghitung 80% memori untuk bobot model; panjang konteks, ukuran batch, dan framework mengubah batas sebenarnya. Beberapa GPU bersama dapat menampung model yang lebih besar.
A30 vs A10: pertanyaan yang sering diajukan
Mana yang memorinya lebih besar, A30 atau A10?
Keduanya memiliki memori GPU 24 GB.
Mana yang lebih cepat untuk inferensi LLM, A30 atau A10?
Pembuatan token biasanya dibatasi oleh bandwidth memori, dan A30 memiliki 1,6× bandwidth A10. Ukuran memori kemudian menentukan model mana yang muat. Ukur model Anda sendiri sebelum menjalankan beban besar.
Bisakah saya menyewa A30 dan A10 per jam?
Ya, saat penjual mencantumkannya di bursa spot EverXCloud: Anda membeli jam GPU dengan harga langsung dari saldo prabayar dalam euro, dolar AS, atau pound. Harga ditampilkan belum termasuk pajak dan EverXCloud adalah merchant of record untuk setiap penyewaan.
Siap di hari peluncuran
Buat akun Anda sekarang: Anda dapat mengisi saldo dan menyewa GPU yang sesuai dengan beban kerja Anda begitu pasar dibuka.
Punya server GPU?
Bisnis dapat bergabung dengan EverXCloud Network dan menjual jam server GPU mereka di bursa spot.