GPU cloud NVIDIA A30 24GB
A30: memori HBM2 24 GB per GPU, arsitektur Ampere. Sewa per jam di bursa spot EverXCloud, dengan harga langsung yang ditentukan penjual dan pembeli.
- Harga langsung terbaik
- Tidak ada penawaran
- Memori GPU
- 24 GB HBM2
- Bandwidth
- 933 GB/s
- Tensor FP16
- 165 TFLOPS
- Arsitektur
- Ampere
- Daya maks.
- 165 W
A30 di bursa spot
Saat ini belum ada penawaran untuk model ini.
Saat ini tidak ada produk A30 yang terdaftar di bursa spot. Beri tahu kami jumlah dan tanggal yang Anda butuhkan: kami mencari kapasitas ini di seluruh EverXCloud Network.
Minta kapasitas iniSpesifikasi A30
| Memori GPU | 24 GB |
|---|---|
| Jenis memori | HBM2 |
| Bandwidth memori | 933 GB/s |
| Tensor FP16 | 165 TFLOPS |
| Tensor BF16 | 165 TFLOPS |
| Daya maks. | 165 W |
| Arsitektur | Ampere |
| Interkoneksi | NVLink bridge (200 GB/s) · PCIe 4.0 |
Spesifikasi pabrikan, per GPU. Throughput tensor ditampilkan tanpa sparsity. Nilai yang tidak dipublikasikan pabrikan untuk model ini tidak ditampilkan.
Penggunaan yang disarankan
- Fine-tuning
Fine-tuning hemat parameter (LoRA, QLoRA) untuk model terbuka yang muat di memori dengan kuantisasi 4-bit.
- Inferensi LLM
Model bahasa hingga sekitar 9 miliar parameter dalam presisi 16-bit, atau sekitar 30 miliar dengan kuantisasi 4-bit.
- Pembuatan gambar
Model difusi gambar dan video; model yang lebih besar dan resolusi lebih tinggi memerlukan lebih banyak memori GPU.
Perkiraan hati-hati untuk produk ini (total memori GPU 24 GB), dengan menghitung 80% memori untuk bobot model. Batas sebenarnya bergantung pada panjang konteks, ukuran batch, dan framework.
Beban kerja untuk A30
- GPU untuk fine-tuning model terbuka
Adapter LoRA dan QLoRA pada satu GPU, mulai dari 24 GB.
- GPU untuk inferensi LLM
Sajikan model terbuka: apa yang muat di memori, dan seberapa cepat token dihasilkan.
- GPU untuk pembuatan gambar dan video
Model difusi untuk gambar dan video, dari kartu 24 GB hingga GPU 80 GB.
GPU yang mirip dengan A30
| GPU | Mulai/jam |
|---|---|
| A1616 GB GDDR6 · Ampere | US$0,24 |
| A1024 GB GDDR6 · Ampere | US$0,24 |
| L424 GB GDDR6 · Ada Lovelace | US$0,44 |
| Tesla T416 GB GDDR6 · Turing | US$0,18 |
| Tesla V10032 GB HBM2 · Volta | US$0,10 |
| Tesla P4024 GB GDDR5 · Pascal | US$0,10 |
Bandingkan A30
A30: pertanyaan yang sering diajukan
Berapa biaya sewa A30?
Saat ini belum ada penawaran. Minta kapasitas ini dan kami akan mencarinya di seluruh EverXCloud Network; di portal, Anda juga dapat memasang permintaan dengan harga yang bersedia Anda bayar.
Berapa memori A30?
Memori HBM2 24 GB per GPU. Bandwidth memori adalah 933 GB/s.
Model AI apa yang bisa saya jalankan di A30?
Sebagai perkiraan hati-hati, produk ini (total memori GPU 24 GB) menjalankan model bahasa hingga sekitar 9 miliar parameter dalam presisi 16-bit, atau sekitar 30 miliar dengan kuantisasi 4-bit. Panjang konteks, ukuran batch, dan framework mengubah batas sebenarnya.
Bisakah saya menyewa beberapa GPU A30 sekaligus?
Server dengan beberapa GPU terdaftar sebagai produk terpisah di bursa spot bila penjual menawarkannya, misalnya 2, 4, atau 8 GPU. Untuk jumlah lebih besar atau tanggal tetap, minta kapasitas ini.
Bagaimana sewa A30 ditagih?
Per jam. Anda membeli jam sewa di bursa spot, hingga 720 jam per pesanan, dan membayarnya dari saldo prabayar. Harga ditampilkan belum termasuk pajak, dan EverXCloud adalah merchant of record untuk setiap penyewaan.
Mata uang dan metode pembayaran apa yang bisa digunakan?
Euro, dolar AS, atau pound, masing-masing dengan saldo sendiri, tidak pernah dikonversi. Isi saldo dengan kartu; transfer bank SEPA dapat ditawarkan untuk akun bisnis atas permintaan. Tanda terima diterbitkan untuk setiap isi saldo dan faktur untuk setiap penyewaan, dengan PPN atau pajak penjualan bila berlaku.
Apakah membeli jam GPU di bursa spot merupakan produk keuangan?
Tidak. Anda membeli jam sewa GPU untuk digunakan: tanpa derivatif, tanpa leverage, tanpa kredit yang dapat dipindahtangankan.
Siap di hari peluncuran
Buat akun Anda sekarang: Anda dapat mengisi saldo dan menjalankan GPU begitu pasar dibuka.
Punya server GPU?
Bisnis dapat bergabung dengan EverXCloud Network dan menjual jam server GPU mereka di bursa spot.