GPU cloud NVIDIA A2 16GB
A2: memori GDDR6 16 GB per GPU, arsitektur Ampere. Sewa per jam di bursa spot EverXCloud, dengan harga langsung yang ditentukan penjual dan pembeli.
- Harga langsung terbaik
- Tidak ada penawaran
- Memori GPU
- 16 GB GDDR6
- Bandwidth
- 200 GB/s
- Tensor FP16
- 18 TFLOPS
- Arsitektur
- Ampere
- Daya maks.
- 60 W
A2 di bursa spot
Saat ini belum ada penawaran untuk model ini.
Saat ini tidak ada produk A2 yang terdaftar di bursa spot. Beri tahu kami jumlah dan tanggal yang Anda butuhkan: kami mencari kapasitas ini di seluruh EverXCloud Network.
Minta kapasitas iniSpesifikasi A2
| Memori GPU | 16 GB |
|---|---|
| Jenis memori | GDDR6 |
| Bandwidth memori | 200 GB/s |
| Tensor FP16 | 18 TFLOPS |
| Tensor BF16 | 18 TFLOPS |
| Daya maks. | 60 W |
| Arsitektur | Ampere |
| Interkoneksi | PCIe 4.0 |
Spesifikasi pabrikan, per GPU. Throughput tensor ditampilkan tanpa sparsity. Nilai yang tidak dipublikasikan pabrikan untuk model ini tidak ditampilkan.
Penggunaan yang disarankan
- Fine-tuning
Fine-tuning hemat parameter (LoRA, QLoRA) untuk model terbuka yang muat di memori dengan kuantisasi 4-bit.
- Inferensi LLM
Model bahasa hingga sekitar 6 miliar parameter dalam presisi 16-bit, atau sekitar 20 miliar dengan kuantisasi 4-bit.
- Pembuatan gambar
Model difusi gambar dan video; model yang lebih besar dan resolusi lebih tinggi memerlukan lebih banyak memori GPU.
- Rendering 3D
Rendering ray tracing, efek visual, dan simulasi, dengan core ray tracing khusus.
Perkiraan hati-hati untuk produk ini (total memori GPU 16 GB), dengan menghitung 80% memori untuk bobot model. Batas sebenarnya bergantung pada panjang konteks, ukuran batch, dan framework.
Beban kerja untuk A2
- GPU untuk fine-tuning model terbuka
Adapter LoRA dan QLoRA pada satu GPU, mulai dari 24 GB.
- GPU untuk inferensi LLM
Sajikan model terbuka: apa yang muat di memori, dan seberapa cepat token dihasilkan.
- GPU untuk pembuatan gambar dan video
Model difusi untuk gambar dan video, dari kartu 24 GB hingga GPU 80 GB.
- GPU untuk rendering 3D dan efek visual
Rendering ray tracing, efek visual, dan mesin real-time.
GPU yang mirip dengan A2
| GPU | Mulai/jam |
|---|---|
| A1616 GB GDDR6 · Ampere | US$0,24 |
| A1024 GB GDDR6 · Ampere | US$0,24 |
| L424 GB GDDR6 · Ada Lovelace | US$0,44 |
| Tesla T416 GB GDDR6 · Turing | US$0,18 |
| Tesla V10016 GB HBM2 · Volta | US$0,10 |
| Tesla P10016 GB HBM2 · Pascal | US$0,10 |
Bandingkan A2
A2: pertanyaan yang sering diajukan
Berapa biaya sewa A2?
Saat ini belum ada penawaran. Minta kapasitas ini dan kami akan mencarinya di seluruh EverXCloud Network; di portal, Anda juga dapat memasang permintaan dengan harga yang bersedia Anda bayar.
Berapa memori A2?
Memori GDDR6 16 GB per GPU. Bandwidth memori adalah 200 GB/s.
Model AI apa yang bisa saya jalankan di A2?
Sebagai perkiraan hati-hati, produk ini (total memori GPU 16 GB) menjalankan model bahasa hingga sekitar 6 miliar parameter dalam presisi 16-bit, atau sekitar 20 miliar dengan kuantisasi 4-bit. Panjang konteks, ukuran batch, dan framework mengubah batas sebenarnya.
Bisakah saya menyewa beberapa GPU A2 sekaligus?
Server dengan beberapa GPU terdaftar sebagai produk terpisah di bursa spot bila penjual menawarkannya, misalnya 2, 4, atau 8 GPU. Untuk jumlah lebih besar atau tanggal tetap, minta kapasitas ini.
Bagaimana sewa A2 ditagih?
Per jam. Anda membeli jam sewa di bursa spot, hingga 720 jam per pesanan, dan membayarnya dari saldo prabayar. Harga ditampilkan belum termasuk pajak, dan EverXCloud adalah merchant of record untuk setiap penyewaan.
Mata uang dan metode pembayaran apa yang bisa digunakan?
Euro, dolar AS, atau pound, masing-masing dengan saldo sendiri, tidak pernah dikonversi. Isi saldo dengan kartu; transfer bank SEPA dapat ditawarkan untuk akun bisnis atas permintaan. Tanda terima diterbitkan untuk setiap isi saldo dan faktur untuk setiap penyewaan, dengan PPN atau pajak penjualan bila berlaku.
Apakah membeli jam GPU di bursa spot merupakan produk keuangan?
Tidak. Anda membeli jam sewa GPU untuk digunakan: tanpa derivatif, tanpa leverage, tanpa kredit yang dapat dipindahtangankan.
Siap di hari peluncuran
Buat akun Anda sekarang: Anda dapat mengisi saldo dan menjalankan GPU begitu pasar dibuka.
Punya server GPU?
Bisnis dapat bergabung dengan EverXCloud Network dan menjual jam server GPU mereka di bursa spot.