GPU untuk komputasi ilmiah dan simulasi
Kode simulasi seperti dinamika molekuler, dinamika fluida komputasional, cuaca, atau kimia kuantum sering dibatasi oleh bandwidth memori dan, bagi banyak di antaranya, oleh aritmetika presisi ganda (FP64). GPU pusat data dengan memori HBM dirancang untuk keduanya.
GPU yang cocok untuk komputasi ilmiah
Geser ke samping untuk melihat semua kolom.
| GPU | Memori | Jenis memori | Bandwidth | Interkoneksi | Harga/jam |
|---|---|---|---|---|---|
| Tesla V100Volta | 32 GB | HBM2 | 900 GB/s | Tidak dipublikasikan | mulai US$0,10 |
| A100 PCIeAmpere | 80 GB | HBM2e | 1.935 GB/s | NVLink bridge (600 GB/s) · PCIe 4.0 | mulai US$1,79 |
| A100 SXMAmpere | 80 GB | HBM2e | 2.039 GB/s | NVLink 3 (600 GB/s) · PCIe 4.0 | mulai US$1,79 |
| H100 PCIeHopper | 80 GB | HBM2e | 2.000 GB/s | NVLink bridge (600 GB/s) · PCIe 5.0 | mulai US$2,89 |
| H100 SXMHopper | 80 GB | HBM3 | 3.350 GB/s | NVLink 4 (900 GB/s) · PCIe 5.0 | mulai US$2,88 |
| GH200Grace Hopper | 96 GB | HBM3 | 4.000 GB/s | NVLink-C2C (900 GB/s) | mulai US$6,81 |
| H200Hopper | 141 GB | HBM3e | 4.800 GB/s | NVLink 4 (900 GB/s) · PCIe 5.0 | mulai US$4,19 |
| MI300XCDNA 3 | 192 GB | HBM3 | 5.300 GB/s | AMD Infinity Fabric (128 GB/s per link) · PCIe 5.0 | mulai US$4,16 |
| MI325XCDNA 3 | 256 GB | HBM3e | 6.000 GB/s | AMD Infinity Fabric (128 GB/s per link) · PCIe 5.0 | mulai US$4,82 |
Spesifikasi pabrikan, per GPU; throughput tensor tanpa sparsity. Ukuran model adalah perkiraan hati-hati dalam miliar parameter, dengan menghitung 80% memori; panjang konteks, ukuran batch, dan framework mengubah batas sebenarnya. Harga adalah penawaran langsung terbaik untuk satu GPU per jam, belum termasuk pajak.
Semua model GPUYang penting untuk komputasi ilmiah
Presisi ganda
Banyak solver memerlukan FP64. GPU pusat data seperti V100, A100, H100, dan AMD Instinct menjalankan FP64 dengan laju tinggi, sedangkan GeForce dan sebagian besar kartu workstation menjalankannya hanya dengan sebagian kecil laju FP32. Periksa kode Anda: beberapa paket sebagian besar berjalan dalam presisi tunggal atau campuran.
Bandwidth memori
Kode stencil, aljabar linear sparse, dan metode partikel memindahkan lebih banyak data daripada yang dihitung. Memori HBM, dari sekitar 0,9 TB/s pada V100 hingga lebih dari 4 TB/s pada H200 dan MI300X, adalah yang membuat kode-kode ini cepat.
Penskalaan ke banyak GPU
Dekomposisi domain membagi simulasi ke beberapa GPU yang bertukar data batas di setiap langkah. NVLink atau Infinity Fabric antar-GPU mencegah pertukaran itu menjadi hambatan.
Bandingkan GPU untuk komputasi ilmiah
GPU untuk komputasi ilmiah dan simulasi: pertanyaan yang sering diajukan
Mengapa angka FP64 tidak ditampilkan?
Situs ini hanya menampilkan nilai yang dipublikasikan untuk setiap model secara persis dalam bentuk yang dapat dibandingkan. Laju FP64 berbeda antarversi board (SXM, PCIe), jadi periksa lembar data pabrikan untuk board yang ingin Anda sewa.
GPU mana untuk dinamika molekuler?
Paket seperti GROMACS, AMBER, dan NAMD sebagian besar berjalan dalam presisi tunggal atau campuran dan bekerja baik di banyak GPU, termasuk kartu workstation; kode yang memerlukan FP64 sepenuhnya lebih cocok dengan GPU A100, H100, atau MI300X.
Apakah kode saya berjalan di GPU AMD?
GPU AMD Instinct menjalankan kode yang ditulis untuk ROCm dan HIP; banyak paket HPC menyediakan build ROCm. Kode yang hanya ditulis untuk CUDA perlu di-porting, sering kali dengan alat HIPIFY, sebelum dapat berjalan di AMD.
Bagaimana cara menyewa GPU untuk komputasi ilmiah di EverXCloud?
Buat akun, isi saldo prabayar dalam euro, dolar AS, atau pound, lalu beli jam GPU di bursa spot dengan penawaran terbaik, atau pasang permintaan dengan harga yang bersedia Anda bayar. Penyewaan ditagih per jam. Harga ditampilkan belum termasuk pajak dan EverXCloud adalah merchant of record untuk setiap penyewaan.
Siap di hari peluncuran
Buat akun Anda sekarang: Anda dapat mengisi saldo dan menyewa GPU yang sesuai dengan beban kerja Anda begitu pasar dibuka.
Punya server GPU?
Bisnis dapat bergabung dengan EverXCloud Network dan menjual jam server GPU mereka di bursa spot.
Beban kerja lain
- GPU untuk melatih model bahasa besar
Pra-pelatihan dan fine-tuning penuh di GPU pusat data dengan memori HBM.
- GPU untuk fine-tuning model terbuka
Adapter LoRA dan QLoRA pada satu GPU, mulai dari 24 GB.
- GPU untuk inferensi LLM
Sajikan model terbuka: apa yang muat di memori, dan seberapa cepat token dihasilkan.
- GPU untuk pembuatan gambar dan video
Model difusi untuk gambar dan video, dari kartu 24 GB hingga GPU 80 GB.
- GPU untuk rendering 3D dan efek visual
Rendering ray tracing, efek visual, dan mesin real-time.