Bilimsel hesaplama ve simülasyon için GPU’lar
Moleküler dinamik, hesaplamalı akışkanlar dinamiği, hava tahmini veya kuantum kimyası gibi simülasyon kodları çoğu zaman bellek bant genişliğiyle, birçoğu da çift hassasiyetli (FP64) aritmetikle sınırlıdır. HBM bellekli veri merkezi GPU’ları her ikisi için tasarlanmıştır.
bilimsel hesaplama için uygun GPU’lar
Tüm sütunları görmek için yana kaydırın.
| GPU | Bellek | Bellek türü | Bant genişliği | Bağlantı | Fiyat/sa |
|---|---|---|---|---|---|
| Tesla V100Volta | 32 GB | HBM2 | 900 GB/s | Yayımlanmadı | $0,10’den başlayan |
| A100 PCIeAmpere | 80 GB | HBM2e | 1.935 GB/s | NVLink bridge (600 GB/s) · PCIe 4.0 | $1,79’den başlayan |
| A100 SXMAmpere | 80 GB | HBM2e | 2.039 GB/s | NVLink 3 (600 GB/s) · PCIe 4.0 | $1,79’den başlayan |
| H100 PCIeHopper | 80 GB | HBM2e | 2.000 GB/s | NVLink bridge (600 GB/s) · PCIe 5.0 | $2,89’den başlayan |
| H100 SXMHopper | 80 GB | HBM3 | 3.350 GB/s | NVLink 4 (900 GB/s) · PCIe 5.0 | $2,88’den başlayan |
| GH200Grace Hopper | 96 GB | HBM3 | 4.000 GB/s | NVLink-C2C (900 GB/s) | $6,81’den başlayan |
| H200Hopper | 141 GB | HBM3e | 4.800 GB/s | NVLink 4 (900 GB/s) · PCIe 5.0 | $4,19’den başlayan |
| MI300XCDNA 3 | 192 GB | HBM3 | 5.300 GB/s | AMD Infinity Fabric (128 GB/s per link) · PCIe 5.0 | $4,16’den başlayan |
| MI325XCDNA 3 | 256 GB | HBM3e | 6.000 GB/s | AMD Infinity Fabric (128 GB/s per link) · PCIe 5.0 | $4,82’den başlayan |
Üretici özellikleri, GPU başına; tensör performansı seyreklik olmadan. Model boyutları, belleğin %80’i esas alınarak milyar parametre cinsinden yapılmış temkinli tahminlerdir; bağlam uzunluğu, batch boyutu ve framework gerçek sınırı değiştirir. Fiyatlar tek GPU için saatlik en iyi canlı tekliftir, vergiler hariç.
Tüm GPU modelleribilimsel hesaplama için önemli olanlar
Çift hassasiyet
Birçok çözücü FP64 gerektirir. V100, A100, H100 ve AMD Instinct gibi veri merkezi GPU’ları FP64’ü yüksek hızda çalıştırırken, GeForce ve çoğu iş istasyonu kartı bunu FP32 hızlarının küçük bir kısmıyla çalıştırır. Kodunuzu kontrol edin: bazı paketler çoğunlukla tek veya karma hassasiyette çalışır.
Bellek bant genişliği
Stencil kodları, seyrek doğrusal cebir ve parçacık yöntemleri hesapladıklarından daha fazla veri taşır. V100’deki yaklaşık 0,9 TB/s’den H200 ve MI300X’teki 4 TB/s’nin üzerine kadar HBM bellek, bu kodları hızlı kılan şeydir.
GPU’lar arasında ölçekleme
Alan ayrıştırması bir simülasyonu, her adımda sınır verilerini paylaşan GPU’lara böler. GPU’lar arasındaki NVLink veya Infinity Fabric, bu alışverişin darboğaza dönüşmesini engeller.
bilimsel hesaplama için GPU’ları karşılaştırın
Bilimsel hesaplama ve simülasyon için GPU’lar: sıkça sorulan sorular
FP64 değerleri neden gösterilmiyor?
Bu site yalnızca her modelin tam karşılığı için karşılaştırılabilir biçimde yayımlanmış değerleri gösterir. FP64 hızları kart sürümleri (SXM, PCIe) arasında farklılık gösterir; kiralamayı düşündüğünüz kartın üretici veri sayfasını kontrol edin.
Moleküler dinamik için hangi GPU?
GROMACS, AMBER ve NAMD gibi paketler büyük ölçüde tek veya karma hassasiyette çalışır ve iş istasyonu kartları dahil birçok GPU’da iyi performans gösterir; baştan sona FP64 gerektiren kodlar için A100, H100 veya MI300X GPU’ları daha uygundur.
Kodum AMD GPU’larda çalışır mı?
AMD Instinct GPU’ları ROCm ve HIP için yazılmış kodu çalıştırır; birçok HPC paketi ROCm derlemeleri sunar. Yalnızca CUDA için yazılmış kodun AMD’de çalışmadan önce, çoğu zaman HIPIFY araçlarıyla taşınması gerekir.
EverXCloud’da bilimsel hesaplama için nasıl GPU kiralarım?
Bir hesap oluşturun, ön ödemeli bakiyenizi euro, ABD doları veya sterlinle yükleyin, ardından spot borsasında en iyi tekliften GPU saati satın alın ya da ödemeye hazır olduğunuz fiyattan bir talep verin. Kiralamalar saatlik faturalandırılır. Fiyatlar vergiler hariç gösterilir ve her kiralamanın satıcısı EverXCloud’dur.
Lansman gününe hazır olun
Hesabınızı şimdi oluşturun: piyasa açılır açılmaz bakiyenizi yükleyip iş yükünüze uygun GPU’yu kiralayabilirsiniz.
GPU sunucularınız mı var?
İşletmeler EverXCloud Network’e katılabilir ve GPU sunucularının saatlerini spot borsasında satabilir.
Diğer iş yükleri
- Büyük dil modellerini eğitmek için GPU’lar
HBM bellekli veri merkezi GPU’larında ön eğitim ve tam ince ayar.
- Açık modellerin ince ayarı için GPU’lar
24 GB’tan başlayan tek bir GPU’da LoRA ve QLoRA adaptörleri.
- LLM çıkarımı için GPU’lar
Açık modelleri sunun: belleğe neyin sığdığı ve token’ların ne kadar hızlı geldiği.
- Görüntü ve video üretimi için GPU’lar
Görüntü ve video için difüzyon modelleri; 24 GB kartlardan 80 GB GPU’lara.
- 3D render ve görsel efektler için GPU’lar
Işın izlemeli render, görsel efektler ve gerçek zamanlı motorlar.