NVIDIA Ampere mimarisi Tensör Çekirdekleri ve Multi-Instance GPU (MIG) ile, geniş ölçekte yapay zeka çıkarımı ve yüksek performanslı hesaplama(HPC) uygulamaları dahil olmak üzere çeşitli iş yüklerinde güvenli bir şekilde hızlanma sağlar. Hızlı bellek bant genişliği ve düşük güç tüketimini ana akım sunucular için ideal olan PCIe form faktöründe bir araya getiren A30, elastik bir veri merkezi sağlar ve işletmeler için maksimum değer sunar.
NVIDIA A30 – 900-21001-0040-100
Stokta yok
Açıklama
NVIDIA Ampere Mimarisi
İster bir A30 GPU’yu daha küçük örneklere bölmek için MIG’yi, ister daha büyük iş yüklerini hızlandırmak amacıyla birden fazla GPU’yu bağlamak için NVIDIA NVLink’i kullanıyor olun, A30, en küçük işten en büyük çok düğümlü iş yüküne kadar çeşitli boyutlardaki hızlandırma ihtiyaçlarını kolaylıkla karşılayabilir.
Üçüncü Nesil Tensör Çekirdekleri
NVIDIA A30, 165 teraFLOPS (TFLOPS) TF32 derin öğrenme performansı sunar. Bu, NVIDIA T4 Tensor Core GPU’ya kıyasla 20 kat daha fazla AI eğitim verimi ve 5 kat daha fazla çıkarım performansı demektir. HPC için A30, NVIDIA V100 Tensor Core GPU’dan neredeyse yüzde 30 daha fazla olan 10,3 TFLOPS performans sunar.
NVLINK
A30’daki NVIDIA NVLink, önceki nesle kıyasla 2 kat daha yüksek verim sağlar. İki A30 PCIe GPU, 330 TFLOP derin öğrenme performansı sunmak için bir NVLink Köprüsü aracılığıyla bağlanabilir.
MULTI-INSTANCE GPU (MIG)
Bir A30 GPU, kendi yüksek bant genişliğine sahip belleği, önbelleği ve hesaplama çekirdekleriyle donanım düzeyinde tamamen izole edilmiş dört adede kadar GPU örneğine bölünebilir. MIG, geliştiricilere tüm uygulamaları için çığır açan bir hızlandırma olanağı sağlıyor. BT yöneticileri de her iş için doğru boyutta GPU hızlandırma sunarak kullanımı optimize edebilir ve her kullanıcıya ve uygulamaya erişimi genişletebilir.
HBM2
Grafik açısından zengin VDI için özel olarak tasarlanmış olup, çift yuva form faktöründe bir kart başına 64 eşzamanlı kullanıcıyı destekler.
Yapısal Seyreklik
A30’daki Tensör Çekirdekleri, seyrek modeller için 2 kata kadar daha yüksek performans sağlayabilir. Seyreklik özelliği yapay zeka çıkarımına daha kolay fayda sağlarken aynı zamanda model eğitiminin performansını da artırabilir.
Özellikler
Ürün İsmi | A30 |
---|---|
GPU Mimarisi | NVIDIA Ampere Mimarisi |
GPU Belleği | 24 GB HBM2 |
Bellek Bant Genişliği | 933 GB/s |
Peak FP64 | 5.2TF |
Peak FP64 Tensor Çekirdeği | 10.3 TF |
Peak FP32 | 10.3 TF |
TF32 Tensor Çekirdeği | 82 TF | 165 TF |
BFLOAT 16 Tensor Çekirdeği | 165 TF | 330 TF |
Peak FP16 Tensor Çekirdeği | 165 TF | 330 TF |
Peak INT8 Tensor Çekirdeği | 330 TOPS | 661 TOPS |
Peak INT4 Tensor Çekirdeği | 661 TOPS | 1321 TOPS |
Media Engine | 1 optical flow accelerator (OFA) 1 JPEG decoder (NVJPEG) 4 Video decoders (NVDEC) |
Sistem Arayüzü | PCIe Gen4: 64 GB/s Third-gen NVIDIA NVLINK 200GB/s |
Form Faktör | 2 slot, tam tükseklik, tam boy |
Maksimum TDP | 165W |
MIG Desteği | 4 MIGs @ 6GB each 2 MIGs @ 12GB each 1 MIGs @ 24GB |
Virtual GPU(vGPU) yazılım desteği | NVIDIA AI Enterprise NVIDIA Virtual Compute Server |