NVIDIA DGX A100
AI Altyapısı için Evrensel Sistem
NVIDIA A100 ÜZERİNE İNŞA EDİLMİŞ DÜNYA’NIN İLK AI SİSTEMİ
NVIDIA DGX™ A100, tüm AI iş yükleri için evrensel bir sistem olup, dünyanın ilk 5 petaFLOPS AI sisteminde benzeri görülmemiş hesaplama yoğunluğu, performans ve esneklik sunar. NVIDIA DGX A100, içerdiği dünyanın en gelişmiş hızlandırıcısı NVIDIA A100 Tensor Core GPU ile işletmelerin eğitim, çıkarım ve analitik süreçlerini, içeriğinde NVIDIA AI uzmanlarına direkt erişimin de dahil olduğu kurulumu kolay bir AI altyapısıyla birleştirir.
AI VERİ MERKEZİNİN TEMEL TAŞI
Daha Büyük ve Daha Karmaşık Veri Bilimi Problemlerini Daha Hızlı Çözün
Faydalar
- Çalışmaya hazır, optimize edilmiş AI yazılımı ile sıkıcı kurulum ve testleri ortadan kaldırın.
- Daha fazla yineleme sağlayan benzersiz performansla daha iyi modelleri daha hızlı oluşturun.
- Sistem entegrasyonu ve yazılım mühendisliğinde zaman kaybetmeyin.
Altyapı ve Büyük Ölçekli İşletilebilir AI Uygulamaya Koyun
Faydalar
- Tüm AI iş yükleri için tek bir sistem kullanarak basitleştirilmiş altyapı tasarımı ve kapasite planlamasını deneyimleyin.
- En küçük alanda en yüksek bilgi işlem yoğunluğunu ve performansını elde edin.
- Her katmanda yerleşik güvenlikten yararlanın.
Çıktılar için Gereken Zamanı Kısaltın ve AI Odağınızı Hızlandırın
Faydalar
- Veri bilimcilerinizin verimliliğini artırın ve katma değeri olmayan çabayı ortadan kaldırın.
- Konseptten üretime kadar geliştirme döngüsünü hızlandırın.
- DGXpertler’in önerileriyle yolunuza çıkan engelleri aşın.
-
- TOPLAM 320 GB GPU BELLEĞİNE SAHİP 8X NVIDIA A100 GPU
12 NVLinks/GPU, 600 GB/s GPU-to-GPU Bi-directonal Bandwidth
-
- 6X NVIDIA NVSWITCH
Önceki nesil NVSwitch’e kıyasla 2X daha fazla (4.8 TB/s) Bi-directional Bandwidth
-
- 9x MELLANOX CONNECTX-6 200Gb/S AĞ ARAYÜZÜ
450 GB/s Peak Bi-directional Bandwidth
-
- ÇİFT 64-ÇEKİRDEKLİ AMD CPU VE 1 TB SİSTEM BELLEĞİ
En Zorlu AI İşleri için 3.2X Kat Daha Fazla Çekirdek
-
- 15 TB GEN4 NVME SSD
25GB/s Tepe Bandwidth, Gen3 NVME SSD’lere kıyasla 2X Daha Fazla Hız
NVIDIA A100 Tensor Core GPU
NVIDIA A100 Tensor Core GPU, dünyanın en zorlu bilgi işlem zorluklarıyla başa çıkmak için yapay zeka, veri analizi ve yüksek performanslı bilgi işlem (HPC) için benzeri görülmemiş bir hızlanma sağlıyor. Büyük bir performans artışı sağlayan üçüncü nesil NVIDIA Tensör Çekirdekleri ile A100 GPU, binlerce kişiye kadar verimli bir şekilde ölçeklendirilebilir veya Multi-Instance GPU ile her boyutta iş yükünü hızlandırmak için yedi küçük, özel örnek olarak tahsis edilebilir.
Multi-Instance GPU (MIG)
MIG ile, DGX A100’deki sekiz A100 GPU, her biri kendi yüksek bant genişlikliğine sahip belleği, önbelleği ve hesaplama çekirdeği ile tamamen yalıtılmış 56 GPU örneğine yapılandırılabilir. Bu, yöneticilerin birden çok iş yükü için garantili hizmet kalitesiyle birlikte GPU’ları doğru boyutlandırabilmelerini sağlıyor.
Yeni Nesil NVLink ve NVSwitch
DGX A100 içerisinde bulunan üçüncü nesil NVIDIA® NVLink™, GPU’dan GPU’ya olan direkt bantgenişliğini, PCIe Gen4’ten yaklaşık 10 kat daha yüksek olan saniyede 600 gigabyte (GB/s) seviyesine çıkararak ikiye katlıyor. Aynı zamanda DGX A100’de, önceki nesle göre 2 kat daha hızlı olan yeni nesil NVIDIA NVSwitch™ de bulunuyor.
Mellanox ConnectX-6 VPI HDR InfiniBand
DGX A100, büyük ölçekli AI iş yükleri için yüksek hızlı bir yapı oluşturmak üzere her biri saniyede 200 gigabit (Gb/s) hızında çalışan en yeni Mellanox ConnectX-6 VPI HDR InfiniBand / Ethernet adaptörlerine sahiptir.
Optimize Yazılım Yığını
DGX A100, AI özel bir temel işletim sistemi, gerekli tüm sistem yazılımı ve GPU hızlandırmalı uygulamalar, önceden eğitilmiş modeller ve NGC™’den daha fazlası dahil olmak üzere test edilmiş ve optimize edilmiş bir DGX yazılım yığınına sahiptir.
Entegre Güvenlik
DGX A100, anakart yönetim denetleyicisi (BMC), CPU kartı, GPU kartı, kendinden şifreli sürücüler ve güvenli önyükleme boyunca uzanan çok katmanlı bir yaklaşımla AI dağıtımları için en sağlam güvenlik duruşunu sunar.