NVIDIA H100 80GB PCIe – 900-21010-0000-000

NVIDIA H100 Tensor Core GPU

NVIDIA’nın hızlandırılmış hesaplama gereksinimleri için özel olarak tasarlanmış son teknoloji TSMC 4N işlemci kullanılarak 80 milyar transistörle oluşturulmuş H100, şimdiye kadar üretilmiş en gelişmiş yongadır. Veri merkezi ölçeğinde hızlandırılmış AI, HPC, bellek bant genişliği, ara bağlantı ve iletişim için önemli gelişmeler içerir.

Transformer Engine

Transformer Engine, dünyanın en önemli yapay zeka modeli yapı taşı olan transformatörden oluşturulan modellerin eğitimini hızlandırmak için tasarlanmış Hopper Tensor Core teknolojisini kullanır. Hopper Tensör Çekirdekleri, transformerlar için AI hesaplamalarını önemli ölçüde hızlandırmak için FP8 ve FP16 hassasiyetlerini uygulayabilir.

NVLink Switch System

NVLink Switch System, PCIe Gen5’in bant genişliğinin 7 katından fazla, GPU başına çift yönlü olarak saniyede 900 gigabayt (GB/sn) ile birden çok sunucu genelinde çoklu GPU giriş/çıkışının (IO) ölçeklenmesini sağlar.
Sistem, 256 adede kadar H100 kümesini destekler ve NVIDIA Ampere mimarisinde InfiniBand HDR’den 9 kat daha yüksek bant genişliği sunar.

NVIDIA Confidental Computing

NVIDIA Confidental Computing, Hopper’ın yerleşik bir güvenlik özelliğidir Kullanıcılar, H100 GPU’ların eşsiz hızlanmasına erişirken kullanımda olan verilerinin ve uygulamalarının gizliliğini ve bütünlüğünü koruyabilir.

Second-Generation Multi-Instance GPU(MIG)

Second-Generation Multi-Instance GPU (MIG),  sanallaştırılmış ortamlarda multi-tenant ve multi-user yapılandırmaları destekler.

DPX Talimatları

Hopper’ın DPX talimatları, dinamik programlama algoritmalarını CPU’lara kıyasla 40 kat ve NVIDIA Ampere mimarisine sahip GPU’lara kıyasla 7 kat hızlandırır. Böylece, hastalık teşhisi, gerçek zamanlı yönlendirme optimizasyonu ve grafik analitiği gibi uygulamalarda büyük ölçüde hızlanma sağlar.