NVIDIA Hopper mimarisi üzerine kurulu olan NVIDIA H200, 4.8 terabayt/saniye hızında 141 gigabayt (GB) HBM3e bellek sunan ilk GPU’dur. ( NVIDIA H100 Tensor Core GPU’nun neredeyse iki katı kapasitede ve %1.4 daha fazla bellek bant genişliğine sahip olması anlamına geliyor.)H200’ün daha büyük ve hızlı belleği, üretken yapay zeka ve LLM’leri hızlandırırken, HPC iş yükleri için bilimsel hesaplama alanını daha iyi enerji verimliliği ve daha düşük toplam sahip olma maliyeti ile ilerletiyor.

NVIDIA L4’ün gücüyle video uygulamalarını dönüştürün. İster milyonlarca izleyiciye canlı yayın yapın, ister kullanıcıların yaratıcı hikayeler oluşturmasını sağlayın veya sürükleyici artırılmış ve sanal gerçeklik (AR/VR) deneyimleri sunun, L4 ile donatılmış sunucular mobil kullanıcılar için 720p30’da 1.040’a kadar eş zamanlı AV1 video akışını barındırmaya olanak tanır.

Ölçülen performans: 8x L4 ve 2S Intel 8362 CPU sunucu karşılaştırması, CV-CUDA® kod çözme, ön işleme, çıkarım (SegFormer), son işleme, kodlama, NVIDIA® TensorRT™ 8.6 ile OpenCV kullanan yalnızca CPU ardışık düzeni ile uçtan uca video hattı 4.7, PyTorch çıkarımı.
​

Yapay zeka ve video daha yaygın hale geldikçe, verimli ve uygun maliyetli bilgi işleme olan talep her zamankinden daha fazla artıyor. NVIDIA L4 Tensor Core GPU’lar 120 kata kadar daha iyi yapay zeka video performansı sunarak geleneksel CPU tabanlı altyapıya kıyasla yüzde 99’a kadar daha iyi enerji verimliliği ve daha düşük toplam sahip olma maliyeti sağlar. Bu, işletmelerin raf alanını azaltmalarına ve karbon ayak izlerini önemli ölçüde düşürmelerine olanak tanırken, veri merkezlerini çok daha fazla kullanıcıya ölçeklendirebilmelerini sağlar. CPU’lardan NVIDIA L4’lere geçerek 2 megawatt (MW) veri merkezinde tasarruf edilen enerji, bir yıl boyunca yaklaşık 2.000 eve güç sağlayabilir veya 10 yıl boyunca yetiştirilen 172.000 ağaçtan elde edilen karbon dengelemesine eşdeğerdir.

8x L4 ve 2S Intel 8362 CPU sunucu TCO karşılaştırması: CV-CUDA pre-and processşng, decode, inference (SegFormer), encode, TRT 8.6 ile birlikte uçtan uca pipeline ve OpenCV 4.7, PyTorch çıkarımı kullanan CPU pipeline

Ölçülen performans: L4 ve T4 görüntü oluşturma, 512×512 kararlı difüzyon v2.1, FP16, TensorRT 8.5.2.

Görüntüler ve metinler için üretken yapay zeka, tüm sektörlerde müşterilerin hayatlarını daha kolay ve deneyimlerini daha sürükleyici hale getirir. NVIDIA L4, önceki GPU nesline kıyasla 2,5 kata kadar daha yüksek performans sunarak yoğun işlem gerektiren üretken yapay zeka çıkarımlarını güçlendirir. Ayrıca yüzde 50 daha fazla bellek kapasitesine sahip olan L4, önceki GPU neslinde mümkün olmayan 1024×768’e kadar daha büyük görüntü üretimine olanak tanır.

Üçüncü nesil RT Çekirdekleri ve yapay zeka destekli NVIDIA Deep Learning Super Sampling 3 (DLSS 3) ile NVIDIA L4, yapay zeka tabanlı avatarlar, NVIDIA Omniverse™ sanal dünyaları, bulut oyunları ve sanal iş istasyonları için 4 kattan fazla daha yüksek performans sunar. Bu özellikler, içerik oluşturucuların CPU’larla mümkün olmayan sürükleyici görsel deneyimler için gerçek zamanlı, sinematik kalitede grafikler ve sahneler oluşturmasını sağlar.

Ölçülen performans: Gerçek zamanlı renderleme: NVIDIA Omniverse™ performansı, 1080p ve 4K’da NVIDIA Deep Learning Super Sampling (DLSS) 3 ile gerçek zamanlı renderleme için. Işın izleme: Işın izleme ve DLSS 3’ü destekleyen AAA başlıkları için oyun performansı geometrik ortalaması.

NVIDIA L4, NVIDIA veri merkezi platformunun ayrılmaz bir parçasıdır. Video, yapay zeka, NVIDIA RTX™ sanal iş istasyonu (vWS), grafik, simülasyon, veri bilimi ve veri analitiği için tasarlanan platform, 3.000’den fazla uygulamayı hızlandırır ve veri merkezinden uca ve buluta kadar her ölçekte kullanılabilir ve hem çarpıcı performans kazanımları hem de enerji verimliliği fırsatları sunar.

Ana akım dağıtımlar için optimize edilen L4, 72W düşük güç zarfında çalışan düşük profilli bir form faktörü sunarak NVIDIA’nın iş ortağı ekosistemindeki herhangi bir sunucu veya bulut örneği için verimli ve uygun maliyetli bir çözüm haline getirir.

Yapay zeka geliştirme ve dağıtımını kolaylaştırmak için optimize edilen NVIDIA AI Enterprise yazılım paketi, yaygın veri merkezi platformlarında ve NVIDIA L4 GPU’lu ana akım NVIDIA-Certified Systems™ üzerinde çalışacak şekilde onaylanmış yapay zeka çözümü iş akışlarını, çerçeveleri, önceden eğitilmiş modelleri ve altyapı optimizasyonunu içerir.

NVIDIA AI Enterprise, NVIDIA L4 GPU’lar için bir lisans ilavesidir ve eğitim, çıkarım ve veri biliminde en yüksek performansla yapay zekayı neredeyse her kuruluş için erişilebilir hale getirir. NVIDIA AI Enterprise, NVIDIA L4 ile birlikte yapay zekaya hazır bir platformun oluşturulmasını basitleştirir, yapay zeka geliştirme ve dağıtımını hızlandırır ve daha hızlı içgörü elde etmek ve iş değerine daha erken ulaşmak için performans, güvenlik ve ölçeklenebilirlik sunar.