NVIDIA L4 Tensor Core GPU

Video, yapay zeka, görsel hesaplama, grafik ve sanallaştırma için evrensel hızlandırma.

NVIDIA L4 Tensor Core GPU

Video, yapay zeka, görsel hesaplama, grafik ve sanallaştırma çin evrensel hızlandırma.

Video, Yapay Zeka ve Grafik İş Yüklerinizi Hızlandırın

NVIDIA Ada Lovelace mimarisi tarafından desteklenen NVIDIA L4 Tensor Core GPU, video, yapay zeka, görsel hesaplama, grafik, sanallaştırma ve daha fazlası için evrensel, enerji tasarruflu hızlandırma sunar. Düşük profilli bir form faktöründe paketlenen L4, uçtan veri merkezine ve buluta kadar her sunucuda yüksek verim ve düşük gecikme süresi için uygun maliyetli, enerji tasarruflu bir çözümdür.

NVIDIA L4 Tensor Core GPU, bulutta ve uçta derin öğrenme, grafik ve video işleme uygulamalarını hızlandırmak için çok yönlü bir platform sunar. 24 GB GDDR6 bellek, x16 PCIe Gen4 bağlantısı ve 72 W maksimum güç zarfına sahiptir. Çalışmak için sistem hava akışına ihtiyaç duyan üstün termal tasarıma sahip pasif soğutmalı bir karttır ve zorlu ortamların üstesinden kolaylıkla gelir (NEBS-3 özellikli). NVIDIA Ada Lovelace mimarisinden güç alan L4, derin öğrenme ve makine öğrenimi eğitimi ve çıkarımı, video kod dönüştürme, yapay zeka ses (AU) ve video efektleri, veri işleme, veri analizi, sanal iş istasyonları, sanal masaüstü ve diğer birçok iş yükünü hızlandırmak için devrim niteliğinde çok hassasiyetli performans sağlar. NVIDIA AI’nın bir parçası olan L4, tüm yapay zeka çerçevelerini ve sinir ağı modellerini destekleyerek büyük ölçekli dağıtımların faydasını en üst düzeye çıkaran çarpıcı performans ve verimlilik sunar.

 

DERİN ÖĞRENME PERFORMANSI

NVIDIA Hopper mimarisi üzerine kurulu olan NVIDIA H200, 4.8 terabayt/saniye hızında 141 gigabayt (GB) HBM3e bellek sunan ilk GPU’dur. ( NVIDIA H100 Tensor Core GPU’nun neredeyse iki katı kapasitede ve %1.4 daha fazla bellek bant genişliğine sahip olması anlamına geliyor.)H200’ün daha büyük ve hızlı belleği, üretken yapay zeka ve LLM’leri hızlandırırken, HPC iş yükleri için bilimsel hesaplama alanını daha iyi enerji verimliliği ve daha düşük toplam sahip olma maliyeti ile ilerletiyor.

Gerçek Zamanlı Yapay Zeka Video Pipeline Performansını Deneyimleyin

NVIDIA L4’ün gücüyle video uygulamalarını dönüştürün. İster milyonlarca izleyiciye canlı yayın yapın, ister kullanıcıların yaratıcı hikayeler oluşturmasını sağlayın veya sürükleyici artırılmış ve sanal gerçeklik (AR/VR) deneyimleri sunun, L4 ile donatılmış sunucular mobil kullanıcılar için 720p30’da 1.040’a kadar eş zamanlı AV1 video akışını barındırmaya olanak tanır.

Ölçülen performans: 8x L4 ve 2S Intel 8362 CPU sunucu karşılaştırması, CV-CUDA® kod çözme, ön işleme, çıkarım (SegFormer), son işleme, kodlama, NVIDIA® TensorRT™ 8.6 ile OpenCV kullanan yalnızca CPU ardışık düzeni ile uçtan uca video hattı 4.7, PyTorch çıkarımı.

L4 ile Daha Az Enerji ve Alan Tüketin

Yapay zeka ve video daha yaygın hale geldikçe, verimli ve uygun maliyetli bilgi işleme olan talep her zamankinden daha fazla artıyor. NVIDIA L4 Tensor Core GPU’lar 120 kata kadar daha iyi yapay zeka video performansı sunarak geleneksel CPU tabanlı altyapıya kıyasla yüzde 99’a kadar daha iyi enerji verimliliği ve daha düşük toplam sahip olma maliyeti sağlar. Bu, işletmelerin raf alanını azaltmalarına ve karbon ayak izlerini önemli ölçüde düşürmelerine olanak tanırken, veri merkezlerini çok daha fazla kullanıcıya ölçeklendirebilmelerini sağlar. CPU’lardan NVIDIA L4’lere geçerek 2 megawatt (MW) veri merkezinde tasarruf edilen enerji, bir yıl boyunca yaklaşık 2.000 eve güç sağlayabilir veya 10 yıl boyunca yetiştirilen 172.000 ağaçtan elde edilen karbon dengelemesine eşdeğerdir.

8x L4 ve 2S Intel 8362 CPU sunucu TCO karşılaştırması: CV-CUDA pre-and processşng, decode, inference (SegFormer), encode, TRT 8.6 ile birlikte uçtan uca pipeline ve OpenCV 4.7, PyTorch çıkarımı kullanan CPU pipeline

Ölçülen performans: L4 ve T4 görüntü oluşturma, 512×512 kararlı difüzyon v2.1, FP16, TensorRT 8.5.2.

Üretken Yapay Zeka Performansını Hızlandırın

Görüntüler ve metinler için üretken yapay zeka, tüm sektörlerde müşterilerin hayatlarını daha kolay ve deneyimlerini daha sürükleyici hale getirir. NVIDIA L4, önceki GPU nesline kıyasla 2,5 kata kadar daha yüksek performans sunarak yoğun işlem gerektiren üretken yapay zeka çıkarımlarını güçlendirir. Ayrıca yüzde 50 daha fazla bellek kapasitesine sahip olan L4, önceki GPU neslinde mümkün olmayan 1024×768’e kadar daha büyük görüntü üretimine olanak tanır.

Grafik Performansını Optimize Edin

Üçüncü nesil RT Çekirdekleri ve yapay zeka destekli NVIDIA Deep Learning Super Sampling 3 (DLSS 3) ile NVIDIA L4, yapay zeka tabanlı avatarlar, NVIDIA Omniverse™ sanal dünyaları, bulut oyunları ve sanal iş istasyonları için 4 kattan fazla daha yüksek performans sunar. Bu özellikler, içerik oluşturucuların CPU’larla mümkün olmayan sürükleyici görsel deneyimler için gerçek zamanlı, sinematik kalitede grafikler ve sahneler oluşturmasını sağlar.

 

Ölçülen performans: Gerçek zamanlı renderleme: NVIDIA Omniverse™ performansı, 1080p ve 4K’da NVIDIA Deep Learning Super Sampling (DLSS) 3 ile gerçek zamanlı renderleme için. Işın izleme: Işın izleme ve DLSS 3’ü destekleyen AAA başlıkları için oyun performansı geometrik ortalaması.

İş Yüklerini Verimli ve Sürdürülebilir Bir Şekilde Hızlandırın

NVIDIA L4, NVIDIA veri merkezi platformunun ayrılmaz bir parçasıdır. Video, yapay zeka, NVIDIA RTX™ sanal iş istasyonu (vWS), grafik, simülasyon, veri bilimi ve veri analitiği için tasarlanan platform, 3.000’den fazla uygulamayı hızlandırır ve veri merkezinden uca ve buluta kadar her ölçekte kullanılabilir ve hem çarpıcı performans kazanımları hem de enerji verimliliği fırsatları sunar.

Ana akım dağıtımlar için optimize edilen L4, 72W düşük güç zarfında çalışan düşük profilli bir form faktörü sunarak NVIDIA’nın iş ortağı ekosistemindeki herhangi bir sunucu veya bulut örneği için verimli ve uygun maliyetli bir çözüm haline getirir.

Kurumsal Hazır Yapay Zeka Yazılımları ile Geliştirme ve Dağıtımı Kolaylaştırın

Yapay zeka geliştirme ve dağıtımını kolaylaştırmak için optimize edilen NVIDIA AI Enterprise yazılım paketi, yaygın veri merkezi platformlarında ve NVIDIA L4 GPU’lu ana akım NVIDIA-Certified Systems™ üzerinde çalışacak şekilde onaylanmış yapay zeka çözümü iş akışlarını, çerçeveleri, önceden eğitilmiş modelleri ve altyapı optimizasyonunu içerir.

NVIDIA AI Enterprise, NVIDIA L4 GPU’lar için bir lisans ilavesidir ve eğitim, çıkarım ve veri biliminde en yüksek performansla yapay zekayı neredeyse her kuruluş için erişilebilir hale getirir. NVIDIA AI Enterprise, NVIDIA L4 ile birlikte yapay zekaya hazır bir platformun oluşturulmasını basitleştirir, yapay zeka geliştirme ve dağıtımını hızlandırır ve daha hızlı içgörü elde etmek ve iş değerine daha erken ulaşmak için performans, güvenlik ve ölçeklenebilirlik sunar.

 

Özellikler

Form Faktör L4
FP32 30.3 teraFLOPs
TF32 Tensor Çekirdeği 120 teraFLOPS
FP16 Tensor Core 242 teraFLOPS
BFLOAT16 Tensor Çekirdeği 242 teraFLOPS
FP8 Tensor Çekirdeği 485 teraFLOPs
INT8 Tensor Çekirdeği 485 TOPs
GPU Belleği 24GB
GPU Bellek Bant Genişliği 300GB/s
NVENC | NVDEC | JPEG decoders 2 | 4 | 4
Max TDP 72W
Form Faktörü 1-slot düşük profil, PCIE
Ara Bağlantı PCIe Gen4 x16 64GB/s
Sunucu Performansı Partner and NVIDIA-Certified Systems with 1–8 GPUs

NVIDIA Omniverse + Dijital İkiz = Temiz Enerji

Küresel ısınmanın son zamanlarda hızlanması ve etkilerinin gözle görülür seviyeye gelmesi sebebiyle birçok araştırmacı, organizasyon ve hükümet, temiz ve güvenli enerji arayışı çalışmalarına hız kazandırdı. Birleşik Krall�...

NVIDIA, Yeni İnovasyonlarını Computex 2022’de Duyuruyor

Dijital ikizler, üretilmesi en kompleks ürünleri üretilebilir kılıyor. Donanım ve yazılımlar veri merkezlerini AI fabrikalarına dönüştürüyor. RTX'in gelişmesiyle oyunlar gerçeğe dönüşüyor. NVIDIA'nın Taipei'de düzenlediği Com...

NVIDIA GPU’ları Canlı Hücre Simülasyonlarını Mümkün Kılıyor

Canlı olan her hücre, enerji üretimi, protein sentezleme, gen transkripsiyonu gibi süreçlerden sorumlu binlerce bileşene sahiptir. Urbana-Champaign'deki Illinois Üniversitesi'ndeki bilim insanları, bu fiziksel ve kimyasal özellikleri parçac...