NVIDIA H100 NVL, PCIe tabanlı sunucu sistemlerinde büyük dil modellerini çok daha hızlı çalıştırmayı mümkün kılıyor. Daha yüksek performans, daha hızlı ve büyük HBM3 belleği ve NVIDIA NVLink  bağlantısıyla H100 NVL, Llama 2 70B modelinde NVIDIA A100 Tensor Core sistemlerine kıyasla 5 kata kadar daha fazla  performansa sahiptir.