Özellikler
A. Cluster Genel özellikleri:
| Özellik | Değer |
| Node Sayısı | 4 |
| Sistem Platformu | NVIDIA DGX Spark veya seçilen uyumlu GB10 sistemi |
| Toplam Sistem Belleği | 512 GB dağıtık unified memory |
| Node Başına Bellek | 128 GB LPDDR5x |
| Toplam Yerel Depolama | 16 TB NVMe, 4 × 4 TB konfigürasyonda |
| Node Başına AI Performansı | 1 PFLOP’a kadar FP4 |
| Compute Bağlantısı | Node başına 200GbE |
| ConnectX-7 Arayüz Yapısı | İşletim sistemi ve sürücü yapılandırmasına bağlı olarak birden fazla mantıksal arayüz olarak görüntülenebilir |
| In-Band Management | Node başına 10GbE |
| Compute Topolojisi | Ethernet switch tabanlı yıldız topoloji |
| Opsiyonel Paylaşımlı Depolama | 64 TB RAW NAS |
| Paralel Çalışma | Tensor parallel, pipeline parallel, distributed inference |
| İşletim Sistemi | NVIDIA DGX OS veya seçilen sistemin desteklenen NVIDIA yazılım ortamı |
| Compute Protokolü | RoCEv2 üzerinden RDMA destekli Ethernet |
| RDMA Adaptörü | NVIDIA ConnectX-7 |
| Compute Kullanımı | NCCL, model paralelleştirme ve dağıtık inference iletişimi |
| Ağ Ayrımı | 200GbE compute ve 10GbE management ağları ayrı |
B. Node özellikleri (Nvidia DGX Spark İçin):
| Özellik | Node Başına |
| Mimari | NVIDIA Grace Blackwell |
| Superchip | NVIDIA GB10 |
| GPU | NVIDIA Blackwell |
| CPU | 20 çekirdek Arm, 10 × Cortex-X925 + 10 × Cortex-A725 |
| Tensor Çekirdekleri | 5. Nesil |
| RT Çekirdekleri | 4. Nesil |
| AI Performansı | 1 PFLOP’a kadar FP4 |
| Sistem Belleği | 128 GB LPDDR5x coherent unified memory |
| Bellek Bant Genişliği | 273 GB/s’ye kadar |
| Depolama | 4 TB NVMe M.2 |
| Standart Ethernet | 10GbE RJ45 |
| Yüksek Hızlı NIC | ConnectX-7 |
| Kablosuz | Wi-Fi 7 |
| Bluetooth | Bluetooth 5.4 |
| USB | 4 × USB Type-C |
| Görüntü Çıkışı | HDMI 2.1a |
| İşletim Sistemi | NVIDIA DGX OS |
| Boyut | 150 × 150 × 50,5 mm |
| Ağırlık | Yaklaşık 1,2 kg |
C. Ağ bileşenleri:
| Bileşen | Görev |
| MikroTik CRS812 | RoCEv2 compute trafiğini taşıyan yüksek hızlı Ethernet switch |
| FS QDD-400G-2QPC015 | 400G QSFP-DD → 2 × 200G QSFP56 breakout |
| Kablo Sayısı | 2 |
| Kablo Uzunluğu | 1,5 m (1m Opsiyonlu) |
| MikroTik CRS312 | Management, internet, SSH ve NAS trafiği |
| Spark Management Kabloları | 6 × Cat6 |
| Compute Bağlantısı | Spark başına 200GbE |
| Management Bağlantısı | Spark başına 10GbE |
| RoCEv2/RDMA | Spark node’ları arasında yüksek hızlı compute iletişimi |
| NVIDIA ConnectX-7 | RoCEv2 ve RDMA destekli node ağ adaptörü |
D. Opsiyonel NAS özellikleri:
| Özellik | Örnek Konfigürasyon |
| NAS | ASUSTOR Lockerstor AS6808T |
| Disk Yuvası | 8 |
| Standart Disk Konfigürasyonu | 8 × 8 TB |
| Örnek Disk Modeli | Western Digital WD80EFPX-68C4ZN0 |
| RAW Kapasite | 64 TB |
| RAID Seçenekleri | RAID 0, RAID 5, RAID 6 ve cihazın desteklediği diğer seviyeler |
| Ağ Bağlantısı | 2 × Ethernet, IEEE 802.3ad LACP bonding |
| Bağlandığı Ağ | MikroTik CRS312 management/storage ağı |
| Özelleştirme | Disk markası, model numarası ve kapasitesi değiştirilebilir |
Aşağıdaki sonuçlar, OpenZeka tarafından farklı DGX Spark topolojilerinde gerçekleştirilen testlerden alınmıştır. Tüm ölçümler Concurrency = 1, Mean istatistiği ile verilmiştir.
1, 2, 3, 4 ve 8 Spark sonuçlarının birlikte sunulmasının amacı, kullanıcıların çalıştıracakları modele, paralelleştirme yöntemine ve performans beklentisine göre uygun cluster boyutunu karşılaştırabilmesini sağlamaktır.
TP, tensor parallelism; PP, pipeline parallelism anlamına gelir. Boş alanlar ilgili model ve topoloji için henüz test sonucu bulunmadığını veya konfigürasyonun modelin bellek ve paralelleştirme gereksinimleri nedeniyle uygulanamadığını gösterir.
Üretim Hızı, TPS
Yüksek değer daha iyidir.
| Model | 1 Spark | 2 Spark | 3 Spark Ring | 4 Spark Switch | 8 Spark Switch |
| gemma-4-31B-it-NVFP4 | 10,81 | 19,42 | — | 30,53 | 36,93 |
| Qwen3.6-27B-NVFP4 | 12,63 | 22,57 | — | 33,11 | 33,99 |
| Qwen3.6-35B-A3B-NVFP4 | 64,52 | 91,95 | — | 91,16 | — |
| MiniMax-M2.7-NVFP4, PP | — | 17,20, PP-2 | 18,04, PP-3 | — | — |
| MiniMax-M2.7-NVFP4, TP | — | 26,64 | — | — | — |
| Qwen3.5-397B-A17B-int4 | — | — | 17,05 | 38,14 | — |
| glm-5.2-int4 | — | — | — | 20,16 | — |
| glm-5.2-nvfp4 | — | — | — | — | 24,86 |
İlk Token Süresi, TTFT
Düşük değer daha iyidir.
| Model | 1 Spark | 2 Spark | 3 Spark Ring | 4 Spark Switch | 8 Spark Switch |
| gemma-4-31B-it-NVFP4 | 201,96 ms | 136,35 ms | — | 279,77 ms | 326,54 ms |
| Qwen3.6-27B-NVFP4 | 233,30 ms | 148,87 ms | — | 163,59 ms | 263,59 ms |
| Qwen3.6-35B-A3B-NVFP4 | 500,24 ms | 165,31 ms | — | 230,82 ms | — |
| MiniMax-M2.7-NVFP4, PP | — | 396,35 ms, PP-2 | 211,39 ms, PP-3 | — | — |
| MiniMax-M2.7-NVFP4, TP | — | 288,98 ms | — | — | — |
| Qwen3.5-397B-A17B-int4 | — | — | 499,65 ms | 324,61 ms | — |
| glm-5.2-int4 | — | — | — | 571,82 ms | — |
| glm-5.2-nvfp4 | — | — | — | — | 451,23 ms |
Sonuçlar, test edilen model, quantization, yazılım sürümü ve çalışma parametrelerine aittir. Context uzunluğu, prompt uzunluğu, üretim token sayısı, batch büyüklüğü, KV cache ihtiyacı, paralelleştirme yöntemi ve ağ iletişim maliyeti sonuçları değiştirebilir.
Daha fazla Spark kullanılması her modelde doğrusal TPS artışı veya daha düşük TTFT sağlamaz. Bazı modeller hesaplama kapasitesinden yararlanırken bazı iş yüklerinde node’lar arası iletişim maliyeti daha belirleyici hâle gelebilir.
Cluster boyutu yalnızca en yüksek token/s değerine göre seçilmemelidir. Modelin belleğe sığması, desteklediği paralelleştirme yöntemi, hedef context uzunluğu ve eşzamanlı kullanıcı sayısı da değerlendirilmelidir.
Bu değerler garanti edilen minimum performans değerleri değil, OpenZeka tarafından test edilen konfigürasyonların referans sonuçlarıdır.
Hangi Cluster Boyutu?
| Yapı | Genel Kullanım Yaklaşımı |
| 1 Spark | Tek node’a sığan modeller, geliştirme ve düşük eşzamanlı inference |
| 2 Spark | İki node'lu tensor/pipeline parallel senaryoları ve daha yüksek toplam bellek kapasitesi |
| 3 Spark Ring | Üç node'lu TP/PP senaryoları ve switch gerektirmeyen kompakt yapı |
| 4 Spark Switch | Dört node'lu TP/PP, daha büyük modeller ve merkezi compute fabric |
| 8 Spark Switch | Daha yüksek toplam bellek ihtiyacı ve sekiz node’u destekleyen dağıtık iş yükleri |
Uygun cluster boyutu modele göre değişir. Satın alma öncesinde çalıştırılacak model, quantization, context uzunluğu ve hedef kullanım senaryosu OpenZeka ile paylaşılabilir.
Kurulum
DGX Spark Quad AI Cluster kurulumu; fiziksel bağlantıların yapılması, compute switch portlarının hazırlanması, 200 Gbps link hızının doğrulanması, management ve compute ağlarının ayrılması, node IP adreslerinin yapılandırılması, SSH erişiminin hazırlanması ve çoklu node iletişiminin test edilmesi aşamalarından oluşur.
Müşteri, cluster kurulumunu kendi gerçekleştirebilir veya OpenZeka’nın ücretsiz ön kurulum hizmetinden yararlanabilir.
Kurulumsuz teslimatta DGX Spark sistemleri, switch’ler ve bağlantı kabloları standart paket içeriğiyle gönderilir. Fiziksel kurulum, switch yapılandırması, IP adresleme, RoCEv2/RDMA ayarları, SSH erişimi ve cluster doğrulaması müşteri tarafından gerçekleştirilir.
Ücretsiz ön kurulum tercih edildiğinde OpenZeka tarafından:
-
Compute ve management ağları hazırlanır
-
MikroTik CRS812 ve CRS312 temel yapılandırmaları yapılır
-
200GbE compute bağlantıları doğrulanır
-
ConnectX-7 ve RoCEv2/RDMA cihaz görünürlüğü kontrol edilir
-
Node’lar arası temel erişim hazırlanır
-
SSH ve temel cluster iletişimi test edilir
-
NCCL iletişim doğrulaması gerçekleştirilir
Sistem, müşteri ortamındaki nihai IP, VLAN, DNS, NTP, internet ve güvenlik ayarları tamamlanmak üzere hazır şekilde gönderilir.
OpenZeka’nın ücretsiz ön kurulum hizmeti; standart ağ hazırlığı, node erişimi, 200GbE bağlantı kontrolü, RoCEv2/RDMA cihaz doğrulaması, NCCL iletişim testi ve temel cluster sağlık kontrolünü kapsar. Müşteriye özel yazılım, model, güvenlik ve entegrasyon çalışmaları ayrıca kapsamlandırılır.
