Hot Chips 2025 etkinliğinde detaylandırılan ve 2026 yılında piyasaya sürülmesi planlanan Quantum-X ve Spectrum-X Ethernet Photonics adından da anlaşılacağı üzere ışık temelli bir yaklaşım.
Mevcut sorun ne?
Günümüzde büyük ölçekli AI kümelerinde birden fazla rafı (rack) kapsayan sunucular tek bir sistem gibi çalışmak zorunda. Bunun için switch’ler, tekil rafların tepesinden tüm sıraların sonuna taşındı ve GPU’lar ile ilk switch arasındaki mesafe arttı. 800 Gb/s hızında bakır kablolar bu mesafeleri güvenilir şekilde kat edemediği için optik bağlantılar zorunlu hale geldi. Ancak mevcuttaki standart olan plakaya takılan optik vericiler, ciddi dezavantajlar barındırıyor.
Nvidia’ya göre bir AI veri merkezi, geleneksel bulut veri merkezine kıyasla yaklaşık 17 kat daha fazla optik güç tüketiyor. Bunun temel nedeni, GPU kümelerinin artmasıyla birlikte, diğer GPU’larla iletişim kurmak için onlarca optik vericiye ihtiyaç duyulması. Network optiği maliyeti, toplam hesaplama gücünün %10’unu bulabiliyor.
Nvidia’nın yeni çözümleri
İlk nesil, OSFP konektörler için 1.6 Tb/s optik motorlar sunarken ikinci aşamada CoWoS paketlemeye geçişle 6.4 Tb/s bant genişliği sağlanacak. Son aşamada ise fotonik doğrudan işlemcilere entegre edilecek ve veri iletim hızı 12.8 Tb/s’ye kadar çıkarken gecikme ve güç tüketimi daha da azalacak.
Quantum-X InfiniBand switch’leri 2026 başında piyasaya çıkacak ve her biri 144 port üzerinden toplam 115 Tb/s veri aktarımı sunacak. Bu platform, 14.4 teraflop ağ içi işlem kapasitesine sahip ASIC içeriyor ve AI iş yüklerinde iletişim gecikmesini azaltmayı amaçlayan dördüncü nesil SHARP teknolojisini destekliyor. Tüm Quantum-X switch’ler sıvı soğutmalı olacak.
Aynı yılın ilerleyen döneminde Spectrum-X Photonics, CPO’yu Ethernet’e taşıyacak. Spectrum-6 ASIC ile çalışacak bu switch’ler iki modelle sunulacak. SN6810, 128 port üzerinden 102.4 Tb/s, SN6800 ise 512 port ve 409.6 Tb/s veri aktarımı sunacak. InfiniBand versiyonlarında olduğu gibi, bu Ethernet switch’ler de sıvı soğutma sistemine sahip olacak.
Haberi DH'de Gör