Nvidia dünyanın en güçlü yapay zeka çipi Blackwell B200’ü tanıttı: İşte teknik detaylar
Nvidia’yı trilyon dolarlık şirket haline getiren Hopper H100 GPU'lara kıyasla 5 kata kadar performans artışı sunan yeni nesil Blackwell GPU mimarisi ve yeni Blackwell B200 GPU tanıtıldı.
Tam Boyutta GörNvidia, firmayı trilyon dolarlık şirket haline getiren ve dünyanın en değerli üçüncü şirketi konumuna yükselten Hopper H100 GPU'lara kıyasla 5 kata kadar performans artışı sunan yeni nesil Blackwell GPU mimarisini resmi olarak tanıttı. Rakipleri Nvidia’yı yakalamaya çalışırken firma Blackwell tabanlı yeni yeni Blackwell B200 GPU ve GB200 Superchip ürünlerini de resmen duyurdu. İşte tüm merak edilenler ve detaylar:
Nvidia Blackwell mimarisi ve yeni Blackwell B200
Tam Boyutta GörNvidia, düzenlediği etkinlikte Blackwell kod adlı yeni nesil AI & Tensor Core GPU mimarisini detaylandırdı. Beklendiği gibi Blackwell GPU'ları, Nvidia’nın aynı kalıp üzerinde iki GPU'yu bir araya getirdiği ilk MCM tasarımı olacak.
Blackwell mimarisi TSMC 4NP işlem sürecinde üretilen her bir hesaplama kalıbında toplam 104 Milyartransistör içeriyor. B100 GPU'lar, süper hızlı çipten çipe ara bağlantı sağlayan 10 TB/s yüksek bant genişliğine sahip bir arayüze sahip. Bu GPU'lar aynı paket üzerinde tek bir çip olarak birleştirilirken toplamda 208 milyar transistöre erişiliyor ve tümüyle GPU önbellek bütünlüğü sunuyor.
Tam Boyutta GörHopper ile karşılaştırıldığında, Nvidia Blackwell GPU 128 milyar daha fazla transistör, çip başına 20 petaFlop'a yükseltilmiş 5 kat daha fazla yapay zeka performansı ve 4 kat daha fazla yerleşik bellek sunuyor. Blackwell GPU’nun kendisi ise 8192 bit veri yolu arayüzünde 8 TB/s bellek bant genişliği ve 192 GB'a kadar 8 katmanlı HBM3e belleklerle donatılmış.Tam Boyutta GörNvidia, Blackwell GPU'ları tam donanımlı bir platform olarak sunuyor ve dört işlem kalıbı olan bu GPU'lardan ikisini tek bir Grace CPU (72 ARM Neoverse V2 CPU çekirdeği) ile birleştiriyor. Entegre devre üzerindeki GPU’lar hem birbirleriyle hem de Grace CPU ile 900GB/s NVLink arabağlantı protokolüyle bağlanıyor.Tam Boyutta GörNvidia çift GPU ve tek CPU çözümünü kullanan GB200'ün LLMçıkarım iş yükleri için 30 kat daha fazlaperformans sunduğunu belirtiyor. Öte yandan firma, H100'e göre maliyeti ve enerji tüketimini 25kata kadar azalttığını söylüyor. Nvidia açıkçası nesilden nesile büyük bir sıçrama yapıyor diyebiliriz. Öyle ki firmanın ifadelerine göre 1,8 trilyon parametreli bir yapay zeka modelinin eğitilmesi önceki nesilde 8.000 Hopper GPU ve 15 megawatt güç gerektiriyordu. Bugün ise 2.000 Blackwell GPU'su ve sadece 4 megawatt güç gerekiyor.Tam Boyutta GörBuradaki önemli gelişmelerden birisi de Nvidia’nın her bir nöron içinsekiz yerine dört bit kullanarak hesaplama, bant genişliği ve model boyutunu iki katına çıkaran ikinci nesil Transformer Engine motoru. İkinci önemli fark ise çok sayıda GPU'yu birbirine bağladığınızda ortaya çıkıyor: 576 GPU'nun saniyede 1,8 terabayt çift yönlü bant genişliğiyle birbiriyle konuşmasını sağlayan yeni 5. nesil NVLink. Bunun için Nvidia'nın 50 milyar transistörlü ve kendi yerleşik işlemcisine sahip yepyeni NVLink Switch yongasını üretmesi gerekti.Tam Boyutta GörElbette firmalar bu GPU’ları birkaç adet olarak satın almayacak, bunlardan tek seferde binlerce alınıyor. Bu bağlamda Nvidia, toplam 720 petaflop AI eğitim performansı veya 1.440 petaflop (diğer adıyla 1,4 exaflop) çıkarım için 36 CPU ve 72 GPU'yu tek bir sıvı soğutmalı rafa yerleştiren GB200 NVL72 paketini sunuyor. Şirket, Amazon, Google, Microsoft ve Oracle'ın bulut hizmeti iştiraklerine NVL72’i sunmayı planlıyor. Ek olarak yine şirketlere toplam 288 CPU, 576 GPU, 240 TB bellek ve 11,5 exaflop FP4 hesaplama için sekiz sistemi bir araya getiren DGX Superpod for DGX GB200 çözümü sağlanacak. Nvidia ayrıca HPC'lere yönelik HGX B200 platformunu da duyurdu. Blackwell Tensor Core GPU'ları içeren HGX B200 ve HGX B100 sistemleri önceki nesle kıyasla 15 kata kadar daha fazla çıkarım performansı sağlıyor.
Son sözler ve özet
Tam Boyutta GörToparlayacak olursak Nvidia, Grace CPU ile Blackwell B100 GPU'nun bir kombinasyonu olan GB200 olmak üzere iki yeni çözüm duyurdu. Bu çözümün 2024 yılında piyasaya sürülmesi hedefleniyor. Blackwell B200 GPU'lar hem mevcut Hopper platformlarıyla hem de veri merkezi üreticilerinin en yeni çözümleriyle uyumlu olarak çalışacak.Tam Boyutta GörHer GB200 Grace Blackwell Superchip, iki adet B200 AI GPU ve 72 adet aynı ARM Neoverse V2 çekirdeğine sahip tekil bir Grace CPU ile destekleniyor. Platform 40 PetaFlop hesaplama performansı (INT8) sunacak ve sadece HBM ile 16TB/s bellek bant genişliğinde devasa bir 864 GB bellek havuzu sunacak. Performans açısından GB200 Grace Blackwell Superchip platformu, H200 Grace Hopper platformuna göre yapay zeka performansında 30 kat artış sunacak.
Nvidia spesifik çıkış tarihi ve fiyat bilgisi paylaşmadı. Ancak H100 GPU'su çip başına 25.000 ile 40.000 dolar fiyatlarla alıcı buluyordu. Bu çiplere dayanan tüm sistemin maliyeti ise 200.000 dolara kadar çıkabiliyordu. Bu sistemlere olan talep o kadar yüksekti ki bekleme süreleri uzunca bir süre 11 ay seviyelerinde kalmıştı. Blackwell'ler için de talep daha şimdiden yüksek görünüyor.
İnce Satırlar
Liste Modu
Döşeme Modu
Sade Döşeme Modu
Blog Modu
Ozaman 2025 yılında Türkiye olmayacak ?