AMD'nin yaklaşan Instinct MI300X ve MI300A GPU'ları detaylandı

Tam Boyutta Gör

AMD Instinct MI300X, Nvidia’nın yapay zeka üstünlüğünü kırabilir

AMD Instinct MI300X, yapay zeka segmentinde NVIDIA'nın Hopper ve Intel'in Gaudi hızlandırıcılarını açıkça hedef aldığı için kesinlikle üstünde en çok durulacak çözüm olacak. CDNA 3 mimarisi üzerinde tasarlanan çip, 5nm ve 6nm IP'lerin bir karışımına ev sahipliği yapacak. Bu sayede toplamda 153 milyar transistör ortaya koyulacak.

Tam Boyutta Gör

Instinct MI300X, selefinden bellek tarafında da önemli ölçüde ayrılacak. MI250X’te 128 GB bellek bulunurken bu kapasite yüzde 50 artırılarak toplamda 192 GB seviyesine yükseltilecek. AMD, bu kapasiteye ulaşmak için MI300X'i 8 HBM3 yığınıyla donatıyor ve her bir yığın 24 GB kapasite sağlıyor. Bununla birlikte bellekler MI300X'e 5,2 TB/s'ye kadar bant genişliği ve 896 GB/s Infinity Fabric bant genişliği sağlayacak.

NVIDIA'nın yakında çıkacak olan H200 AI hızlandırıcısı 141 GB kapasite sunarken, Intel'in Gaudi 3'ü 144 GB kapasite sunacak. Büyük bellek havuzları, çoğunlukla belleğe bağlı olan büyük dil modelleri (LLM) için oldukça önemli. Karşılaştırmalar için:

• Instinct MI300X - 192 GB HBM3
• Gaudi 3 - 144 GB HBM3
• H200 - 141 GB HBM3e
• MI300A - 128 GB HBM3
• MI250X - 128 GB HBM2e
• H100 - 96 GB HBM3
• Gaudi 2 - 96 GB HBM2e

Güç tüketimi tarafında da AMD oldukça iyi görünüyor gibi. MD Instinct MI300X, Instinct MI250X'in 500W'ına göre %50 artışla 750W güç tüketimine sahip olacak. Nvidia’nın yeni H200 GPU’suna göre ise 50W daha fazla güç tüketecek.

AMD Instinct MI300A ile Exascale APU’lar geliyor

Tam Boyutta Gör

Kardeşinde bulunan iki GCD kalıbı çıkartılarak yerine kendi ayrı önbellek ve çekirdek IP havuzlarını sunan üç Zen 4 CCD yerleştirilmiş durumda. CCD başına 8 çekirdek ve 16 iş parçacığı düşüyor, böylece aktif kalıpta toplam 24 çekirdek ve 48 iş parçacığı oluyor. Ayrıca 24 MB L2 önbellek (çekirdek başına 1 MB) ve ayrı bir önbellek havuzu (CCD başına 32 MB) bulunmakta. Diğer detaylar ise oldukça benzer.

Kısaca AMD Instinct MI300 hızlandırıcıları

• İlk entegre CPU+GPU paketi
• Exascale Süper Bilgisayar pazarını hedefliyor
• AMD MI300A (Tümleşik CPU + GPU)
• AMD MI300X (Yalnızca GPU)
• 153 milyar transistör
• 24 Zen 4 çekirdeğe kadar
• CDNA 3 GPU mimarisi
• 192 GB'a kadar HBM3 Bellek
• 5nm + 6nm süreci

Instinct MI300 hızlandırıcıları AMD için büyük bir adım olacak ancak rakipler de boş durmuyor. Nvidia, H200 ile birlikte bellek tarafında HBM3e çözümlerini kullanmaya başladı ancak mevcut H100’ün üzerine çok fazla şey koymadı. Ancak Nvidia, 2024 için Blackwell GPU'ları hazırlıyor ve bu aile büyük yükseltmelerle geliyor olacak. 6 Aralık’ta AMD, Instinct MI300 ailesini tüm detaylarıyla açıklayacak.

Bu haberi, mobil uygulamamızı kullanarak indirip,
istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz: