AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı

AMD, 1 KW sınırına doğru ilerliyor
Önceki nesle göre dev iyileşmeler var
"Nükleer reaktör gerekecek"
Yorumlar

Metin Akpınar

Teknoloji Editörü

AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı — Teknolojik gelişmeler yaşandıkça ve üretim teknolojisindeki ilerlemelere daha küçük transistörlerin üretilmesi sayesinde bilgisayar donanımlarının daha az güç tüketeceğini düşünürdük. Ancak son yıllar bunun olmadığını gösteriyor. **AMD’**nin birkaç gün önce tanıttığı Instinct MI300X GPU’su da tam olarak bu durumu ortaya koyuyor. Yapay zeka iş yükleri için hazırlanan **Instinct MI300X, 1 KW güç tüketim sınırına yaklaşıyor.**

AMD, 1 KW sınırına doğru ilerliyor

Nvidia H100 GPU, 700W'a varan nominal güç tüketimiyle piyasaya sürüldüğünden beri en çok güç tüketen veri merkezi yongası olmuştu. Ancak bu durum daha da fazla güç tüketecek olan Instinct MI300X ile değişiyor. AMD'nin Instinct MI300X GPU'su piyasaya çıktığında 1KW'a yakın güç tüketerek en fazla güç tüketen yonga olacak.

Önceki nesle göre dev iyileşmeler var

AMD Instinct MI300X GPU'nun MI250X'te yer alan 220 işlem birimine karşılık 304 CDNA 3 işlem birimine sahip olması bekleniyor. Bu da yüzde 38'lik bir artış anlamına geliyor. Ayrıca çip, 192 GB kapasitede HBM3 bellek barındırıyor. Bu, MI250X tarafından kullanılan 128 GB HBM2e bellekten yüzde 50 daha fazla ve HBM3'ten bahsettiğimiz için çok daha yüksek aktarım hızları da göreceğiz.

Instinct MI300X GPU'nun ve devasa büyüklükteki 192 GB VRAM'in en büyük avantajı, büyük dil modellerini rakiplerinden daha az GPU ile çalıştırabilmesi olacak. Instinct MI300X, rakiplerinin 80 GB'lık H100 çiplerinden daha az GPU ile 540 Milyar parametreye kadar LLM çalıştırabiliyor.

"Nükleer reaktör gerekecek"

ISSCC 2023 konferansı sırasında AMD'nin CEO'su Dr. Lisa Su, yeni tasarımların benimsenmemesi halinde Zettascale bilişimin enerji talebini karşılamak için bir "Nükleer Reaktöre" ihtiyaç duyacağını ve bunun sadece bir sistem için geçerli olduğunu belirtti. Bununla birlikte, MI300X GPU'lar, özellikle PCIe form faktörlerinde daha düşük güç gereksinimleri ile muhafazakar varyantlarda da mevcut olacak. Bunlar henüz duyurulmadı ancak 2024 yılına kadar gelmeleri bekleniyor.