Anlık Bildirim

AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı: 1KW sınırına yaklaşıyoruz!

AMD, geçtiğimiz günlerde düzenlediği etkinlik kapsamında yeni Instinct MI300 serisi hızlandırıcı kartlarını duyurmuştu. Şimdi ise Instinct MI300X’in güç tüketimi ayrıntıları ortaya çıktı.
AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı Tam Boyutta Gör
Teknolojik gelişmeler yaşandıkça ve üretim teknolojisindeki ilerlemelere daha küçük transistörlerin üretilmesi sayesinde bilgisayar donanımlarının daha az güç tüketeceğini düşünürdük. Ancak son yıllar bunun olmadığını gösteriyor. AMD’nin birkaç gün önce tanıttığı Instinct MI300X GPU’su da tam olarak bu durumu ortaya koyuyor. Yapay zeka iş yükleri için hazırlanan Instinct MI300X, 1 KW güç tüketim sınırına yaklaşıyor.

AMD, 1 KW sınırına doğru ilerliyor

Nvidia H100 GPU, 700W'a varan nominal güç tüketimiyle piyasaya sürüldüğünden beri en çok güç tüketen veri merkezi yongası olmuştu. Ancak bu durum daha da fazla güç tüketecek olan Instinct MI300X ile değişiyor. AMD'nin Instinct MI300X GPU'su piyasaya çıktığında 1KW'a yakın güç tüketerek en fazla güç tüketen yonga olacak.

AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı Tam Boyutta Gör
AMD’nin belgelerine göre Instinct MI300X OAM GPU hızlandırıcısı 750W güç tüketimine sahip olacak. Karşılaştırma yapmak gerekirse, CDNA 2 GPU mimarisini temel alan Instinct MI250X GPU'ları 500 ila 560 Watt arasında güç tüketiyordu. Yani güç gereksinimleri tek bir nesilde yüzde 34-50 oranında artmış durumda. Öte yandan çipin tasarımı ve sunduğu performans göz önüne alındığında bu güç artışı beklenen bir durum. Çip, yapay zeka iş yüklerinde 8 kat performans artışı sağlarken 5 kat daha verimli çalışıyor.

Önceki nesle göre dev iyileşmeler var

AMD Instinct MI300X GPU'nun MI250X'te yer alan 220 işlem birimine karşılık 304 CDNA 3 işlem birimine sahip olması bekleniyor. Bu da yüzde 38'lik bir artış anlamına geliyor. Ayrıca çip, 192 GB kapasitede HBM3 bellek barındırıyor. Bu, MI250X tarafından kullanılan 128 GB HBM2e bellekten yüzde 50 daha fazla ve HBM3'ten bahsettiğimiz için çok daha yüksek aktarım hızları da göreceğiz.

Instinct MI300X GPU'nun ve devasa büyüklükteki 192 GB VRAM'in en büyük avantajı, büyük dil modellerini rakiplerinden daha az GPU ile çalıştırabilmesi olacak. Instinct MI300X, rakiplerinin 80 GB'lık H100 çiplerinden daha az GPU ile 540 Milyar parametreye kadar LLM çalıştırabiliyor.

"Nükleer reaktör gerekecek"

AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı Tam Boyutta Gör
GPU'lar ve HPC hızlandırıcıları giderek daha güçlü hale geldikçe bu güç gereksinimleri de artmaya devam ediyor. Yakın tarihli bir Gigabyte Sunucu yol haritası, CPU'ların, GPU'ların ve APU'ların 1000W güç bariyerine yaklaşacağını gösteriyordu. AMD kesinlikle en fazla güç tüketen yongaya sahip ancak kırmızı ekip aynı zamanda güç gereksinimlerini önemli ölçüde azaltmalarına olanak tanıyan bir dizi yonga ve paketleme teknolojisine de yatırım yaptı.

ISSCC 2023 konferansı sırasında AMD'nin CEO'su Dr. Lisa Su, yeni tasarımların benimsenmemesi halinde Zettascale bilişimin enerji talebini karşılamak için bir "Nükleer Reaktöre" ihtiyaç duyacağını ve bunun sadece bir sistem için geçerli olduğunu belirtti. Bununla birlikte, MI300X GPU'lar, özellikle PCIe form faktörlerinde daha düşük güç gereksinimleri ile muhafazakar varyantlarda da mevcut olacak. Bunlar henüz duyurulmadı ancak 2024 yılına kadar gelmeleri bekleniyor.

Bu haberi, mobil uygulamamızı kullanarak indirip,
istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:
DH Android Uygulamasını İndir DH iOS Uygulamasını İndir
Sorgu:

Editörün Seçtiği Sıcak Fırsatlar

Sıcak Fırsatlar Forumunda Tıklananlar

Tavsiyelerimiz

Yeni Haber
şimdi
Geri Bildirim