Enerji tüketimi yüzde 95 düşüyor
BitEnergy AI araştırmacıları, yapay zekanın enerji tüketimini önemli ölçüde azaltabilecek bir teknik geliştirdiklerini söylüyor. Araştırma, bu yöntemin enerji tüketimini yüzde 95 oranında azaltabileceğini öne sürüyor. Ekip, bu buluşa Linear-Complexity Multiplication ya da kısaca L-Mul adını verdi. Bu hesaplama süreci, yapay zeka ile ilgili görevlerde kayan nokta çarpımlarından çok daha az enerji gerektiren ve daha az adım içeren tamsayı toplama işlemlerini kullanıyor.
Yapay zeka hesaplamalarında genellikle çok büyük veya çok küçük sayıları işlemek için kayan noktalı sayılar kullanılıyor. Bu sayede karmaşık hesaplamaları kesin bir şekilde gerçekleştirmek mümkün oluyor. Ancak bu hassasiyet, yüksek enerji tüketimini de beraberinde getiriyor.
Yapay zeka alanındaki enerji tüketimi esasında yolun en başından beri bir sorun olmaya devam ediyor. Örneğin ChatGPT, her gün 549 MWh elektrik kullanıyor; bu, 18 bin evin elektrik kullanıma eşdeğer. Üstelik bu tüketim yeni modellerle birlikte daha da artacak. Analistlere göre 2027 yılına kadar yapay zeka endüstrisi yıllık 85 ila 134 TWh arasında elektrik tüketecek.
L-Mul algoritması, karmaşık kayan noktalı çarpımları daha basit tamsayı toplama işlemleri ile hesaplamaları çözerek bu aşırı enerji israfını hedef alıyor. Yapılan algoritma testlerinde yapay zeka modellerinin doğruluğunu korurken enerji tüketimini, tensör çarpımları için yüzde 95 ve nokta çarpımları için yüzde 80 oranında azalttığı gözlemlendi. Algoritma aynı zamanda mevcut 8-bit hesaplama standartlarını aşarak daha az bit düzeyi hesaplama ile daha yüksek hassasiyet sağlıyor. Yeni algoritmanın kapsamlı testlerde yalnızca yüzde 0,07 oranında bir performans kaybı gözlemlendi.
L-Mul algoritması, GPT (Generative Pre-trained Transformer) tabanlı modellerde en iyi performansı sunabiliyor. Bunların hepsi iyi haberler ama kötü haberler de var. İşin en tatsız yanı L-Mul algoritmasının özel bir donanım gerektiriyor olması. Mevcut yapay zeka işleme süreçleri, bu tekniği kullanmak için optimize edilmemiş durumda. Neyse ki firma, özel donanım ve programlama API'lerinin geliştirilmesi üzerinde çalışıyor. Bu çalışmaların makul bir zaman diliminde tamamlanması bekleniyor. Ondan sonraki en büyük zorluk ise Nvidia ve AMD gibi üreticilerin bunları benimsemesi olacak.
Bu haberi, mobil uygulamamızı kullanarak indirip,istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:
1 yaz kısa süre kullanım için ideal,
Hawli
Çok eğlenceli görünüyor :))
Baya eğlenceli görünüyor :)
Eğlenceli görünüyor
mars için birebir :)
Son derece farklı bir alet :D
çöp
türkiyede satılmıyor mu daha?
@ccguven evine giren surilere yemek olmuş ilk işleri yemek değilmiş...
Yine mi piramit ( sürekli gördüğüm masonik sembolleri vurguluyorum, istatistikleri bilelim, yerlileriyle iş yapmayalım )
Yurtdışı fiyatı bile 9k olunca insanın hevesi kaçıyor
Benim oğlana alayım bi tane
Efsane Türkiye’ye gelse alırım..
O ışık efektleri sadece yanlarda değil üstte de olmalıydı. Böylece tabancayı kullanan, kafasını yana eğmek zorunda kalıp, fıtık olmaz.
Mukemmel bir silah acaba ne kadar hızlı atıyor. [resim] [resim]
Fiyat makul olsa efsane olur gerçekten ya.
Vay bee, bu cihaz xiaomi çıktı ben de diyordum kim üretmiş..
hocam 4x daha iyi direk hs attirir
Über