2025 Computex’te tanıtılan Project Battlematrix, birden çok Arc Pro GPU’nun birlikte çalıştığı iş istasyonları için tasarlanmış bütünleşik bir çözüm olarak lanse edilmişti. Bu proje, Arc Pro B-serisi “Battlemage” GPU’larını kullanarak yüksek performanslı yapay zeka çıkarım iş yüklerini hızlandırmayı hedefliyor. Intel, özellikle Linux sistemler için optimize ettiği bu çözümle, çoklu GPU kullanımını kolaylaştırıyor ve kullanıcıların karmaşık kurulumlarla uğraşmadan gelişmiş yapay zeka modellerini çalıştırabilmesini sağlıyor.
Battlematrix ilk büyük güncellemesini aldı
Intel’in yol haritasında üçüncü çeyrekte “Inference Optimized” konteyner dağıtımı, vLLM ön aşaması ve temel telemetri desteği sağlanacağı belirtilmişti; bu vaat LLM Scaler v1.0 ile gerçeğe dönüştü. Linux için tasarlanan yeni konteyner, çoklu GPU ölçeklendirme ve PCIe P2P veri aktarımları ile yüzde 80'e varan performans artışı sağlıyor.
LLM Scaler 1.0 sürümü, uzun ve karmaşık veri dizileri üzerinde dikkate değer performans artışları sunuyor. Örneğin, 32 milyar parametreli modellerde işlem hızı 1,8 kat artarken, daha büyük 70 milyar parametreli modellerde bu artış 4,2 katı buluyor. Ayrıca, 8 ila 32 milyar parametre aralığındaki modellerde çıktı verimliliği yaklaşık yüzde 10 artırıldı. Ayrıca, bellek kullanımını optimize eden yeni teknikler sayesinde daha verimli çalışma mümkün hale geliyor.
Intel’in amacı, Battlematrix ile yapay zeka çıkarımını daha erişilebilir ve güvenilir hale getirmek. ECC, telemetri ve uzaktan donanım yazılımı güncellemeleri gibi kurumsal özelliklerle desteklenen bu güncelleme hem geliştiricilere hem de şirketlere yüksek performans ve yönetilebilirlik vadediyor. Intel’in planlarına göre, bu güncellemeyi aynı çeyrekte daha sağlam ve yüksek performanslı bir konteyner sürümü takip edecek. Dördüncü çeyrekte ise tam özellik setine sahip nihai sürüm kullanıma sunulacak.
Haberi DH'de Gör
{{body}}
{{/longBody}} {{^longBody}}{{body}}
{{/longBody}}