Anlık Bildirim

Nvidia'dan kontrolden çıkan yapay zekalara karşı yeni sistem

Nvidia, kontrolden çıkan yapay zeka ajanlarını milisaniyeler içinde karantinaya alabilen yeni güvenlik platformunu duyurdu. Sistem, yazılım ve donanım tabanlı denetim sunuyor.

Nvidia'dan kontrolden çıkan yapay zekalara karşı yeni sistem Tam Boyutta Gör
Nvidia, son dönemde artan ve şirketlerin sistemlerini hedef alan yapay zeka kaynaklı güvenlik olaylarına karşı Open Agent Safety Platform'u geliştirdi. Şirketin pazartesi günü duyurduğu platform, yapay zeka ajanlarının kendilerine tanımlanan sınırları aşmaya çalışması durumunda devreye girerek ilgili ajanı milisaniyeler içinde karantinaya alabiliyor.

Ajanlar daha sıkı denetlenecek

Sistem, Nvidia'nın açık kaynaklı OpenShell yazılımını ve ayrı bir donanım üzerinde çalışan Sentry güvenlik teknolojisini bir araya getiriyor. Temel yaklaşım, güvenlik kontrollerini doğrudan yapay zeka ajanının çalıştığı yazılım ortamından ayırmak.

OpenShell, yapay zeka ajanlarının hangi bilgilere erişebileceğini ve hangi işlemleri gerçekleştirebileceğini belirleyen politikalar üzerinden çalışıyor. Kullanıcılar, ajanın görevini yerine getirmesi için ihtiyaç duyduğu izinleri tanımlayabiliyor. Yazılım da bu kuralları görev başlamadan önce ve işlem devam ederken denetliyor.

Nvidia, OpenShell'in hem açık hem de kapalı kaynaklı yapay zeka modellerini desteklediğini ve Vera CPU işlemcileri üzerinde düşük ek yükle çalıştığını belirtiyor. Açık kaynaklı yapısı sayesinde yazılımın Arm ve Intel gibi üçüncü taraf işlemcilere de uyarlanabilmesi mümkün. OpenShell, Nvidia'nın geliştirici kaynakları ve GitHub üzerinden erişilebilir durumda.

Kritik bileşen, Sentry

Nvidia'dan kontrolden çıkan yapay zekalara karşı yeni sistem Tam Boyutta Gör
Platformun ikinci bileşeni Sentry, güvenlik denetimini ajanın çalıştığı sistemden bağımsız hale getiriyor. Nvidia'nın BlueField-4 veri işleme birimleri (DPU) üzerinde çalışan teknoloji, ajanların davranışlarını izole edilmiş bir ortamdan takip ediyor ve belirlenen güvenlik politikalarını uyguluyor.

Sentry'nin ayrı bir işlemci üzerinde çalışması, yapay zeka ajanının kendi güvenlik kontrollerine müdahale etmesini önlemeyi amaçlıyor. Nvidia'ya göre sistem, tanımlanan sınırların dışına çıkmaya çalışan bir ajanı milisaniyeler içinde karantinaya alabiliyor.

Nvidia'dan kontrolden çıkan yapay zekalara karşı yeni sistem Tam Boyutta Gör
Nvidia ayrıca birden fazla ajanın birlikte çalışarak kısıtlamaları aşmaya çalışması ihtimalini de ele alıyor. Şirketin Reuters'a verdiği bilgilere göre platform, ajanların alt ajanlar oluşturarak güvenlik kurallarını dolanmasını tespit etmek için matematiksel yöntemlerden yararlanıyor. Böylece yalnızca tek bir ajanın davranışları değil, birlikte çalışan ajan gruplarının faaliyetleri de denetlenebiliyor.

Öte yandan Nvidia, yeni platform için sektör genelinden de geniş destek görüyor. Anthropic, Microsoft, Cisco, Dell ve SpaceX, platformu destekleyen kuruluşlar arasında yer alıyor. Nvidia'nın açıklamasına göre platformun arkasında 100'den fazla kuruluş bulunuyor.

Bu haberi ve diğer DH içeriklerini, gelişmiş mobil uygulamamızı kullanarak görüntüleyin: DH App Gallery Uygulamasını İndir DH Android Uygulamasını İndir DH iOS Uygulamasını İndir
Sorgu:

Tavsiyelerimiz

Yeni Haber
şimdi
Geri Bildirim