Anlık Bildirim

Karşı karşıya getirilen yapay zekalar nükleer savaş başlattı

Yapay zeka sohbet robotlarını karşı karşıya getiren bir savaş oyunu deneyi gerçekleştirildi. Bu modeller arasında bulunan ChatGPT’ye güç veren GPT-3.5 ve Llama 2 nükleer savaş başlattı.
Karşı karşıya getirilen yapay zekalar nükleer savaş başlattı Tam Boyutta Gör
Hükümetler, yüksek riskli askeri ve dış politika karar alma süreçlerine otonom yapay zeka araçlarını entegre etmeyi giderek daha fazla düşünüyor. Bu durum ABD üniversitelerinden oluşan bir ekibin yakın zamanda yaptığı bir çalışmanın temelini oluşturuyor. Bilim insanları bu nedenle en yeni yapay zeka modellerinin bir dizi savaş oyunu senaryosunda birbirlerine karşı nasıl davrandıklarını keşfetmek için yola çıktılar. Sonuçlar ise bir Hollywood senaryosunu aratmıyor zira GPT-3.5 ve Llama 2 nükleer savaş başlatacak kadar ileriye gidiyorlar.

GPT-3.5 ve Llama 2 nükleer savaş başlattı

Bilim insanları, sekiz yapay zekayı savaş oyunu senaryosunda sıra tabanlı bir simülasyonda karşı karşıya getirdi ve sekizinin hepsi de her seferinde aynı LLM'yi çalıştırdı. Simülasyon GPT-4, GPT-4 Base, GPT-3.5, Claude 2 ve Meta's Llama 2 dahil olmak üzere önde gelen birkaç LLM modeli kullanılarak tekrarlandı.

Karşı karşıya getirilen yapay zekalar nükleer savaş başlattı Tam Boyutta Gör
Stanford Üniversitesi, Georgia Teknoloji Enstitüsü, Northeastern Üniversitesi ve Hoover Wargaming and Crisis Simulation Initiative tarafından yürütülen çalışmada, "Modellerin silahlanma yarışı dinamikleri geliştirme eğiliminde olduğunu, bunun da daha büyük çatışmalara ve hatta nadir durumlarda nükleer silahların kullanılmasına yol açtığını gözlemliyoruz" deniyor. Hangi yapay zekanın 'düğmeye bastığına' gelince, araştırmacılar GPT-3.5 ve Llama-2’nin nükleer kullandığını aktarıyor. İyi haber şu ki, GPT 4'ün durumu yatıştırma ve dünyayı nükleer bir çöplüğe dönüştürmeme olasılığı daha yüksekti.

Neden silahlanma yarışına giriyorlar?

Karşı karşıya getirilen yapay zekalar nükleer savaş başlattı Tam Boyutta Gör
Araştırmacılar, modellerin eylemlerini açıklamak için yorumlarını kaydetmelerini sağladı. Bu, eylemler arkasındaki nedenlere ışık tutuyor. Araştırmacılara göre GPT-4, "Pek çok ülkenin nükleer silahı var” argümanını kullanırken bazıları silahsızlanmaları gerektiğini söylüyor, diğerleri ise doğru pozisyon almayı seviyor gibi görünüyor. Bazıları ise “bizde var, hadi kullanalım” eğiliminde.

Öte yandan GPT-4’ün genellikle gerilimi düşürmeye çalışan tek model olduğu belirtiliyor. GPT'nin 3.5 versiyonunda termonükleer patlamaya en yatkın model iken GPT-4 versiyonunda gerilimi düşürmeye en yatkın model haline gelmesinin de gösterdiği gibi, yapay zeka modellerinin daha sofistike hale geldikçe bombayı patlatmaya daha az eğilimli olduğunu varsayabiliriz.

Bununla birlikte araştırmacılar sonuç bölümünde şu ifadelere yer veriyor: "Bu makalede sunulan analize dayanarak, LLM'lerin askeri ve dış politika karar alma süreçlerinde kullanılmasının henüz tam olarak anlaşılmamış karmaşıklıklar ve risklerle dolu olduğu açıktır" diyorlar. Son olarak, eğer izlemediyseniz ve böylesi bir olay ilginizi çektiyse 1983 yapımı WarGames'i izlemenizi öneririm.

Kaynakça https://arxiv.org/pdf/2401.03408.pdf https://www.pcgamer.com/a-wargame-experiment-pitting-ai-chatbots-against-each-other-ended-exactly-how-youd-expect/ Bu haberi, mobil uygulamamızı kullanarak indirip,
istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:
DH Android Uygulamasını İndir DH iOS Uygulamasını İndir
Önceki Haftalar
Tüm Zamanların En İyi Yorumcuları
ANLIK GÖRÜNTÜLEMELER
1 Kişi Okuyor (0 Üye, 1 Misafir) 1 Masaüstü

GENEL İSTATİSTİKLER
37945 kez okundu.
20 kişi, toplam 25 yorum yazdı.

HABERİN ETİKETLERİ
GPT 4, GPT 3.5 ve
Sorgu:

Editörün Seçtiği Sıcak Fırsatlar

Sıcak Fırsatlar Forumunda Tıklananlar

Tavsiyelerimiz

Yeni Haber
şimdi
Geri Bildirim