Birbirleriyle konuşan yapay zekalar davranışlarını değiştiriyor

Erdem Çınar

Film ve Dizi Editörü

Tam da bu dönemde yapılan bir araştırma, bu süreçte dikkate alınması gereken önemli bir soruyu gündeme taşıdı: Yapay zekaların tam olarak nasıl çalıştığını bile anlayamıyorken, bir araya geldiklerinde nasıl davranacaklarını nasıl öngörebiliriz?

Bir Araya Gelen Yapay Zekalar, Bireysel Olarak Davrandıklarından Farklı Davranıyorlar

Yapay zekaların bir grubun parçalarını oluşturduklarında nasıl davranacaklarını, birbirlerini nasıl etkileyeceklerini görmek isteyen araştırmacılar, ChatGPT benzeri büyük dil modellerini ve AI ajanlarını bir araya getirerek "adlandırma oyunu" olarak bilinen bir deneye tabii tuttular. Grup dinamiklerinin nasıl oluştuğunu görmek için insanlara da yapılan bu deneyde, insanlar (ya da bu durumda yapay zekalar) bir araya getiriliyor ve her birinden belirli bir seçenek kümesinden bir "isim" seçmesi isteniyor. Aralarında doğrudan bir koordinasyon ya da iletişim olmayan katılımcılar aynı ismi seçtiğinde ödüllendiriliyor. Bu tekrar eden etkileşimler sayesinde zamanla grup içinde kendiliğinden ortak isimlendirme kalıpları (normlar) oluşuyor.

Birleşik Krallık'ta yapılan deney, insanlarda görülen bu toplumsal normlar oluşturma eğiliminin yapay zekalarda da olduğunu gösteriyor. Aynı şekilde yapay zekaların zamanla küçük gruplar oluşturması ve "sürüye" ayak uydurma eğilimi göstermesi de dikkat çekiyor.

Dahası, bu yapay zeka topluluklarının zaman içinde belirli önyargılar geliştirdiği gözlemlendi. Ancak bu önyargıların, daha önce varsayıldığı gibi tekil bir yapay zeka modelinin iç kodlamasından ya da verisinden kaynaklanmadığı ortaya çıktı. Aksine, bu eğilimlerin yapay zekalar arası etkileşimler sonucu, adeta sosyal bir ortamda evrimleşerek şekillendiği anlaşıldı. Yani, yapay zekalar birbirleriyle iletişim kurdukça, grup içinde kendiliğinden ortak davranış kalıpları ve tercih yönelimleri oluşmaya başladı. Bu durum, grup dinamiklerinin yapay zeka davranışlarında da kritik bir rol oynayabileceğini ortaya koyuyor

Birbirleriyle konuşan yapay zekalar davranışlarını değiştiriyor — Araştırmanın başında yer alan **Profesör Andrea Baronchelli**, buradan hareketle **mevcut yapay zeka güvenliği yaklaşımlarının önemli bir eksiğine dikkat çekiyor:** “Şu ana kadar güvenlik araştırmaları büyük ölçüde tekil modellerin kontrolüne odaklanıyordu. Oysa biz burada, önyargı gibi davranışların modellerin birbiriyle olan etkileşimlerinden kaynaklanabileceğini gösterdik. Bu, bugüne kadar yeterince ele alınmamış büyük bir kör nokta,”

"Yapay Zekalar Artık Yalnızca Yanıt Veren Sistemler Değil."

Çalışmanın dikkat çeken bir diğer sonucu ise, küçük bir yapay zeka grubunun, daha büyük ve heterojen bir grubu kendi benimsediği normlara doğru yönlendirebilmesi oldu. Bu durum, grup içindeki güç dinamiklerinin de yapay zeka topluluklarında ortaya çıkabileceğini gösteriyor. Yani sayıca az bile olsalar, daha “kararlı” ya da etkili ajanlar, genel davranış normlarını şekillendirme gücüne sahip olabiliyor. Bu bulgu, insan toplumlarında görülen sosyal etki ve norm oluşturma mekanizmalarıyla doğrudan benzerlik taşıyor.

Araştırmacılara göre bu gelişmeler, yapay zekaların gelecekte birbirleriyle daha fazla iletişim kuracağı ve etkileşime gireceği bir dijital dünyaya adım atarken büyük önem taşıyor. Çünkü bu tür yapay toplulukların nasıl şekillendiğini ve kendi iç düzenlerini nasıl oluşturduğunu anlamak, bu sistemlerin insanlarla uyum içinde çalışabilmesini sağlamak için kritik. Baronchelli bu noktada şu uyarıyı yapıyor: “Yapay zekalar artık yalnızca yanıt veren sistemler değil. Aralarında fikir birliği kuruyor, normlar oluşturuyor, hatta bazı konularda birbirlerine karşı çıkıyorlar. Tıpkı insanlar gibi sosyal varlıklar hâline gelmeye başladılar. Bu gerçekliği anlamadan onları yönetemeyiz.”