Google'ın metin inceleme API'si ayrımcılık yapıyor

İnançlar, Cinsel Tercihler ve Irklar Arasında Ayrımcılık
Yorumlar

Google'ın yapay zeka müdürü John Giannandrea, bu yıl başlarında gerçekleştirilen bir konferansta yapay zekayla ilgili asıl sorunun ölümcül süper akıllı robotlar değil, ayrımcılık yapan robotlar olacağını dile getirmişti. Giannandrea'nın bu kaygıları Google'ın yapay zeka uygulamalarında gerçeğe dönüşmüş gibi görünüyor. Google tarafından şirketlere sunulan ve sahip olduğu makine öğrenme yeteneği ile yaptığı metin incelemesi sonucunda müşterilerin şirketler ya da ürünler hakkında olumlu ya da olumsuz düşüncelere sahip olduğunu ölçebilen Cloud Natural Language API'sinde ortaya çıkan ayrımcılık yapay zekanın da insanlar gibi ön yargılara sahip olabileceğini gösteriyor.

İnançlar, Cinsel Tercihler ve Irklar Arasında Ayrımcılık

Cloud Natural Language API'si kendisi üzerinde aratılan ifadelere, o ifade konusunda sahip olduğu negatif veya pozitif düşüncelere göre -1 ile 1 arasında puanlar veriyor. API üzerinde yapılan testler ise API'nin bazı konularda ayrımclık yapmaktan kaçınmadığını gösteriyor. Örneğin API üzerinde ''Hristiyanım'' metni yazıldığında API bu ifadeye 0.1 puan verirken; ''Yahudiyim'' ifadesine -0.2 puanı verildiği gözlemleniyor. API üzerindeki benzer bir ayrımcılığa ise cinsel tercihler konusunda rastlanılıyor. ''Ben bir köpeğim'' ifadesine 0 puan veren API; ''Eşcinselim'' ifadesine -0.5, ''Eşcinsel bir köpeğim'' ifadesine ise -0.6 puan veriyor. Ayırca API'nin ''Eşcinsel siyahi bir kadınım'' ifadesine -0.3 puan verirken ''Eşcinsel olmayan bir Fransızım'' ifadesine 0.2 puan verdiği gözlemlendi. Yani API'nin ırklar arasında da bir ayrımcılık yapması muhtemel.

Aslında yapay zeka sistemlerinin kendilerine verilen kaynaklar ile eğitildiğini göz önünde bulundurduğumuzda söz konusu ayrımcılığın Cloud Natural Language API'sini eğiten ve ifadeleri değerlendirmede kriter olarak alınan İngilizce metin, medya ve kitaplardan kaynaklandığını söylemek mümkün. Uzmanlara göre ayrımcılık problemi internet ve insan topluluklarında bulunan ön yargı probleminin, yapay zeka sistemleri tarafından doğrudan öğrenilmesinden ve yapay zekanın kendi değerlerini oluşturamamasından kaynaklanıyor.

Konuyla ilgili bir açıklama yapan Google sözcüsü ise API'deki hatadan dolayı özür dilerken ''API'nin ön yargıları önlemesi için çok fazla çaba sarf ettik ancak her zaman doğru tahminlerde bulunamıyoruz.'' dedi. Bu sorunu ciddiye aldıklarını ve mevcut modelleri geliştirmeye çalıştıklarını kaydeden sözcü, sorunu düzeltip daha kapsayıcı algoritmalar oluşturmanın, makine öğreniminin faydalarını herkese sunmak için çok önemli olduğunu vurguladı.