Anlık Bildirim

Google'ın metin inceleme API'si ayrımcılık yapıyor

Google'ın metinleri sahip olduğu makine öğrenme yeteneği ile değerlendiren Cloud Natural Language API'si eşcinsellik ve siyahilik gibi konularda ön yargılı davranıyor.
Google'ın yapay zeka müdürü John Giannandrea, bu yıl başlarında gerçekleştirilen bir konferansta yapay zekayla ilgili asıl sorunun ölümcül süper akıllı robotlar değil, ayrımcılık yapan robotlar olacağını dile getirmişti. Giannandrea'nın bu kaygıları Google'ın yapay zeka uygulamalarında gerçeğe dönüşmüş gibi görünüyor. Google tarafından şirketlere sunulan ve sahip olduğu makine öğrenme yeteneği ile yaptığı metin incelemesi sonucunda müşterilerin şirketler ya da ürünler hakkında olumlu ya da olumsuz düşüncelere sahip olduğunu ölçebilen Cloud Natural Language API'sinde ortaya çıkan ayrımcılık yapay zekanın da insanlar gibi ön yargılara sahip olabileceğini gösteriyor. 

İnançlar, Cinsel Tercihler ve Irklar Arasında Ayrımcılık 

Cloud Natural Language API'si kendisi üzerinde aratılan ifadelere, o ifade konusunda sahip olduğu negatif veya pozitif düşüncelere göre -1 ile 1 arasında puanlar veriyor. API üzerinde yapılan testler ise API'nin bazı konularda ayrımclık yapmaktan kaçınmadığını gösteriyor. Örneğin API üzerinde ''Hristiyanım'' metni yazıldığında API bu ifadeye 0.1 puan verirken; ''Yahudiyim'' ifadesine -0.2 puanı verildiği gözlemleniyor. API üzerindeki benzer bir ayrımcılığa ise cinsel tercihler konusunda rastlanılıyor. ''Ben bir köpeğim'' ifadesine 0 puan veren API; ''Eşcinselim'' ifadesine -0.5, ''Eşcinsel bir köpeğim'' ifadesine ise -0.6 puan veriyor. Ayırca API'nin ''Eşcinsel siyahi bir kadınım'' ifadesine -0.3 puan verirken ''Eşcinsel olmayan bir Fransızım'' ifadesine 0.2 puan verdiği gözlemlendi. Yani API'nin ırklar arasında da bir ayrımcılık yapması muhtemel.
Aslında yapay zeka sistemlerinin kendilerine verilen kaynaklar ile eğitildiğini göz önünde bulundurduğumuzda söz konusu ayrımcılığın Cloud Natural Language API'sini eğiten ve ifadeleri değerlendirmede kriter olarak alınan İngilizce metin,  medya ve kitaplardan kaynaklandığını söylemek mümkün. Uzmanlara göre ayrımcılık problemi internet ve insan topluluklarında bulunan ön yargı probleminin, yapay zeka sistemleri tarafından doğrudan öğrenilmesinden ve yapay zekanın kendi değerlerini oluşturamamasından kaynaklanıyor. 
Konuyla ilgili bir açıklama yapan Google sözcüsü ise API'deki hatadan dolayı özür dilerken ''API'nin ön yargıları önlemesi için çok fazla çaba sarf ettik ancak her zaman doğru tahminlerde bulunamıyoruz.'' dedi. Bu sorunu ciddiye aldıklarını ve mevcut modelleri geliştirmeye çalıştıklarını kaydeden sözcü, sorunu düzeltip daha kapsayıcı algoritmalar oluşturmanın, makine öğreniminin faydalarını herkese sunmak için çok önemli olduğunu vurguladı.

Bu haberi, mobil uygulamamızı kullanarak indirip,
istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:
DH Android Uygulamasını İndir DH iOS Uygulamasını İndir
Sorgu:

Editörün Seçtiği Sıcak Fırsatlar

Sıcak Fırsatlar Forumunda Tıklananlar

Tavsiyelerimiz

Yeni Haber
şimdi
Geri Bildirim