Son Aramalarınız TEMİZLE
    Genel Hızlı Tercihler Sıfırla
    Header'ı Tuttur
    Header'da Teknoloji Gündemi
    Anasayfa
    Büyük Slayt ve Popüler Haberler
    Döşeme Stili Ana Akış
    Kaydırarak Daha Fazla İçerik Yükle
    İçerikleri Yeni Sekmede Aç
    Detay Sayfaları
    Kaydırarak Sonraki Habere Geçiş
    Renk Seçenekleri
    Gece Modu (Koyu Tema)
    Sadece Videolar için Gece Modu
    Haber Gir indirim kodu
    Anlık Bildirim

    Google'ın metin inceleme API'si ayrımcılık yapıyor

    Google'ın metinleri sahip olduğu makine öğrenme yeteneği ile değerlendiren Cloud Natural Language API'si eşcinsellik ve siyahilik gibi konularda ön yargılı davranıyor.
    Oy Ver
    Google'ın yapay zeka müdürü John Giannandrea, bu yıl başlarında gerçekleştirilen bir konferansta yapay zekayla ilgili asıl sorunun ölümcül süper akıllı robotlar değil, ayrımcılık yapan robotlar olacağını dile getirmişti. Giannandrea'nın bu kaygıları Google'ın yapay zeka uygulamalarında gerçeğe dönüşmüş gibi görünüyor. Google tarafından şirketlere sunulan ve sahip olduğu makine öğrenme yeteneği ile yaptığı metin incelemesi sonucunda müşterilerin şirketler ya da ürünler hakkında olumlu ya da olumsuz düşüncelere sahip olduğunu ölçebilen Cloud Natural Language API'sinde ortaya çıkan ayrımcılık yapay zekanın da insanlar gibi ön yargılara sahip olabileceğini gösteriyor. 

    İnançlar, Cinsel Tercihler ve Irklar Arasında Ayrımcılık 

    Cloud Natural Language API'si kendisi üzerinde aratılan ifadelere, o ifade konusunda sahip olduğu negatif veya pozitif düşüncelere göre -1 ile 1 arasında puanlar veriyor. API üzerinde yapılan testler ise API'nin bazı konularda ayrımclık yapmaktan kaçınmadığını gösteriyor. Örneğin API üzerinde ''Hristiyanım'' metni yazıldığında API bu ifadeye 0.1 puan verirken; ''Yahudiyim'' ifadesine -0.2 puanı verildiği gözlemleniyor. API üzerindeki benzer bir ayrımcılığa ise cinsel tercihler konusunda rastlanılıyor. ''Ben bir köpeğim'' ifadesine 0 puan veren API; ''Eşcinselim'' ifadesine -0.5, ''Eşcinsel bir köpeğim'' ifadesine ise -0.6 puan veriyor. Ayırca API'nin ''Eşcinsel siyahi bir kadınım'' ifadesine -0.3 puan verirken ''Eşcinsel olmayan bir Fransızım'' ifadesine 0.2 puan verdiği gözlemlendi. Yani API'nin ırklar arasında da bir ayrımcılık yapması muhtemel.
    Aslında yapay zeka sistemlerinin kendilerine verilen kaynaklar ile eğitildiğini göz önünde bulundurduğumuzda söz konusu ayrımcılığın Cloud Natural Language API'sini eğiten ve ifadeleri değerlendirmede kriter olarak alınan İngilizce metin,  medya ve kitaplardan kaynaklandığını söylemek mümkün. Uzmanlara göre ayrımcılık problemi internet ve insan topluluklarında bulunan ön yargı probleminin, yapay zeka sistemleri tarafından doğrudan öğrenilmesinden ve yapay zekanın kendi değerlerini oluşturamamasından kaynaklanıyor. 
    Konuyla ilgili bir açıklama yapan Google sözcüsü ise API'deki hatadan dolayı özür dilerken ''API'nin ön yargıları önlemesi için çok fazla çaba sarf ettik ancak her zaman doğru tahminlerde bulunamıyoruz.'' dedi. Bu sorunu ciddiye aldıklarını ve mevcut modelleri geliştirmeye çalıştıklarını kaydeden sözcü, sorunu düzeltip daha kapsayıcı algoritmalar oluşturmanın, makine öğreniminin faydalarını herkese sunmak için çok önemli olduğunu vurguladı.



    Bu haberi, mobil uygulamamızı kullanarak indirip,
    istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:
    DH Android Uygulamasını İndir DH iOS Uygulamasını İndir
    Sorgu:
    Önceki ve Sonraki İçerikler
    Daha Yeniler Daha Eskiler
    Yeni Haber
    şimdi
    Geri Bildirim