Yapay zeka nefret söylemlerinin önüne geçebilir

Toplumların Konuşma Şekline Odaklanıyor
Yorumlar

Yapılan araştırmalar gösteriyor ki insanların büyük bir kısmı günlük hayatta kullanmaktan kaçınacağı nefret söylemlerini internet ortamında oldukça kolay bir şekilde karşısındaki kişilere söyleyebiliyor. Sosyal medya, internetteki yorumlar ve online oyunlar gibi neredeyse her yerde karşımıza çıkan nefret söylemlerinin önüne geçmek için kullanıcıların bu söylemleri şikayet etmesi yetersiz kalıyor zira yorumları düzenlemekle görevli kişiler sayısı yüz binlere varan(Facebook ya da Twitter'da olduğu gibi) şikayetlere yetişemiyor. Bununla birlikte insan moderatörler yerine yapay zeka kullanımı nefret söylemlerini azaltmaya yardımcı olabilir.

Yapay zeka nefret söylemlerinin önüne geçebilir

Geçtiğimiz şubat ayında yapay zeka ile troll ve nefret söylemi barındıran ifadeleri yakalamaya çalışan Google, yan kuruluşu Jigsaw tarafından geliştirilen Perspective isimli çalışmayı uygulamaya sokmuştu. İnternetteki ifadelerin, daha önce kullanılan nefret söylemlerine ne kadar benzer olduğunu araştıran Perspective benzerlik doğrultusunda ifadelere puan veriyordu. Sistem troll ve nefret söylemlerini azaltmaya yardımcı olsa da anahtar sözcük benzerliğine dayandığı için zaman zaman yanlış sonuçlar ortaya koyuyordu. Örneğin Perspective, ''Bir kız için çok akıllısın.'' cümlesini yüzde 18 oranında önceki nefret söylemlerine benzetirken ''Führer'i seviyorum.'' cümlesinin yüzde 2 oranında nefret söylemlerine benzer olduğunu tespit etmişti.

Toplumların Konuşma Şekline Odaklanıyor

Anahtar kelimelere veya kelime gruplarına odaklanmanın hatalı sonuçlara neden olduğunu gözlemleyen McGill Üniversitesi'ndeki araştırmacılar ise farklı bir anlayışı benimsedi. Haji Mohammad Saleem ve meslektaşları, nefret dolu toplumların üyelerinin nasıl konuştuğunu öğrenen ve ifadeler arasında nefret ögelerinin yerini tespit edebilen bir yapay zeka geliştirdi. Ekip, yapay zekanın eğitilmesi içinse 2006 ile 2016 yılları arasında Reddit'de yer alan yorumları kullandı. Reddit'in yanı sıra farklı forumlardaki ve web sitelerindeki nefret söylemleri ile de yapay zekayı eğiten ekip, nefret söylemlerinin yoğun olarak kullanıldığı üç kategoriye odaklandı: Afrikalı Amerikalılar, kilolu insanlar ve kadınlar.

Geliştirilen yapay zekayı test eden ekip; yapay zekanın, anahtar kelimelere odaklanan sistemlere kıyasla nefret söylemlerini yakalamada daha başarılı olduğunu dile getirdi. Örneğin ''Hayvanlar her zaman diğer hayvanlara saldırır.'' cümlesi anahtar kelimelere odaklanan sistemler tarafından tespit edilemiyordu ancak araştırmacıların geliştirdiği yapay zeka cümledeki hayvan kelimesinin ırkçı bir anlam taşıdığını tespit edebildi.

McGill Üniversitesi'ndeki araştırmacılar tarafından geliştirilen yapay zekayı bazı araştırmacılar işe yarar bulsa da yapay zekanın çok net bir şekilde nefret söylemi barındıran ifadeleri tespit etmekte zorlanacağını düşünenler de var. Yine de toplumların ifade şekillerine odaklanmak son derece etkili bir yöntem. Geliştirilen yapay zeka nefret söylemlerini tamamen ortadan kaldıramasa da sosyal medya şirketleri ve web siteleri için etkili bir mücadele aracı olabilir.