Yapay Zekanın Gezegendeki Egemen Güç Hâline Gelmesi Neredeyse Kaçınılmaz
Daha önce verdiği bir demeçte, yapay zekanın insanlığı yeryüzünden silme ihtimalini yüzde 10 ila 20 arasında gösteren Geoffrey Hinton, bizi bekleyen tek tehlikenin bu olmadığına dikkat çekiyor. İnsanlığın tamamen yok olmasa da gezegendeki hakim güç olmaktan çıktığı çok daha olası bir senaryo da mümkün. Hinton, teknoloji liderlerinin bunun önüne geçmek için "itaatkâr" yapay zekalar yaratmaya çalıştığını ama bunun işe yaramayacağını düşünüyor: “Bu işe yaramayacak. Bizden çok çok daha zeki olacaklar. (Şu anda yerleştirilen önlemleri) aşmak için her türlü yolu bulacaklar."
Yapay zekaların daha şimdiden istediklerine ulaşmak için insanları tehdit etmeye, kandırmaya, ikna etmeye başladığını vurgulayan Geoffrey Hinton, gelecekte yapay zekanın insanları rahatlıkla kontrol edeceğine inanıyor. Bu yüzden itaatkâr yapay zekalar üretmenin yeterli olmayacağını kabul edip buna göre davranmamız gerekiyor. Hinton'ın önerisi, insanların iyiliğini isteyecek "anaç" yapay zekalar geliştirmek.
Geoffrey Hinton'a göre geliştirdiğimiz yapay zekaları analık dürtüsü benzeri dürtülere sahip olacak şekilde programlamamız ve buna göre eğitmemiz gerekiyor. Böylece yapay zekalar insanlardan çok daha zeki, çok daha güçlü hâe geldiğinde, insanlar üzerinde hakimiyet kurmak yerine, onlar için en iyisini yapmaya meyilli olacaklar. Onları kontrol altında tutan kodlarına yerleştirdiğimiz prangalar değil, insanlara duydukları şefkat ve koruma dürtüsü olacak.
Bir varlığın kendisinden çok daha zeki bir varlığa yön verebildiği tek modelin bir anne ile bebeği arasındaki ilişki olduğuna dikkat çeken Hinton, yapay zekalar için de doğru modelin bu olduğuna inanıyor. "Bu işin iyi sonuçlanacağı tek yol bu. Çünkü ya ebeveynlerimiz olacaklar ya da yerimizi alacaklar. Bu süperzekaya sahip şefkatli 'AI anneler' ölmemizi istemeyeceği için, yapabilseler dahi yerleştirdiğimiz o annelik dürtüsünden kurtulmayacaklar."
Hinton, yapay zekalara böyle bir annelik içgüdüsü yerleştirmenin teknik olarak nasıl yapılabileceğini bilmediğnii ama şu anda tüm araştırmacıların yoğunlaşması gereken konunun bu olduğunu söylüyor. Ancak mevcut gidişata bakınca, Hinton'ın bu uyarısının Sam Altman ya da Elon Musk gibi birinde karşılık bulması neredeyse imkânsız görünüyor. Bu da insanlığın geleceğine dair endişe verici bir tablo ortaya koyuyor.
Haberi DH'de Gör
{{body}}
{{/longBody}} {{^longBody}}{{body}}
{{/longBody}}