Anlık Bildirim

OpenAI, “tehlikeli yapay zeka” ile mücadelede sözünü tutmadı

Yapay zekanın öncü şirketi OpenAI, "süper zeki" yapay zekaları doğru bir şekilde yönetmek ve tehlikeleriyle mücadele etmek için verdiği sözleri yerine getirmiyor.
OpenAI, “tehlikeli yapay zeka” ile mücadelede sözünü tutmadı Tam Boyutta Gör
OpenAI, geçtiğimiz "süper zeki" yapay zeka sistemlerini yönetmek ve yönlendirmekten sorumlu Superalignment ekibini kurmuştu. Firma, bu hedef doğrultusunda ekibin, şirketin bilgi işlem kaynaklarının yüzde 20’si gibi ciddi bir bölümünü kullanabileceği sözünü vermişti. Ancak aradan 1 yıl geçmeden Superalignment ekibinin başındaki Jan Leike dahil olmak üzere bir dizi istifa yaşandı ve ekip dağıtıldı. Fortune tarafından yayınlanan yeni rapor ise OpenAI’ın hiçbir zaman sözünü tutmadığını ortaya koyuyor.

OpenAI sözünü tutmadı

Çok sayıda kaynağa dayandırılan bilgilere göre OpenAI, ekibe bilgi işlem gücünün yüzde 20'sini sağlama taahhüdünü hiçbir zaman yerine getirmedi. Hatta ekibin elindeki işlem gücü, bu eşiğe yaklaşmadı bile. Aktarılanlara göre OpenAI liderleri, ekibin taleplerini de defalarca geri çevirdi.

Detaylarına geçtiğimiz günlerde yer verdiğimiz Jan Leike istifasında, çalışanların güvenlik nedeniyle istifa ettiklerini aktarmıştık. Leike, Superalignment ekibinin liderlerindendi. Bu ekibi ise şirketin kurucu oraklarından Ilya Sutskever kurmuştu; Sutskever da şirketten geçtiğimiz hafta ayrıldı.

OpenAI, “tehlikeli yapay zeka” ile mücadelede sözünü tutmadı Tam Boyutta Gör
Dolayısıyla OpenAI için kafalarda soru işaretleri oluşuyor. Şirket, kamuya yapay zekanın güvenliği konusunda ciddi olduğunu söylüyor ancak şirket içinde bunlara uymuyor. Bu da şirketin verdiği diğer taahhütlerin sorgulanmasına neden oluyor.

Hatırlanacağı üzere OpenAI an itibariyle Scarlett Johansson ve ChatGPT’deki “Sky” sesi üzerinde bir tartışmanın içinde. Özetlemek gerekirse; OpenAI, Johansson’ın sesini Sky’da kullanmak için ünlü aktristen izin istemiş ancak Johansson bunu geçtiğimiz Eylül ayında reddetmiş. Ardından geçtiğimiz günlerde yapılan OpenAI etkinliği öncesinde CEO Sam Altman, Johansson’dan bir kez daha izin istemiş. Johansson, şimdi OpenAI’ın kendi sesini izni olmadan kullandıklarını söylüyor. OpenAI ise Sky’ın sesinin Johansson’a ait olmadığını, bu sesin, adını açıklamadıkları profesyonel bir aktrise ait olduğunu söylüyor.

OpenAI, istifa edenleri susturuyor mu?

OpenAI, geçtiğimiz yıl Superalignment ekibini tanıtırken “Süper Zeka” eşiğine ulaşan yapay zekanın insanlar için varoluşsal bir risk oluşturabileceğini söylemişti. Süperzeka, gelecekte tüm insanların toplamından daha akıllı olacak varsayımsal bir yapay zeka sistemi fikrini ifade ediyor. Yapay Genel Zeka veya AGI’den daha üst bir zeka anlamına geliyor. Superalignment, bu sistemin riskleriyle mücadele edecek veya önleyecek çözümleri araştırıyordu veya araştırması gerekiyordu.

Yeni rapor gösteriyor ki Superalignment ekibi, bunun için gerekli olan o bahsedilen yüzde 20’lik kaynağı alamamış. Esasında bu “yüzde 20 bilgi işlem gücü” söyleminin bile çok havada olduğu, tam olarak neyi ifade ettiği de bilinmiyor. Her halükarda kaynaklar, bu bilgi işlem gücüne erişememiş, ek GPU kapasitesi istemleri de düzenli olarak yöneticiler tarafından reddedilmiş. Aslında şirket hakkında bu iddialar Jan Leike’nin istifası sonrası X’te yazdığı gönderide doğrulanıyor: Leike, "güvenlik kültürü ve süreçlerinin parlak ürünler karşısında arka planda kaldığını" söylemişti.

İlginç bir şekilde Fortune'a konuşan kişiler işlerini veya şirketteki kazanılmış sermayelerini kaybetmekten korktukları için bilgileri anonim olarak verdi. Belirtilenlere göre OpenAI'dan ayrılan çalışanlar, şirketi kamuoyu önünde eleştirmeleri halinde şirketin kazanılmış öz sermayelerini geri alabileceğini söyleyen katı bir kuralı içeren ayrılık sözleşmesini imzalamaya zorlandılar. CEO Altman ise bu hükümden haberi olmadığını ve bu durumdan "gerçekten utanç duyduğunu" belirtti. Ayrıca OpenAI'ın hiçbir zaman bu maddeyi uygulamaya ve kimsenin kazanılmış sermayesini geri almaya çalışmadığını söyledi.

Bu haberi, mobil uygulamamızı kullanarak indirip,
istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:
DH Android Uygulamasını İndir DH iOS Uygulamasını İndir
Sorgu:

Editörün Seçtiği Sıcak Fırsatlar

Tavsiyelerimiz

Yeni Haber
şimdi
Geri Bildirim