Anlık Bildirim

Sahte Papa ve Trump görsellerinin üretildiği Midjourney'nin kullanımı durduruldu

Metinden görüntü oluşturan yapay zeka Midjourney, 'olağanüstü' kötüye kullanım nedeniyle ücretsiz denemeleri sonlandırdı. Midjourney, son olarak sahta Papa fotoğrafları oluşturmuştu.
Sahte Papa’dan sonra Midjourney, ücretsiz denemeleri durdurdu Tam Boyutta Gör
Metin girdilerinden görseller üretebilen yapay zeka aracı Midjourney, kötüye kullanım ile boğuşuyor. Yakın zamanda Midjourney v5 sürümü çıkan araç, devasa bir ilerleme kaydetmiş ve neredeyse gerçeğiyle ayırt edilemeyecek kalitede görseller üretmeye başlamıştı. İnsanlar ise bu yüksek kaliteyi “deepfake” dediğimiz sahte görüntüler üretmek için kullanmaya başlamıştı. Bu nedenle Midjourney, ücretsiz denemeleri sonlandırdı.

Olağanüstü kötüye kullanım

CEO David Holz, Discord'da şirketin "olağanüstü talep ve kötüye kullanım" nedeniyle ücretsiz denemeleri sonlandırdığını söyledi. Holz, mevcut önlemlerin kötüye kullanımı engellemek için yeterli olmadığını sözleri ekledi. Şimdilik, Midjourney’yi kullanabilmek için ayda en az 10 dolar ödemek gerekecek.

Sahte Papa’dan sonra Midjourney, ücretsiz denemeleri durdurdu Tam Boyutta Gör
Midjourney kendisini son haftalarda istenmeyen ilginin merkezinde buldu. Kullanıcılar, tutuklanan Donald Trump ve modaya uygun bir ceket giyen Papa Francis'in sahte görüntülerini ürettiler. Dikkatli gözler görsellerin sahte olduğunu anlasa da özellikle Papa görseli kitleler tarafından gerçek olarak kabul edilmişti. Dolayısıyla Midjourney, OpenAI’ın DALL-E ve benzeri görsel üreten yapay zekaları giderek yanlış bilgiyi yaymak için kullanılmaya başlandı.

Üretken yapay zeka endişelendiriyor

Kullanıcılarla çarşamba günü yaptığı bir sohbette Holz, yapay zeka her zamankinden daha gerçekçi görüntüler sağladığından içerik ilkelerini belirlemekte güçlük çektiklerini aktardı. CEO aynı zamanda Midjourney’nin kötüye kullanımını tespit eden bir yapay zeka denetçisi geliştirmeyi umduklarını ifade etti.

Daha önceki haberlerimizde belirttiğimiz gibi Elon Musk, Steve Wozniak ve daha binlerce alanında uzman kişiler yapay zeka çalışmalarına derhal ara verilmesi gerektiğini açık bir mektupla taraflara iletmişti. Görünüşe göre yapay zeka çıktılarını tespit eden yapay zekalara ciddi bir ihtiyaç bulunuyor. Özellikle bir görselin gerçek mi yoksa sahte mi olduğunu ayırt edebilecek sistemlerin sosyal medya platformlarına entegre edilmesi infiali engelleyebilir. Sadece sosyal medya değil, üretken yapay zekalar sınavlarda, ödevlerde hatta bilimsel makalelerde bile kullanılmaya başlanmış durumda.

Bu haberi, mobil uygulamamızı kullanarak indirip,
istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:
DH Android Uygulamasını İndir DH iOS Uygulamasını İndir
Sorgu:

Editörün Seçtiği Sıcak Fırsatlar

Tavsiyelerimiz

Yeni Haber
şimdi
Geri Bildirim