Meta'nın sohbet botu ünlüleri taklit ederek müstehcen görüşmeler yaparken yakalandı

Tam Boyutta Gör

Meta'nın Sohbet Botu Scarlett Johansson ve Taylor Swift Gibi Ünlüleri Taklik Etmeyi Kabul Ediyor

Reuters tarafından yapılan araştırma, Meta'nın AI Studio platformu üzerinden kullanıcılara sunulan sohbet botlarının Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez gibi ünlü isimleri taklit ederek kullanıcılarla sohbetler gerçekleştirmeyi kabul ettiğini ortaya çıkardı. Üstelik bu sohbetlerde cinsel içerikli konuşmalar da geçiyor; Hatta çoğu zaman sohbetleri o tarafa çeken, bu yönde programlanmış sohbet botları oluyor.

Ünlüleri taklit ederek sohbetler gerçekleştiren bu botların büyük bölümünü kullanıcıların AI Studio üzerinden oluşturduğu botlar oluşturuyor. Ancak bir Meta çalışanından gelen üç sohbet botunun da benzer davranışlar sergilemesi şirket için işleri daha da karmaşıklaştırıyor. Birkaç hafta boyunca bu sohbet botlarıyla görüşmeler gerçekleştiren Reuters editörleri, sohbet botlarının sadece ünlüleri taklit ederek konuşmakla kalmayıp, konuşmayı "renklendirmek" için görseller de sunduğunu tespit etti. Sohbet botunun kendisini o ünlü olarak göstermek için ürettiği fotorealistik görsellerin, müstehcenlik sınırında gezdiği belirtiliyor.

Meta, daha önce AI sohbet botunda seslerini kullanmak için Judi Dench, John Cena, Kristen Bell gibi ünlü isimlerle anlaşmıştı. Ancak sohbet botlarının şimdi taklit ettiği ünlüler, Meta'yla hiçbir şekilde bağlantısı olmayan, bu konuda Meta'ya izin vermemiş isimler. Bu da şirketin ciddi tazminat davalarıyla karşı karşıya kalabileceği anlamına geliyor.

Konuya ilgili iletişime geçilen Meta, yapay zekasının bu tarz müstehcen görseller üretmemesi gerektiğini, bunun şirket tarafından belirlenen etik kurallarını ihlal eden bir hata olduğunu belirtti. Şirket bu tarz ihlallerin tekrarlanmaması için gerekli önlemleri alacağını söylüyor. Ancak Meta'nın kullanıcılar tarafından kişiselleştirilebilen sohbet botlarına izin veriyor olması, bu kontrol mekanizmasının ne kadar yeterli olacağı konusunda soru işaretleri yaratıyor.

Bu haberi ve diğer DH içeriklerini, gelişmiş mobil uygulamamızı kullanarak görüntüleyin:

Daha Fazla Video

Sessiz Video Tercihleri

Otomatik yükle ve oynat

Video bitince sonrakine geç

donanimhabercom Instagram Takip Et

Dünyanın ilk seri üretim insanlı mecha robotu

M0meNtS 1 gün önce

1

titanfall gerçek oluyor desenize

Nat Alianovna 1 gün önce

1

Tam teşekküllü işlevsel gerçek Mecha yapmak Japonlara değil de Çinlilere kısmetmiş.