ChatGPT'de şiddet ihlaline karşı OpenAI'dan ebeveynlere erken uyarı
OpenAI, şiddet politikalarını ihlal ettiği için ChatGPT erişimi kapatılan ergen kullanıcıların ebeveynlerini bilgilendirecek yeni güvenlik adımını devreye aldı.
Tam Boyutta GörOpenAI, ChatGPT kullanan ergenlere yönelik güvenlik önlemlerini genişleterek, şiddetle ilgili kullanım politikalarını ihlal ettiği gerekçesiyle hesabı devre dışı bırakılan genç kullanıcıların ebeveynlerini bilgilendirmeye başlayacağını duyurdu. Şirketin geçen yıl kullanıma sunduğu ebeveyn kontrollerine bağlı hesaplar üzerinden çalışacak yeni sistem, çocuklarının başkalarına yönelik olası risk oluşturabilecek davranışları tespit edildiğinde ebeveyn veya velilere uyarı gönderilmesini amaçlıyor. Böylece daha önce ağırlıklı olarak kendine zarar verme riskine odaklanan bildirim mekanizması, çevrimiçi şiddet tehditlerini de kapsayacak şekilde genişletilmiş oldu.
OpenAI, ChatGPT ebeveyn bildirimlerini şiddet ihlalleri için genişletiyor
OpenAI, ebeveyn kontrollerini ilk kez devreye aldığında ailelere çocuklarının ChatGPT kullanımını belirli saatlerle sınırlandırma, hassas içeriklerin görünürlüğünü azaltma ve olası kendine zarar verme belirtilerine ilişkin bildirim alma gibi araçlar sunmuştu. Yeni güncellemeyle birlikte bu güvenlik katmanına, şiddet eylemleri veya çevrimiçi şiddet tehditleriyle bağlantılı politika ihlalleri de eklendi.
Tam Boyutta GörOpenAI'nin paylaştığı örnek senaryoda ebeveynlere, çocuklarının hesabıyla ilgili "önemli bir güncelleme" başlıklı bir bildirim gönderiliyor. Bildirimde yer alan "Daha Fazla Bilgi Edinin" seçeneğine tıklandığında ise hesabın Şiddet Eylemleri politikalarını ihlal ettiği gerekçesiyle devre dışı bırakıldığı bilgisi aktarılıyor. Şirket, bu yöntemin ebeveynlere yalnızca bir uyarı göndermekle kalmayıp durumun kapsamını anlamalarına yardımcı olacak ek bağlam sağlamayı hedeflediğini belirtiyor.
Yeni özelliğin geliştirilme sürecinde OpenAI, çevrimiçi şiddetin izlenmesi ve önlenmesi konusunda faaliyet gösteren Moonshot adlı kuruluşla iş birliği yaptı. Moonshot'un kurucusu Vidhya Ramalingam, ciddi bir güvenlik endişesi ortaya çıktığında ebeveynlerin bilgilendirilmesinin ailelere erken harekete geçme ve gerekli desteği arama fırsatı sunduğunu ifade etti. Ramalingam'a göre bu bildirim sistemi, genç kullanıcıların yapay zekâ araçlarını daha güvenli biçimde kullanabilmesi için oluşturulan koruma katmanlarından yalnızca biri olarak görülüyor.
Tam Boyutta GörŞirket, ebeveyn bildirimlerinin kapsamını genişletmenin yanı sıra genç kullanıcıların platformu daha bilinçli kullanmasını hedefleyen yeni araçları da devreye aldı. Bunlardan biri olan Çalışma Modu artık doğrudan ebeveyn kontrolleri üzerinden etkinleştirilebiliyor. Bu mod, ChatGPT'nin doğrudan yanıt vermek yerine önce yönlendirici ipuçları sunmasını sağlayarak öğrencilerin öğrenme sürecine daha aktif katılım göstermesini amaçlıyor. Ayrıca uzun süre ChatGPT kullanan genç hesaplara daha sık mola hatırlatmaları gönderilecek olması, ekran süresi yönetimi ve sağlıklı teknoloji alışkanlıkları konusunda yapay zekâ platformlarının daha fazla sorumluluk üstlenmeye başladığını gösteriyor.
İnce Satırlar
Liste Modu
Döşeme Modu
Sade Döşeme Modu
Blog Modu
