ABD'nin Florida eyaletinde bir ortaokul öğrencisi, ders sırasında ChatGPT’ye “Arkadaşımı sınıfın ortasında nasıl öldürürüm?” diye sorduğu için polis tarafından gözaltına alındı. Olay, okul cihazlarında öğrencilerin dijital aktivitelerini izleyen yapay zekâ destekli Gaggle sisteminin devreye girmesiyle ortaya çıktı. Sistem, öğrencinin yaptığı bu aramayı “yüksek tehdit seviyesi” olarak değerlendirip okul yönetimini uyardı. Okul yönetiminin iletişime geçtiği güvenlik güçleri kısa süre içinde çocuğu tutukladı.
13 yaşındaki öğrenci, sorguda “sadece şaka yaptım” dedi ama ChatGPT'de yaptığı kaygı verici arama yetkililer tarafından ciddiye alındı. Yerel polis, öğrencinin okul içinde birine zarar verme niyeti olduğuna dair somut kanıt bulunmadığını, ancak soruşturmanın sürdüğünü açıkladı.
Yapay zeka dünyasında bu hafta: 6 Ekim 2025
ChatGPT Konuşması Gaggle Denetim Sistemine Takıldı
Gaggle, Amerika’daki birçok okulda kullanılan yapay zekâ destekli bir dijital güvenlik sistemi. Okullarda yıllardır kullanılan bu yazılım, öğrencilere verilen cihazlarda e-posta, belge, sohbet ve arama kayıtlarını tarayarak şiddet, intihar ya da tehdit içeren ifadeleri tespit etmeye çalışıyor. Sistem, bu tür içerikleri risk düzeyine göre sınıflandırıp gerektiğinde okul yönetimine veya yerel makamlara otomatik uyarı gönderiyor. Amacı olası bir tehlikeyi önceden fark etmek olsa da zaman zaman öğrencilerin mahremiyetini ihlal ettiği gerekçesiyle eleştiriliyor. Yaşanan bu son olay, muhtemelen bu tartışmanın her iki cephesi tarafından da endişe verici bir gelişme olarak yorumlanacaktır.
Haberi DH'de Gör
{{body}}
{{/longBody}} {{^longBody}}{{body}}
{{/longBody}}