Apple'ın çocuklar için olan yeni özelliğindeki muhtemel sorunlar

"Kötü" ve "tehlikeli"
Yorumlar

Yakın zamanda Apple, çocukları güvende tutmak için yeni özelliklerini duyurdu. Bu özelliklerden en önemlisi "mesajlarda iletişim güvenliği" olarak adlandırılan bir özellik. Bu özellikle cinsel içerikli görüntüleri tespit etmek ve bulanıklaştırmak için 13 yaşın altındaki kullanıcıların iMessage'larını taranacak. Sonrasında da eğer bu kullanıcılar, böyle bir görüntü içeren mesajı açarlarsa veya gönderirlerse ebeveynlere bildirim gidecek.

İlk başta bu özellik birçok yetişkin tarafından çocuklarının güvenliğini sağlamak adına iyi bir yol gibi görünebilir. Ancak ilerleyen zamanlarda muhtemelen belli sorunların da açığa çıkacak. Burada oluşabilecek en önemli sorun, bu görüntülerin "makine öğrenimi" (machine learning) yoluyla taranacak olmasıdır. Bu şekilde görüntülerin müstehcen olup olmadığı belirlenecek ancak bu algoritma bir görüntünün müstehcen olup olmadığını sadece görüntüdeki cilt yüzdesine bakarak anlayacak. Elbette algoritmalar geliştirilebilir ama bu olana kadar kullanıcıların aldığı görüntülerdeki denize giren bir ünlünün de bildirimi ebeveynlere iletilecektir.

"Kötü" ve "tehlikeli"

Yani esasen bu özellikle birlikte bir şeyler olduğundan çok daha tehlikeli gibi görünebilir. Bununla birlikte bu özellikle çocuk kullanıcıları iletişiminin büyük kısmı "kötü" ve "tehlikeli" olarak etiketlenebilir. Öte yandan sonrasında teknolojiyle büyüyen çocuklar, bu denetleme yönteminden kaçmanın birçok yolunu bulabilir. Tabi bu özellik hala çok yeni. İlerleyen zamanlarda algoritmanın daha da geliştirilmesi, daha sağlıklı sonuçlar verecektir.