Bir baba, doktora göstermek için çocuğunun çıplak fotoğraflarını çekmesi Google tarafından kriminal aktivite olarak fişlendi
REKLAMBir babanın doktora göstermek için çocuğunun çıplak fotoğraflarını çekmesi, Google tarafından kriminal aktivite olarak fişlendi.
Oğlunun fotoğraflarını çektikten iki gün sonra telefonuna bir bildirim geldi ve hesabı, "Google'ın politikalarını ciddi şekilde ihlal eden ve yasa dışı olabilecek zararlı içerik" nedeniyle devre dışı bırakıldı. 10 yıla yakın kişisel mail, iletişim ve fotoğraf arşivi kilitlendi.
New York Times'ın haberine göre yürümeye başlayan çocuğunda bir şeylerin ters gittiğini fark etmiş olan Mark, oğlunun şişkinlik oluşmuş olan penisinin fotoğrafını doktora göstermek istemişti sadece.
San Francisco'da yaşayan Mark, Android işletim sistemi kullanan telefonu ile sorunun ilerlemesini takip etmek için fotoğraflar çekiyordu.
Pandemi nedeniyle fotoğrafları doktor istedi
Şubat 2021'de gerçekleşen bu olayda aile pandemi nedeni ile doktora direkt gitmek yerine ön konsültasyon için fotoğraf göndermek istedi. Üstelik bu talep doktordan geldi.
Mark'ın karısı eşinin telefonu ile oğlunun kasık bölgesinin birkaç yakın çekim fotoğrafını kendi iPhone'una mesaj attı.
Bu eylem Mark'ı çocuk pornosu ticareti yapan örgütleri hedef alan özel bir polis soruşturmasının parçası haline getirdi. Talihsiz baba, çocukların cinsel istismarı materyallerini değiş tokuş eden insanları tuzağa düşürmek için tasarlanmış bir algoritmik ağa yakalanmıştı.
Mark Google'a 'yeniden değerlendirme' için talepte bulundu ancak Google herhangi bir açıklama getirmeden bu talebi reddetti.
E-posta ve telefonları bloke olan Mark'a soruşturma için polis ulaşamadı ve sorun daha da karmaşık hale geldi. Konunun anlaşılması üzerine polis soruşturması hızlı şekilde çözüldü ancak Mark Google hesabını geri alamadı.
Benzer bir hadise Texas'ta yaşayan Cassio'nun da başına geldi. Doktorun talebi üzerine çocuğunun fotoğraflarını göndermesinin ardından e-postası da dahil olmak üzere hesapları da bloke edildi. Ev alma sürecindeki Cassio'nun kredi için bankaya yeni e-posta bildirmesi bazı şüphelere yol açtı ve sorun ancak emlakçının araya girmesi ile çözülebildi.
Yapay zeka sistemi
Konuyla ilgili New York Times'a açıklamada bulunan Google "Çocuk suistimaliyle ilgili materyaller dehçet verici nitelikte ve biz de bunun platformlarımız üzerinde yayılmaması konusunda açok dikkatliyiz," ifadelerini kullandı.
Google 2018'den bu yana çocuk tacizi alanında oldukça gelişmiş bir yapay zeka sistemi kullanıyor. Bu sistemi Facebook başta olmak üzere pek çok şirketle de paylaşmış olan Google bir sorun gördüğü anda durumu yetkililere bildiriyor.
Çekilen fotoğraflar bu sistem tarafından işaretlendiği takdirde içerik kontrolörü olan gerçek bir kişi tarafından incelenip rapor ediliyor. Sadece 2021'de ABD'de bu şekilde 4 bin 260 olası vaka yetkililere bildirildi.