Jakarta I Realitas – Apple tengah menguji sistem pada fitur baru yang mereka buat berupa deteksi konten pelecehan anak melalui pemindaian otomatis pada kumpulan foto di iPhone dan iCloud.
Nantinya sistem mendeteksi konten yang dianggap pelecehan, dan akan dilaporkan ke pihak berwenang jika diperlukan.
Perusahaan menjelaskan fitur deteksi tersebut bekerja dengan proses hashing atau pencocokan pada irisan-irisan kecil yang kompleks.
Selanjutnya, hasil hashing akan dicocokkan dengan database hash yang ada di Pusat Nasional untuk Anak Hilang dan Tereksploitasi (National Center for Missing and Exploited Children/NCMEC).
Deteksi yang dilakukan Apple akan bisa memindai foto yang ukuran dan warnanya sudah diubah, misalnya menjadi lebih kecil dan menjadi hitam putih.
Bila dianggap memiliki konten pelecehan anak, Apple akan menonaktifkan akun pengguna dan melaporkan ke NCMEC yang selanjutnya dapat diteruskan ke penegak hukum.
Tapi bila dianggap tidak berbahaya, misalnya ada foto anak di bak mandi, maka tidak akan dilaporkan. Di sisi lain, pengguna yang akunnya dinonaktifkan bisa mengajukan banding untuk memulihkan akun mereka.
