Facebook Menggunakan AI Untuk Mendeteksi Pornografi Anak dan Menangkap Predator

295

Dengan maraknya kasus predator seksual yang merajalela di media sosial, Facebook kini menggunakan teknologi AI untuk mendeteksi eksploitasi anak dan postingan yang mengandung unsur nudity, kepala keamanan global perusahaan Antigone Davis mengumumkan hari ini. Pada kuartal terakhir saja, Davis mengatakan alat-alat baru membantu perusahaan menghapus “8,7 juta keping konten” yang “mengandung unsur eksploitasi seksual terhadap anak-anak.”

Sebelumnya, Facebook telah menyebarkan alat AI lainnya untuk menandai konten yang tidak pantas dan melanggar susila, termasuk teknologi pencocokan foto. Selain itu, Facebook mengatakan bahwa alat-alatnya sebelumnya “tidak mendeteksi secara proaktif perihal ketelanjangan anak dan konten eksploitatif anak yang sebelumnya tidak diketahui ketika diunggah,” tulis Davis dalam sebuah postingan blog. Dia menambahkan bahwa teknologi lainnya, akan digunakan untuk “lebih cepat” menemukan jenis konten ini dan melaporkannya ke National Center for Missing and Exploited Children (NCMEC).

Alat-alat baru ini juga akan digunakan untuk menemukan “akun yang terlibat dalam interaksi yang berpotensi tidak pantas dengan anak-anak” di platform. Kami telah menghubungi Facebook untuk mendapatkan informasi mengenai interaksi yang berpotensi asusila. Davis mengatakan kepada Reuters bahwa sistem ini akan mempertimbangkan faktor-faktor termasuk frekuensi seseorang diblokir dan apakah mereka mencoba untuk menghubungi banyak anak-anak.

Kami telah menghubungi Facebook untuk menanyakan apakah alat barunya akan memengaruhi tugas para moderatornya. Ada banyak laporan yang merinci dampak psikologis pekerjaan yang mengerikan ini terhadap para pekerja yang harus menyaring konten grafis dan kekerasan. Bahkan, mantan moderator Facebook baru-baru ini menggugat perusahaan itu karena “melemahkan PTSD”, menuduh bahwa pekerjaan itu menyebabkan trauma psikologis yang parah dan bahwa perusahaan tidak membayar kontraktor dengan layanan kesehatan mental yang diperlukan untuk mengatasinya.

Seorang juru bicara Facebook membagikan komentar berikut: “Alat bantu membantu memfilter konten lebih baik untuk tinjauan manusia. Kami sekarang menggunakan teknologi yang lebih canggih (AI dan ML) untuk mendeteksi apakah gambar telanjang kemungkinan mengandung seorang anak, dan jika demikian, kirimkan ke antrean khusus dengan peninjau yang terlatih khusus yang dapat lebih efisien mengambil tindakan bila diperlukan, termasuk menghapus konten dan melaporkannya ke National Center for Missing and Exploited Children (NCMEC). “