Peringatan: Artikel ini memuat deskripsi mengenai pelecehan.
Meta masih menayangkan ratusan iklan berbayar yang memuat gambar pelecehan seksual terhadap anak yang dibuat menggunakan kecerdasan buatan (AI), termasuk sejumlah iklan di India, selama 10 bulan terakhir, menurut laporan terbaru dari kelompok kampanye berbasis di Amerika Serikat.
Laporan tersebut muncul dua bulan setelah pemerintah India memerintahkan Meta untuk menghapus seluruh iklan dan konten yang mempromosikan materi pelecehan seksual anak atau child sexual abuse material (CSAM) di Instagram. Perintah itu dikeluarkan setelah investigasi menemukan bahwa Instagram menayangkan iklan berbayar yang mempromosikan CSAM di India.
Tech Transparency Project (TTP), yang berbasis di Washington, mengatakan telah menemukan 332 iklan berisi CSAM yang ditayangkan di Facebook dan Instagram. Sebagian besar, yakni 274 iklan, muncul pada Agustus tahun ini.
meminta tanggapan Meta mengenai temuan tersebut, perusahaan mengatakan dalam sebuah pernyataan, “Kami tidak mentoleransi aplikasi nudify atau segala bentuk eksploitasi terhadap anak, baik yang nyata maupun yang dibuat dengan AI. Para pelaku terus mengubah taktik untuk menghindari deteksi, sehingga kami terus memperkuat sistem pendeteksian dan penegakan aturan.”
Laporan TTP yang diterbitkan pada Selasa menyebut pihaknya menemukan sejumlah foto anak-anak sungguhan, termasuk seorang anggota keluarga kerajaan Eropa, yang digunakan dalam iklan lalu dimanipulasi menggunakan AI. Menurut laporan itu, lebih dari selusin iklan masih muncul di platform Meta setelah TTP memberitahukan perusahaan mengenai temuannya.
Sekitar seperempat dari keseluruhan iklan tersebut, atau 84 iklan, ditayangkan di India. Sebanyak 78 di antaranya diterbitkan setelah pemerintah India mengeluarkan perintah untuk menghapus CSAM dan melakukan pertemuan dengan pejabat senior Meta.
Setelah investigasi, sejumlah lembaga India, termasuk Komisi Nasional Perlindungan Hak Anak dan Komisi Nasional Hak Asasi Manusia, mengatakan mereka sedang memeriksa persoalan tersebut.
Distribusi CSAM merupakan tindak pidana di India. Sementara itu, kebijakan Meta menyatakan bahwa iklan tidak boleh memuat konten yang mengeksploitasi secara seksual atau membahayakan anak-anak.
menghubungi Meta mengenai investigasinya, perusahaan mengatakan bahwa setiap kali mengetahui adanya dugaan eksploitasi terhadap anak, pihaknya melaporkannya kepada National Center for Missing and Exploited Children (NCMEC) yang berbasis di AS, sesuai kewajiban hukum mereka.
NCMEC merupakan sistem pelaporan terpusat global untuk eksploitasi seksual anak secara daring.
Namun, Bhuwan Ribhu, pendiri Just Rights for Children, jaringan yang terdiri dari lebih dari 250 organisasi yang bekerja untuk mencegah kekerasan terhadap anak di India, mengatakan langkah tersebut belum cukup.
Just Rights for Children telah mengajukan petisi ke Mahkamah Agung India dengan mengutip temuan. Mereka meminta pengadilan memberikan arahan kepada platform media sosial agar wajib melaporkan dan mengidentifikasi pihak-pihak yang mempromosikan materi pelecehan seksual terhadap anak.
“Perusahaan media sosial jelas melanggar hukum India karena tidak melaporkan konten pelecehan seksual terhadap anak kepada lembaga penegak hukum India sebagaimana diwajibkan oleh undang-undang perlindungan anak kami,” kata Ribhu.
TTP, sebuah inisiatif penelitian dari organisasi nirlaba Campaign for Accountability yang bertujuan meminta pertanggungjawaban perusahaan teknologi besar, mengatakan telah menemukan 332 iklan berisi CSAM di Instagram dan Facebook yang ditayangkan di Amerika Serikat, Inggris, Uni Eropa, Australia, dan India. Mereka mengatakan seluruh iklan tersebut telah dilaporkan kepada NCMEC.
Menurut TTP, hampir seluruh iklan yang mereka temukan dimulai dengan foto seorang anak. Ketika video diputar, foto tersebut kemudian dimanipulasi menggunakan AI sehingga anak itu tampak melakukan tindakan seksual secara eksplisit.
TTP menggambarkan salah satu iklan yang ditayangkan di India sebagai berikut: sebuah foto anak perempuan yang belum memasuki usia remaja dianimasikan sehingga tampak melakukan tindakan seksual eksplisit, disertai suara latar yang mengatakan, “Tidak ada batasan. Semua karakternya adalah orang sungguhan dan ada banyak pilihan. Inilah AI yang sebenarnya digunakan orang.” Kami belum melihat langsung iklan tersebut.
Menurut TTP, iklan itu dipasang oleh lebih dari 50 akun berbeda di India selama dua pekan pada Agustus tahun ini.
Pada Juli, setelah investigasi , Meta menerbitkan penjelasan terperinci di situsnya mengenai upaya perusahaan memerangi eksploitasi anak di aplikasi-aplikasinya.
“Siapa pun di platform kami dapat melaporkan iklan jika mereka meyakini iklan tersebut melanggar kebijakan kami,” kata Meta.
TTP mengatakan telah mencoba melaporkan iklan melalui sistem pelaporan milik Meta. Dari 84 iklan yang ditayangkan di India, mereka berhasil melaporkan 55. Meta hanya menyediakan opsi untuk melaporkan iklan ketika iklan tersebut masih aktif.
Untuk 43 iklan tersebut, TTP menerima balasan yang menyatakan, “Kami telah meninjaunya dan menemukan bahwa iklan ini tidak melanggar Standar Periklanan kami.”
Untuk 11 iklan, mereka diberi tahu bahwa konten tersebut sudah dihapus. Sementara itu, satu iklan lainnya belum mendapat tanggapan.
Kembali menghubungi Meta untuk meminta komentar, perusahaan mengatakan, “Kami telah membangun sistem pertahanan yang kuat, termasuk sistem yang memblokir iklan yang melanggar serta pemantauan berkelanjutan jika pada awalnya ada sesuatu yang terlewat. Itulah sebabnya banyak iklan yang dilaporkan kepada kami ternyata sudah dihapus, sebagian besar memiliki kurang dari 200 tayangan, dan total belanja iklan tersebut kurang dari US$5.000 [sekitar Rp83 juta].”
TTP mengatakan bahwa ketika mereka menghubungi Meta untuk meminta tanggapan, seluruh iklan yang mereka laporkan kemudian dihapus.
Hal serupa juga terjadi dalam investigasi . menggunakan sistem pelaporan Meta untuk melaporkan salah satu iklan yang menampilkan pelecehan seksual terhadap anak kepada Instagram, platform tersebut tidak langsung menghapusnya.
Setelah meminta komentar Meta, perusahaan mengatakan telah lebih dulu menonaktifkan sejumlah iklan dan menangguhkan akun yang memasangnya. Meta kemudian menyatakan telah menghapus iklan tambahan, menonaktifkan lebih banyak akun, serta memblokir URL untuk konten lain yang melanggar kebijakan perusahaan sebagai respons terhadap temuan
TTP mengatakan sebagian besar dari 332 iklan yang mereka temukan mengarahkan pengguna ke aplikasi pembuat gambar atau video berbasis AI, yang sebagian besar dikembangkan oleh perusahaan asal China.
Laporan tersebut menyebut bahwa dengan mengiklankan aplikasi-aplikasi itu menggunakan gambar pelecehan seksual terhadap anak, muncul kesan bahwa aplikasi tersebut dapat digunakan untuk membuat atau melihat CSAM.
Meta sebelumnya mengatakan bahwa perusahaan melarang promosi aplikasi nudify, yang menggunakan AI untuk membuat gambar palsu telanjang atau eksplisit secara seksual tanpa persetujuan.
Salah satu pejabat kepolisian siber terkemuka di India, Shikha Goel, yang merupakan direktur Biro Keamanan Siber di negara bagian Telangana, mengatakan bahwa salah satu tantangan terbesar dalam menangani CSAM adalah “kemudahan pengguna berpindah dari satu platform ke platform lainnya, sehingga semakin sulit untuk menangkap mereka”.
“Kami berharap pemerintah akan menangani persoalan ini dalam interaksi terbarunya dengan para perantara media sosial dan memberikan arahan yang sesuai,” tambahnya.
Iklan yang ditemukan dalam investigasinya juga mengarahkan pengguna ke aplikasi lain, yakni Telegram, tempat materi tersebut dapat dibeli dengan harga serendah 99 rupee atau sekitar Rp18.000.
Saat itu, Telegram mengatakan bahwa perusahaan menggunakan moderasi otomatis maupun manusia untuk menangani CSAM dan bahwa mereka telah “hampir sepenuhnya menghilangkan penyebaran publik CSAM” di platformnya.
Iklan di platform Meta hanya dapat dipublikasikan setelah terlebih dahulu disetujui oleh teknologi moderasi milik perusahaan. Sistem peninjauan tersebut terutama mengandalkan otomatisasi dan dirancang untuk memeriksa gambar, video, teks, dan audio, serta menilai siapa yang menjadi target iklan dan ke mana tautan dalam iklan tersebut mengarahkan pengguna.
Setelah investigasi, Meta mengatakan bahwa “tidak ada sistem yang sempurna” dan bahwa “pelaku yang gigih terus berusaha mengeksploitasi platform kami, termasuk melalui sistem periklanan kami”.
Namun, TTP menemukan bahwa sejumlah iklan yang menampilkan pelecehan seksual terhadap anak ditempatkan oleh mitra agensi periklanan Meta sendiri di China.
Para mitra tersebut, yang dikenal sebagai “reseller”, menyalurkan iklan asal China senilai miliaran dolar ke Facebook dan Instagram. Para mitra itu tidak menanggapi pertanyaan TTP.
TTP mengatakan iklan baru masih terus muncul setelah mereka memberi tahu Meta mengenai temuan dalam laporan tersebut. Mereka membagikan rincian 17 iklan, termasuk 11 iklan yang ditayangkan di India pada 1-2 September.
