Era AI: Foto Anak Biasa Bisa Berubah Jadi Bukti Kejahatan
Deteksi CSAM AI adalah upaya menggunakan kecerdasan buatan untuk mengenali dan memblokir konten pelecehan seksual anak, termasuk gambar yang dimanipulasi atau deepfake konten pelecehan, sebelum tayang di platform sosial dan menyebar ke pengguna umum. Definisi ini mencakup sistem otomatis moderasi platform sosial, pemindaian iklan, dan teknologi lain yang dirancang khusus untuk mencegah eksploitasi visual terhadap anak di ruang digital. Temuan terbaru menunjukkan teknologi ini belum mampu menahan serangan pelaku yang memanfaatkan alat manipulasi gambar yang kian mudah diakses dan digunakan secara massal.
Investigasi Tech Transparency Project menemukan 332 iklan yang mengandung konten pelecehan seksual anak (CSAM) buatan AI lolos moderasi dan tetap tayang di Facebook dan Instagram milik Meta. Ini bukan sekadar insiden teknis; ini adalah alarm keras bahwa ekosistem perlindungan anak digital kita bocor di banyak titik. Foto-foto biasa anak yang diunggah orang tua, influencer, atau diunggah sebagai stok foto kini dapat diambil, dimasukkan ke aplikasi manipulasi gambar, lalu diubah menjadi materi eksploitasi seksual tanpa sepengetahuan korban maupun keluarganya. Di era ini, setiap unggahan foto anak di ruang publik harus dianggap sebagai potensi bahan baku kriminal, bukan lagi sekadar dokumentasi kenangan keluarga.
Kebocoran Moderasi: 332 Iklan CSAM AI di Iklan Berbayar Meta
Yang paling mengkhawatirkan dari skandal ini adalah fakta bahwa konten tersebut bukan unggahan biasa, melainkan iklan berbayar yang seharusnya melalui proses review sebelum ditayangkan. Pada Agustus, peneliti TTP awalnya menemukan 53 iklan yang mengandung materi pelecehan seksual anak di platform Meta. Meta berkilah bahwa banyak di antaranya muncul sebelum perusahaan memperkenalkan teknologi deteksi CSAM AI baru. Namun, pencarian berlanjut dan angka itu melonjak: TTP akhirnya mengidentifikasi total 332 iklan CSAM hasil AI, dengan ratusan di antaranya muncul setelah teknologi deteksi terbaru Meta diumumkan.
Meta menyatakan iklan ditinjau sebelum diizinkan berjalan dan sistem otomatis memainkan peran utama dalam proses tersebut. Di sisi lain, perusahaan juga mengakui pelaku kejahatan sengaja berupaya menghindari sistem deteksi, misalnya dengan menampilkan gambar anak hanya sebentar atau dalam kondisi buram sehingga sulit diidentifikasi oleh algoritma. Pernyataan bahwa banyak iklan telah dihapus dan hanya mendapat sedikit impresi tidak menghapus fakta bahwa ada kasus di mana eksposur justru meningkat setelah iklan dilaporkan: satu iklan yang melibatkan remaja nyata awalnya menjangkau empat akun di Eropa, dan beberapa hari kemudian ketika akhirnya dihapus, telah menjangkau lebih dari 330 akun. Kutipan ini menegaskan bahwa moderasi yang lambat sama berbahayanya dengan moderasi yang gagal.
Industri Aplikasi Ikut Menyuburkan Penyalahgunaan Deepfake Anak
Kasus 332 iklan CSAM AI bukan masalah satu perusahaan saja. Investigasi TTP mengungkap bahwa iklan-iklan tersebut mengarahkan pengguna ke hampir 50 aplikasi yang tersedia di toko aplikasi besar. Sekitar 300 dari sekitar 350 iklan yang diperiksa dalam investigasi yang lebih luas mempromosikan generator gambar atau video AI. Artinya, alat pembuat deepfake konten pelecehan terhadap anak kini bukan lagi produk gelap bawah tanah; mereka hadir di etalase digital arus utama, dibungkus sebagai “kreativitas” atau “edit foto canggih”.
Apple menyatakan beberapa pengembang awalnya mengirimkan versi aplikasi yang sesuai kebijakan sebelum kemudian menambahkan kemampuan nudifikasi yang dilarang, dan telah menghapus 17 dari 20 aplikasi yang diidentifikasi peneliti serta mengambil tindakan terhadap beberapa aplikasi lainnya. Google pun mengatakan telah menghapus semua aplikasi yang termasuk dalam laporan tersebut dan menangguhkan ratusan aplikasi lain karena melanggar kebijakan mereka. Respons ini penting, tetapi datang setelah kerusakan terjadi: foto sehari-hari anak sudah diproses, iklan sudah tayang, dan sistem moderasi platform sosial terbukti tertinggal. Industri teknologi tidak bisa lagi berpura-pura bahwa penyalahgunaan adalah efek samping minor; ia adalah konsekuensi langsung dari merilis alat yang kuat tanpa pengaman memadai.
Risiko Baru Bagi Keluarga: Sharenting di Era AI Bukan Lagi Sekadar Soal Privasi
Temuan ini mengubah cara kita memandang kebiasaan berbagi foto anak di media sosial. Orang tua sudah lama diperingatkan tentang praktik “sharenting” dan jejak digital anak, tetapi risiko di era deteksi CSAM AI dan deepfake konten pelecehan jauh melampaui kekhawatiran privasi tradisional. Begitu sebuah foto biasa dapat diakses publik, seseorang berpotensi mengunduhnya dan memasukkannya ke alat AI yang dirancang untuk mengubah foto menjadi citra pelecehan seksual. Semakin banyak foto anak yang terpublikasi, semakin besar bahan yang tersedia bagi pelaku kejahatan.
Para peneliti mengidentifikasi empat anak nyata yang foto-foto polosnya telah dimanipulasi, termasuk dua remaja influencer, seorang anak pra-remaja yang fotonya tersedia di situs stok foto, dan seorang anggota muda keluarga kerajaan Eropa. Sebagian besar dari 332 iklan tersebut menampilkan anak yang fotonya dimanipulasi menggunakan AI sehingga tampak melakukan tindakan seksual. Membuat citra palsu yang meyakinkan tidak lagi membutuhkan foto eksplisit sebagai bahan awal; foto biasa kini bisa menjadi bahan mentah untuk penyalahgunaan. Ini bukan risiko abstrak: jika anak Anda memiliki jejak foto publik, mereka secara praktis memiliki peluang untuk dipaksa hadir dalam narasi kejahatan yang tidak pernah mereka pilih.
Apa yang Harus Dilakukan Pengguna Sementara AI Moderasi Masih Bocor
Selama moderasi platform sosial dan deteksi CSAM AI belum bisa diandalkan, pengguna—terutama orang tua—harus mengasumsikan bahwa perlindungan anak digital dimulai dari mereka sendiri, bukan dari algoritma perusahaan. Meskipun orang tua tidak dapat sepenuhnya menghilangkan risiko penyalahgunaan AI pada gambar atau video yang mereka unggah, mengurangi jumlah foto anak yang dapat diakses publik dan lebih selektif dalam memilih konten yang dibagikan dapat mengurangi jumlah materi yang tersedia bagi orang-orang yang berpotensi menyalahgunakannya. Ini berarti mengunci akun, membatasi daftar teman, dan menghindari unggahan yang memperlihatkan tubuh, lokasi rutin, atau detail mudah dikenali.
Jika Anda menemukan citra AI bernuansa seksual yang melibatkan anak Anda, jangan membagikan ulang gambar tersebut secara luas sebagai upaya peringatan, karena itu hanya menambah eksposur. Simpan informasi yang dapat membantu mengidentifikasi lokasi kemunculan materi, seperti nama akun, alamat halaman, dan detail lain di sekitarnya, lalu laporkan konten tersebut langsung ke platform. Orang tua juga dapat menggunakan layanan Take It Down dari NCMEC yang dirancang untuk membantu menghentikan penyebaran daring gambar atau video telanjang, sebagian telanjang, atau eksplisit secara seksual yang melibatkan seseorang di bawah usia 18 tahun. Kesimpulannya, selama penegakan moderasi platform sosial tetap lemah, strategi defensif pengguna adalah lapisan perlindungan pertama yang paling realistis—dan paling mendesak untuk diterapkan.
