Aplikasi yang tampak biasa bisa menyimpan ancaman
Deepfake seksual adalah gambar atau video intim palsu yang dibuat dengan kecerdasan buatan menggunakan foto seseorang, sering kali tanpa persetujuannya. Ancaman ini bukan lagi sekadar soal alat manipulasi yang terang-terangan: investigasi WIRED menemukan lebih dari 400 aplikasi dan domain terkait yang menyamar sebagai layanan sehari-hari, tetapi diam-diam menyediakan antarmuka untuk membuat konten seksual eksplisit dari foto yang diunggah pengguna.
Sebagian aplikasi menampilkan fungsi yang tampak wajar, seperti membuat gambar hewan peliharaan, sementara server dapat menentukan apakah pengguna melihat layanan biasa atau antarmuka eksplisit. Aplikasi menyesatkan itu ditemukan di App Store dan Google Play, dan dapat mengarahkan pengguna ke fitur pembuatan gambar serta pembayaran digital. Karena itu, nama aplikasi dan tampilan awal bukan jaminan bahwa fungsinya aman. Menganggap semua aplikasi deepfake Android sebagai alat hiburan tak berbahaya adalah keliru: konteks, cara kerja, dan penggunaan foto menentukan risikonya.
Foto yang diunggah dapat menjadi alat pelecehan
Risiko utamanya bukan hanya aplikasi yang menyesatkan, melainkan penyalahgunaan identitas orang yang fotonya dimasukkan. Antarmuka tersembunyi yang ditemukan peneliti menyediakan templat pornografi dan memungkinkan pengguna menempatkan foto seseorang ke dalam adegan seksual. Hasilnya dapat menggambarkan seseorang seolah-olah melakukan atau mengalami sesuatu yang tidak pernah terjadi. Konten semacam itu berpotensi menjadi sarana pelecehan, pemerasan, penghinaan, atau penyebaran tanpa persetujuan.
Skalanya membuat ancaman ini sulit diabaikan. Menurut temuan yang dikutip dalam laporan, aplikasi-aplikasi tersebut telah diunduh lebih dari 350.000 kali secara kolektif; sebagian bahkan mendapat penilaian yang sesuai untuk semua kelompok usia. Iklan yang mengarahkan pengguna ke aplikasi itu menjangkau puluhan ribu orang, dan sejumlah iklan memuat materi pelecehan seksual anak hasil AI. Angka-angka ini menegaskan bahwa deepfake seksual bukan persoalan teoretis. Mengunggah foto pribadi atau foto orang lain ke layanan yang tidak jelas berarti menyerahkan bahan yang bisa dipakai untuk menciptakan konten merugikan.
Periksa aplikasi sebelum memberi akses
Untuk menjaga keamanan aplikasi Android, jangan mengandalkan keberadaan aplikasi di toko resmi sebagai bukti bahwa layanan itu aman. Sebelum memasang, cocokkan nama pengembang dengan situs resminya, periksa apakah pengembang memiliki aplikasi lain yang konsisten, dan baca ulasan terbaru—terutama keluhan tentang fungsi yang berbeda dari iklan, perilaku mencurigakan, atau permintaan akses yang tidak masuk akal. Ulasan bukan jaminan, tetapi pola keluhan bisa menjadi alasan kuat untuk berhenti.
Tinjau izin aplikasi Android sebelum menyetujui permintaan akses. Aplikasi yang tidak membutuhkan foto atau video untuk fungsi utamanya patut dicurigai bila meminta akses luas ke galeri, kamera, mikrofon, kontak, atau berkas. Tolak izin yang tak relevan dan jangan mengunggah foto wajah orang lain ke layanan yang belum jelas kebijakan serta pengelolanya. Jika aplikasi sudah terpasang dan perilakunya meragukan, cabut izinnya, hapus aplikasi, lalu periksa kembali aplikasi lain yang dipasang dari pengembang serupa. Langkah-langkah ini lebih berguna daripada menganggap label toko atau rating sebagai perlindungan penuh.
Penindakan belum menghapus seluruh risiko
Ada tanda bahwa platform mengambil tindakan, tetapi pengguna sebaiknya tidak menunggu penertiban untuk melindungi diri. Apple menghapus 19 aplikasi setelah mendapat pertanyaan dan informasi mengenai domain terkait, sementara Google telah menghapus mayoritas aplikasi sebelum dimintai komentar. Perusahaan juga menyatakan telah menangguhkan puluhan ribu aplikasi yang memakai taktik umpan-dan-ganti selama setahun terakhir dan memperbarui aturan untuk membatasi alat nudifikasi. Namun, temuan tentang jaringan aplikasi dan domain yang saling terhubung menunjukkan bahwa aplikasi berbahaya dapat menyamarkan fungsi atau muncul kembali.
Kesimpulannya, sikap aman bukan berarti menghindari semua teknologi penyuntingan gambar, melainkan menolak layanan yang meminta foto tanpa tujuan yang jelas dan memeriksa aplikasi sebelum memasangnya. Jangan gunakan gambar seseorang untuk membuat konten intim tanpa persetujuan, dan laporkan aplikasi atau materi yang mengeksploitasi identitas. Pemeriksaan pengembang, ulasan, serta izin tidak menghapus seluruh ancaman, tetapi membantu mengurangi peluang menjadi pengguna yang tertipu atau korban deepfake seksual.
