Larangan yang Menegaskan Batas Penggunaan AI
Aplikasi AI nudifikasi adalah perangkat lunak yang memakai kecerdasan buatan untuk mengubah foto orang nyata menjadi gambar telanjang atau seksual tanpa persetujuan, sehingga mengancam privasi dan martabat korban. Apple memperbarui pedoman App Store untuk melarang aplikasi semacam itu serta konten intim buatan AI yang tidak mendapat persetujuan. Aturan ini penting karena gambar palsu tetap dapat menimbulkan pelecehan dan kerugian nyata, sekalipun tubuh dalam gambar dihasilkan mesin. Kebijakan App Store Apple bukan sekadar larangan atas satu jenis aplikasi; ini juga sinyal bahwa platform harus bertanggung jawab atas cara fitur AI disajikan dan digunakan. Dengan menjadikan larangan tersebut bagian dari pedoman, Apple memperketat pengawasan terhadap konten buatan pengguna dan AI generatif di ekosistem iPhone. Langkah ini menghubungkan isu deepfake dengan perlindungan privasi secara langsung, bukan memperlakukannya sebagai persoalan teknis belaka.
Taktik Penyamaran Menjadi Sasaran
Ancaman yang disorot Apple bukan hanya hasil akhir aplikasi, tetapi juga cara pengembang menyelinapkan fungsinya. Dalam taktik umpan-lalu-ganti, atau bait-and-switch, aplikasi tampak seperti alat biasa saat diajukan untuk peninjauan, lalu mengaktifkan fitur nudifikasi setelah mendapat persetujuan. Modus ini merusak kepercayaan pada proses kurasi karena pemeriksa menilai fungsi yang ditampilkan, sementara pengguna kemudian menerima produk berbeda. Apple menyatakan aplikasi yang menambahkan kemampuan di luar versi yang ditinjau dapat dihapus dari toko. Pedoman juga melarang fitur tersembunyi atau tidak terdokumentasi, dan aturan yang diperbarui mempertegas bahwa pengembang yang menyesatkan tentang fungsi aplikasi dapat dikeluarkan dari program pengembang Apple. Pengetatan ini masuk akal: tanpa pengawasan terhadap perubahan setelah persetujuan, pemeriksaan awal saja tidak cukup untuk menahan aplikasi berbahaya.
Moderasi Harus Melindungi Korban
Larangan akan lebih berarti jika disertai kewajiban yang dapat digunakan korban. Pedoman mengharuskan aplikasi dengan konten buatan pengguna memiliki penyaringan yang memadai, menyediakan sarana pelaporan materi ofensif, dan memungkinkan pengguna memblokir akun yang melecehkan. Untuk gambar intim buatan AI tanpa persetujuan, kewajiban moderasi mencakup pencegahan dan penghapusan secara proaktif; pelanggaran dapat berujung pada penghapusan aplikasi. Inilah inti moderasi konten aplikasi: bukan hanya bereaksi setelah gambar tersebar, melainkan mengurangi peluang penyebaran sejak awal dan memberi korban jalur untuk bertindak. Bagi pengguna, kebijakan ini berpotensi menekan peredaran aplikasi yang menyalahgunakan foto untuk membuat konten cabul. Namun, efektivitasnya bergantung pada penerapan yang konsisten serta mekanisme laporan yang mudah ditemukan dan ditindaklanjuti, bukan sekadar keberadaan aturan tertulis.
Penegakan Akan Menentukan Dampaknya
Pembaruan ini muncul setelah laporan pada April dan awal tahun mengungkap keberadaan aplikasi nudifikasi dan deepfake di toko aplikasi, sementara tekanan terhadap Apple dan Google meningkat. Apple menyatakan proses peninjauannya telah memblokir lebih dari 150.000 aplikasi agar tidak menjangkau pengguna dan menghapus 193.000 akun pengembang karena penipuan serta penyalahgunaan. Angka itu menunjukkan skala kurasi, tetapi juga mengingatkan bahwa pemeriksaan tidak otomatis mencegah semua aplikasi berbahaya lolos. Aturan baru berlaku bagi pengembang di seluruh dunia; pengembang yang memakai AI generatif perlu menyiapkan moderasi dan pelaporan sebelum mengajukan aplikasi. Apple belum memberikan jadwal penegakan terpisah dan menyiratkan aturan berlaku setelah pedoman diperbarui. Kesimpulannya, larangan ini merupakan langkah yang perlu, tetapi ukuran keberhasilannya adalah seberapa cepat Apple mendeteksi penyamaran dan melindungi orang yang fotonya disalahgunakan.
