Konten AI ilegal: definisi dan pelajaran awal dari dua kasus
Konten AI ilegal adalah segala bentuk informasi elektronik yang dibuat atau dimanipulasi dengan kecerdasan buatan sehingga menimbulkan pelanggaran hukum, misalnya merusak kehormatan, menyebarkan pesan palsu, atau memicu tindakan aparat, dan biasanya melibatkan manipulasi foto berbasis AI maupun rekayasa gambar yang seolah-olah autentik. Ketika teknologi generatif masuk ke gawai semua orang, batas antara kreativitas dan kejahatan menjadi kabur. Dua kasus terbaru menunjukkan hal itu: seorang seniman di Semarang berurusan dengan polisi karena diduga mengubah foto korban menjadi konten bermuatan seksual dengan AI dan menyebarkannya ke grup WhatsApp, sementara di Singapura seorang pria didakwa di pengadilan setelah gambar buaya yang dibuat dengan bantuan AI memicu operasi pencarian di waduk besar dan penghentian aktivitas perairan.
Manipulasi foto berbasis AI: ketika karya seni berubah menjadi alat kekerasan
Kasus seniman berinisial MZ di Semarang menjadi alarm keras tentang bahaya manipulasi foto berbasis AI yang menyasar tubuh dan kehormatan orang lain. Ia diduga mengubah foto korban menjadi konten bermuatan seksual menggunakan kecerdasan buatan. Lebih buruk lagi, hasil rekayasa itu tidak berhenti sebagai koleksi pribadi; konten tersebut disebut telah disebarkan ke sebuah grup percakapan WhatsApp hingga perkara dilaporkan ke kepolisian daerah setempat. Laporan diterima Subdit Siber pada 15 September 2026 dan tercatat resmi dalam Surat Tanda Penerimaan Aduan. Pasal 35 juncto Pasal 51 UU ITE yang digunakan menegaskan bahwa manipulasi, perubahan, penghilangan, atau penciptaan informasi elektronik sehingga seolah-olah data tersebut autentik adalah perbuatan yang dapat dipidana. Ini bukan sekadar pelanggaran privasi; ini pola baru kekerasan berbasis gambar yang memanfaatkan AI sebagai senjata.
Konten palsu yang memicu aparat: gambar buaya dan konsekuensi pidana
Jika di Semarang masalahnya adalah pelecehan visual, kasus di Singapura menunjukkan sisi lain konten AI ilegal: rekayasa gambar yang menggerakkan aparat secara sia-sia. Seorang pria berusia 30-an tahun didakwa setelah gambar seekor buaya yang dibuatnya dengan bantuan AI mendorong pihak berwenang melakukan pencarian dan menghentikan aktivitas perairan di sebuah waduk besar. Ia mengirimkan gambar itu ke kolega, yang kemudian memicu laporan penampakan buaya di Pandan Reservoir. Badan urusan air nasional mengeluarkan peringatan publik, dan petugas bersama otoritas taman melakukan pencarian reptil yang ternyata tidak ada. Setelah gambar diketahui palsu, polisi menyimpulkan bahwa pelaku bukan hanya menyebarkan pesan palsu, tetapi juga menghapus gambar dan aplikasi pembuatnya sebagai upaya menutup-nutupi, sehingga dijerat dengan tuduhan membagikan pesan palsu dan merintangi penyelidikan.
Tanggung jawab hukum: pembuat konten dulu, platform kemudian
Dua perkara di atas menunjukkan pola yang sama: dalam kacamata penegakan hukum saat ini, pembuat kontenlah yang pertama kali diposisikan sebagai penanggung jawab. Dalam kasus Semarang, fokus aparat ada pada tindakan MZ yang "dengan sengaja dan tanpa hak" melakukan manipulasi informasi elektronik sehingga tampak autentik. Di Singapura, aparat menyorot tindakan individu yang membuat dan mengedarkan gambar palsu hingga memicu respons resmi, lalu berupaya menghapus jejak dengan menghapus gambar dan aplikasi. Struktur penanganan perkara masih berpusat pada pelaku langsung, bukan pada pengembang atau pemilik alat. Ini mengirim pesan tegas: teknologi AI mungkin netral, tetapi pengguna yang mengubahnya menjadi konten AI ilegal akan menghadapi ancaman pidana. Pertanyaan lanjutan tentang peran platform AI belum tersentuh; yang jelas, hukum bergerak berat ke arah tanggung jawab individu.
Pelajaran untuk era generatif: etika dulu, baru eksplorasi kreatif
Perdebatan tentang tanggung jawab hukum AI kerap terdengar abstrak, tetapi dua kasus ini membuatnya sangat konkret. Begitu karya berbasis AI keluar dari ruang pribadi dan memasuki ruang publik—dari grup WhatsApp hingga saluran komunikasi kolega—ia dinilai sebagai tindakan sosial dengan akibat hukum. Seniman yang memanipulasi tubuh orang lain menjadi konten seksual tanpa persetujuan dan pria yang bermain-main dengan gambar buaya hingga memicu operasi pencarian waduk sama-sama berhadapan dengan dakwaan. Pesannya jelas: eksplorasi kreatif dengan AI membutuhkan kompas etika yang kuat. Sebelum memikirkan estetika, pengguna harus bertanya: apakah yang saya buat bisa merugikan orang, menipu otoritas, atau mengganggu ketertiban? Tanpa pertanyaan itu, konten AI ilegal tidak akan menjadi pengecualian, melainkan kebiasaan baru yang mahal bagi pembuatnya.
