Deepfake AI: Teknologi Canggih yang Berubah Menjadi Senjata Penipuan
Video deepfake AI adalah konten visual dan suara yang dimanipulasi menggunakan kecerdasan buatan hingga menyerupai sosok asli, sehingga orang tampak berkata atau melakukan hal yang tidak pernah mereka lakukan dan sangat sulit dibedakan dari rekaman nyata oleh pengguna awam. Dalam kasus terbaru, Gubernur sekaligus Raja Keraton Yogyakarta, Sri Sultan Hamengku Buwono X, menjadi korban penyalahgunaan teknologi ini yang digunakan untuk menghasilkan konten visual dan suara palsu. Sebuah rekam video hasil rekayasa kecerdasan buatan yang mengatasnamakan Sultan beredar melalui pesan berantai di aplikasi WhatsApp. Fakta bahwa tokoh publik dapat dengan mudah dijadikan “aktor” dalam penipuan media sosial menunjukkan bahwa deepfake bukan sekadar gimmick teknologi, melainkan ancaman langsung terhadap keamanan konten digital dan reputasi seseorang.
Kasus Sultan HB X: Deepfake yang Menyamar sebagai Pesan Pribadi dan Transaksi
Video palsu yang mencatut nama Sultan HB X tidak muncul dari kanal resmi, melainkan beredar lewat WhatsApp dan pesan berantai. Konten tersebut menampilkan sosok yang mirip Sultan, dengan suara yang terdengar meyakinkan, tetapi narasinya menyentuh ranah pribadi seseorang, sesuatu yang selama ini tidak pernah disampaikan beliau dalam komunikasi resmi maupun wawancara. Lebih jauh, narasi yang dibangun mengarah pada dugaan modus penipuan dengan memanfaatkan kemiripan wajah dan suara hasil rekayasa AI, seolah-olah mengarahkan seseorang agar melakukan pembayaran suatu barang sebelum barang tersebut dikirim. Pemerintah daerah telah memverifikasi bahwa rekaman ini adalah konten palsu (deepfake) dan bukan pernyataan resmi Gubernur, sembari mengimbau masyarakat untuk tidak mudah mempercayai ataupun menyebarluaskan video tersebut.
Mengapa Tokoh Publik Menjadi Target Utama Penipuan Media Sosial
Deepfake AI digunakan penipu karena menggabungkan dua hal yang sangat ampuh: otoritas tokoh publik dan kecepatan sebaran aplikasi mobile. Wajah dan suara Sultan yang dikenal luas membuat pelaku penipuan lebih mudah memancing kepercayaan, terutama di kanal informal seperti grup WhatsApp keluarga atau komunitas, di mana verifikasi jarang dilakukan. Penipuan media sosial berbasis deepfake tidak hanya merugikan target yang disebut, tetapi juga masyarakat umum yang bisa didorong melakukan pembayaran atau memberikan data pribadi karena yakin diperintah figur yang dihormati. Pemerintah daerah menegaskan bahwa penyalahgunaan teknologi AI dapat dimanfaatkan untuk penipuan maupun penyebaran informasi palsu, sehingga kasus seperti ini menjadi alarm keras bahwa keamanan konten digital sudah menyentuh wilayah psikologis: memanfaatkan rasa hormat, kedekatan, dan kepercayaan terhadap tokoh yang dianggap terpercaya.
Belajar Mendeteksi Video Palsu di Aplikasi Mobile
Deteksi video palsu tidak bisa lagi diserahkan sepenuhnya pada pemerintah atau platform; pengguna sendiri harus meningkatkan literasi digital. Dalam kasus Sultan HB X, tim humas mencocokkan video beredar dengan arsip dokumentasi resmi serta menelaah cara penyampaian dan isi narasi untuk menemukan indikator penggunaan teknologi AI. Pendekatan serupa bisa diadaptasi pengguna awam: pertama, curigai setiap video yang mengatasnamakan tokoh publik tetapi beredar hanya lewat pesan pribadi atau grup, bukan dari kanal resmi. Kedua, amati apakah isi video menyentuh ranah pribadi, menyebut nama individu tertentu, atau menginstruksikan pembayaran dan pengiriman barang; pola seperti ini mengarah pada penipuan media sosial. Ketiga, sebelum mempercayai atau menyebarkan konten, pastikan sumbernya dengan memeriksa akun resmi atau rilis kelembagaan. Pemerintah daerah sendiri menekankan agar masyarakat tidak mudah mempercayai ataupun menyebarluaskan video deepfake AI yang belum terverifikasi.
Membangun Kebiasaan Aman: Kewaspadaan Kolektif terhadap Deepfake
Hingga saat ini, pemerintah daerah belum membahas langkah hukum spesifik terkait temuan video deepfake yang mencatut nama Sultan HB X; fokus utama adalah meningkatkan literasi digital masyarakat agar mampu mengenali dan mengantisipasi penyalahgunaan teknologi AI. Sikap ini tepat, tetapi tidak cukup jika tidak diikuti kewaspadaan kolektif pengguna aplikasi mobile. Keamanan konten digital perlu diperlakukan seperti keamanan finansial: jangan asal percaya, jangan asal kirim, jangan asal sebarkan. Setiap kali menerima video atau informasi yang mengatasnamakan instansi atau tokoh publik, masyarakat diminta memastikan terlebih dahulu sumbernya sebelum mempercayai atau menyebarkannya. Jika sebuah video mendorong tindakan cepat, apalagi pembayaran, berhenti sejenak dan cek ulang ke kanal resmi. Deepfake akan terus berkembang, tetapi dampak penipuannya bisa ditekan bila pengguna berani mempertanyakan keaslian konten dan menolak menjadi bagian dari rantai penyebaran.
