Ketika promosi palsu tampak meyakinkan
Deepfake adalah gambar, video, atau audio yang dibuat atau dimanipulasi dengan kecerdasan buatan sehingga seseorang tampak melakukan atau mengatakan sesuatu yang tidak pernah terjadi. Kemampuan ini membuat wajah dan suara selebritas dapat dipakai dalam iklan tanpa persetujuan mereka—dan bagi bisnis yang mengejar penjualan, kepercayaan penggemar menjadi alat promosi yang dicuri. Kasus presenter Melaney Ricardo memperlihatkan dampak konkretnya: wajahnya digunakan dalam video AI untuk mengiklankan produk pelangsing tanpa izin. Ia seolah memberi testimoni bahwa berat badannya turun 25 kilogram dalam satu bulan, padahal ia menegaskan tidak pernah memakai produk itu atau memberikan testimoni tersebut. Ini bukan pemasaran kreatif, melainkan penciptaan bukti palsu untuk memengaruhi keputusan konsumen. Ketika iklan AI meminjam identitas seseorang tanpa persetujuan, keuntungan yang dicari pengiklan dibayar dengan risiko reputasi bagi selebritas dan keputusan pembelian yang keliru bagi publik.
Risiko meluas dari iklan ke penipuan
Risiko deepfake tidak berhenti pada wajah yang ditempelkan ke video promosi. AI dapat meniru pola gambar, gerak bibir, dan suara untuk membuat konten tampak autentik; video, foto, maupun audio hasil manipulasi karena itu bisa sulit dikenali sekilas. Wajah yang terlihat akrab dan suara yang terdengar tepat bukan bukti bahwa selebritas benar-benar mendukung sebuah produk. Nama Raffi Ahmad, misalnya, dicatut dalam video yang seolah memperlihatkannya mempromosikan situs judi daring; suara dalam video itu terindikasi dihasilkan AI. Dampaknya bagi pengguna biasa dapat berupa kehilangan uang, pembelian berdasarkan klaim palsu, atau paparan terhadap produk yang tidak aman. Penyalahgunaan suara juga dapat menyasar hubungan personal: pelaku bisa meniru suara anggota keluarga untuk meminta transfer uang. Karena konten meyakinkan dapat tersebar sebelum diperiksa, membagikannya tanpa verifikasi ikut memperbesar kerugian.
Tanggung jawab tidak boleh berhenti pada pembuat AI
Menyalahkan teknologi saja terlalu mudah dan tidak menyentuh pihak yang memilih menggunakannya. Pelaku usaha yang mengambil manfaat dari iklan palsu serta pembuat atau penyebar materi promosi harus bertanggung jawab atas klaim dan identitas yang mereka tampilkan. Platform media sosial juga perlu memperkuat pengawasan terhadap iklan dan konten manipulatif, bukan menunggu korban menanggung sendiri akibat penyebarannya. Pemerintah dan regulator, pada gilirannya, perlu memastikan aturan perlindungan konsumen, penggunaan identitas, dan informasi menyesatkan dapat diterapkan pada penyalahgunaan AI. Pembagian tanggung jawab ini penting: tidak setiap kasus melibatkan semua pihak dengan kadar yang sama, tetapi keuntungan dan kendali atas konten harus ikut diperhitungkan. Tanggung jawab AI bukan berarti mesin menjadi satu-satunya pihak yang disalahkan; manusia dan organisasi yang merancang, menerbitkan, serta menyebarkan iklan tetap membuat keputusan yang menimbulkan kerugian.
Kepercayaan publik harus menjadi batas
Konsumen perlu memeriksa klaim promosi melalui kanal resmi selebritas atau merek sebelum membeli, terutama jika video menampilkan hasil yang luar biasa atau mendesak untuk bertindak. Namun, kewaspadaan individu tidak dapat menggantikan kewajiban pengiklan untuk jujur dan platform untuk menindak konten manipulatif. Menuntut setiap pengguna membedakan deepfake yang makin autentik tanpa dukungan pengawasan berarti memindahkan beban dari pihak yang membuat atau mengambil untung kepada calon korban. AI dapat membantu pemasaran, tetapi penggunaannya untuk memalsukan dukungan selebritas merusak kepercayaan yang menjadi dasar iklan dan persaingan usaha yang sehat. Kesimpulannya, tanggung jawab harus mengikuti peran: pengiklan dan penyebar bertanggung jawab atas materi yang mereka gunakan, platform atas pengawasan yang mereka jalankan, sementara regulator memastikan perlindungan dapat ditegakkan. Tanpa pembagian tanggung jawab yang tegas, wajah siapa pun bisa menjadi alat jualan tanpa izin.
