Inti Masalah: AI yang Terlihat Pintar, Tapi Mudah Salah
Kegagalan fitur-fitur AI Google, mulai dari penarikan fitur generatif di Google Earth hingga kesalahan misinformasi AI Overviews, menunjukkan bahwa kesalahan AI Google bukan sekadar bug teknis, melainkan cerminan keterbatasan mendasar sistem kecerdasan buatan dalam menjaga akurasi jawaban AI dan mencegah penyebaran misinformasi ketika beroperasi di ruang publik yang mengandalkan kepercayaan informasi. Ketika Google secara mengejutkan menghentikan fitur berbasis kecerdasan buatan di Google Earth hanya sehari setelah diperkenalkan, pesan yang muncul jelas: AI generatif yang dilepas tanpa pagar pengaman yang kuat akan segera bertabrakan dengan kenyataan sosial, politik, dan informasi. Di sisi lain, misinformasi AI Overviews tentang kamera Flock Safety memperlihatkan betapa mudahnya candaan internet berubah menjadi “fakta” dalam kotak jawaban yang tampak meyakinkan.
Google Earth: Ketika Kreativitas Visual Berubah Menjadi Misinformasi
Penarikan fitur AI di Google Earth adalah contoh telanjang kegagalan fitur AI ketika imajinasi pengguna bertemu minimnya rambu pengaman. Fitur ini memanfaatkan teknologi generatif Nano Banana untuk membuat atau mengubah visual berdasarkan citra satelit dan tampilan tiga dimensi Google Earth. Tujuannya terdengar mulia: kreatif, edukatif, visualisasi. Namun dalam hitungan jam, pengguna menggunakan fitur ini untuk membuat gambar palsu yang menyerupai kondisi nyata, termasuk bencana dan konflik yang tidak terjadi. Karena gambar tersebut berbasis visual Google Earth, hasilnya tampak lebih meyakinkan daripada gambar AI biasa, sehingga berpotensi menyesatkan jurnalis, pemeriksa fakta, dan komunitas OSINT yang selama ini bergantung pada citra satelit untuk verifikasi peristiwa. Penanda visual dan pemisahan dari pengalaman utama ternyata tidak cukup; risiko misinformasi terlalu besar. Google lalu menarik fitur dan berjanji memperketat perlindungan sebelum meluncurkan kembali layanan serupa.
Kasus Kamera Flock: Candaan Internet Disulap Jadi “Fakta”
Di ranah pencarian web, kesalahan AI Google tampak lebih halus namun tak kalah bermasalah. AI Overviews milik Google melalui Gemini menyebut setiap kamera Flock Safety mengandung 1–5 gram emas dengan nilai hingga sekitar Rp12,5 juta per unit. Padahal, kamera tersebut memang memakai emas dan tembaga, tetapi hanya dalam jumlah sangat kecil. Klaim bombastis ini bukan berasal dari laporan teknis, melainkan dari candaan komunitas privasi daring yang mendorong perusakan kamera sebagai bentuk penolakan pengawasan massal. AI Overviews mengutip informasi mentah dari sumber tidak kredibel, termasuk akun Substack acak dan unggahan Instagram hasil rekayasa AI. Misinformasi AI Overviews di sini bukan sekadar angka yang salah; ia melegitimasi humor menjadi seolah fakta teknis, lalu menampilkannya langsung di hasil pencarian. Kalimat rapi dan nada yakin membuat pengguna merasa aman, padahal fondasi faktanya rapuh.
Data Oumi: Jawaban Meyakinkan, Keandalannya Jauh Tertinggal
Kasus kamera Flock hanyalah satu contoh dari masalah sistemik yang lebih besar. Studi resmi Oumi terhadap lebih dari 4.000 kueri faktual menemukan hanya 39% jawaban AI Overviews yang benar-benar dapat dipercaya, sementara 91% di antaranya terlihat benar di mata pengguna. Ini adalah kutipan penting yang telak: “Studi resmi Oumi terhadap lebih dari 4.000 kueri faktual menemukan hanya 39% jawaban AI Overviews yang benar-benar dapat dipercaya, Meski demikian, sebanyak 91% jawaban tersebut terlihat benar”. Dengan kata lain, mayoritas jawaban tampak rapi, logis, dan berwibawa, tetapi sebagian besar klaim di dalamnya tidak sepenuhnya disangga oleh sumber yang kredibel. Oumi juga menemukan sekitar sepertiga dari klaim yang muncul merupakan halusinasi, yakni informasi yang dibuat sistem tanpa dasar sumber mana pun. Ketika misinformasi AI Overviews menyaru sebagai pengetahuan, dampaknya bukan hanya salah paham individu, tetapi erosi perlahan terhadap standar kebenaran di ruang digital.
Akurasi Jawaban AI Bukan Takdir, Tapi Pilihan Desain
Rangkaian kegagalan fitur AI ini mengajarkan satu hal: akurasi jawaban AI tidak boleh dianggap sebagai efek samping yang kelak “membaik sendiri”, melainkan harus menjadi parameter utama desain produk. Keterbatasan AI dalam memahami konteks dan melakukan verifikasi fakta secara real-time membuat sistem mudah terseret candaan, bias komunitas, dan data mentah yang belum diuji. Google berencana menyesuaikan sistem pengamanannya dan menerapkan perlindungan lebih ketat sebelum menghadirkan kembali fitur generatif di Earth. Namun tanggung jawab tidak berhenti di perusahaan. Pengguna harus berhenti memperlakukan jawaban AI sebagai kebenaran tunggal dan mengembalikan kebiasaan verifikasi: membandingkannya dengan sumber primer, sumber resmi, serta laporan media dan lembaga kredibel, terutama untuk riset dan pengambilan keputusan. AI bisa menjadi alat riset yang cepat, tetapi tanpa budaya cek fakta, ia berpotensi menjadi mesin misinformasi yang manis namun berbahaya.
