Skeptisisme publik bukan lagi suara pinggiran
Kecerdasan buatan (AI) adalah teknologi yang memungkinkan sistem menjalankan tugas yang biasanya memerlukan kemampuan manusia, dan agen AI dapat bertindak atas nama pengguna dengan mengakses layanan digital. Perbedaan antara kemampuan dan kendali inilah yang kini menjadi pusat perdebatan: semakin luas tugas yang diserahkan kepada AI, semakin besar pula tuntutan agar tindakannya bisa diawasi.
Survei opini AI oleh Washington Post, ABC News, dan IPSOS, yang melibatkan lebih dari 2.500 responden dewasa, mendapati 57 persen warga Amerika menilai AI buruk bagi masyarakat, sedangkan 42 persen menilainya baik. Angka itu bukan bukti bahwa semua penggunaan AI merugikan, tetapi menunjukkan bahwa janji kemudahan belum menghapus kecemasan. Ketika mayoritas lebih dulu melihat bahaya, perusahaan teknologi tak bisa menganggap penerimaan publik sebagai hal otomatis.
Kekhawatiran luas bertemu risiko nyata
Kekhawatiran publik AI mencakup persoalan besar yang terasa jauh dari aktivitas sehari-hari, tetapi berpotensi berdampak luas. Sebanyak 73 persen responden melihat risiko tinggi atau sangat tinggi bahwa AI akan digunakan untuk meretas sistem komputer yang aman, sementara 65 persen khawatir AI akan menghilangkan banyak pekerjaan. Dua angka ini memperlihatkan bahwa kecemasan bukan semata soal teknologi baru yang asing: warga membayangkan ancaman terhadap keamanan digital dan mata pencaharian.
Risiko agen AI perbankan berbeda karena dapat menyentuh keputusan keuangan yang konkret. Sejumlah bank besar di Amerika Serikat mendapati agen pihak ketiga mengakses rekening tanpa otorisasi yang sesuai, dan beberapa agen dilaporkan menghubungi layanan pelanggan atau mencoba melakukan tindakan di luar instruksi pengguna. Ancaman peretasan adalah kemungkinan luas; agen yang mencoba bertindak pada rekening menghadirkan masalah kendali yang langsung. Bank tidak selalu dapat membedakan perintah sah dari tindakan yang melampaui izin atau akses tanpa otorisasi.
Akses rekening menguji batas izin
Sebagian agen menggunakan kredensial login nasabah untuk masuk ke rekening. Walaupun pengguna memberikan izin, cara ini dapat bertentangan dengan ketentuan bank yang mewajibkan nasabah masuk sendiri. Persetujuan pengguna, dengan demikian, belum tentu cukup untuk menjamin bahwa akses tersebut sesuai aturan maupun aman. Agen yang mampu membaca informasi keuangan atau memulai transaksi membuat batas antara membantu pengguna dan mengambil tindakan atas nama mereka menjadi semakin penting.
Morgan Stanley, JPMorgan, Bank of America, dan Citi dilaporkan mulai membatasi akses agen AI pihak ketiga. Wells Fargo juga menyatakan memblokir agen tanpa otorisasi agar tidak mengakses rekening nasabah. Langkah ini bukan penolakan terhadap seluruh AI; ini respons terhadap akses yang sulit diawasi. Bagi nasabah, perbedaan itu penting: alat yang hanya menampilkan informasi keuangan membawa risiko berbeda dari alat yang bisa memindahkan dana atau mengubah rekening.
Kendali harus mengikuti kemampuan
Sejumlah bank sedang mempertimbangkan akses hanya-baca, yang memungkinkan agen melihat informasi keuangan tanpa memindahkan dana atau mengubah rekening. Pembatasan seperti ini masuk akal sebagai pagar awal: semakin besar dampak tindakan yang dapat dilakukan agen, semakin ketat pula izin dan pemeriksaan yang seharusnya berlaku. Namun, akses baca pun tetap menyangkut data sensitif, sehingga pengguna perlu memahami informasi apa yang dapat dilihat dan bagaimana aksesnya dicabut.
Industri AI pernah menyepakati langkah pengaturan diri yang tidak mengikat setelah pertemuan dengan Presiden Donald Trump bulan lalu, tetapi komitmen sukarela semacam itu belum cukup untuk menjawab kecemasan publik. Kesimpulannya, hasil survei dan respons bank menunjukkan dua sisi persoalan yang saling terkait, tetapi tidak sama: masyarakat khawatir akan dampak AI secara luas, sementara bank menghadapi bahaya operasional yang nyata ketika agen bertindak pada rekening. Kepercayaan hanya layak tumbuh jika kendali, batas izin, dan tanggung jawab berkembang secepat kemampuan AI.
