Pengunduran diri yang menandai perbedaan prinsip
AI untuk militer adalah penggunaan sistem kecerdasan buatan untuk mendukung kegiatan angkatan bersenjata, mulai dari pengolahan informasi hingga perencanaan dan operasi di medan perang. Persoalan utamanya bukan sekadar kemampuan teknologi, melainkan siapa yang mengendalikan penggunaannya dan siapa yang bertanggung jawab ketika keputusan berisiko dibuat.
Sejumlah peneliti Google DeepMind mengundurkan diri karena menolak teknologi perusahaan dipakai untuk operasi militer. Sofia Liguori, insinyur riset yang berbasis di London, mundur pekan lalu setelah bekerja di Google selama tiga tahun; Andreas Krisch meninggalkan perusahaan pada awal bulan ini karena kekhawatiran serupa. Bagi mereka, pengunduran diri bukan perbedaan pendapat kecil tentang prioritas riset. Ini adalah protes terhadap arah perusahaan dan pertanyaan apakah janji etika masih berarti ketika teknologi masuk ke ranah peperangan.
Keberatan itu layak dipandang sebagai peringatan tata kelola, bukan semata-mata keputusan pribadi. Ketika orang yang membangun teknologi merasa tidak lagi percaya pada komitmen pemberi kerja, perusahaan perlu menjelaskan dengan terang bagaimana prinsip yang diumumkan diterapkan dalam kontrak dan di lapangan.
Kontrak militer memperbesar taruhan
Pemicu langsung pengunduran diri ini adalah kontrak militer yang ditandatangani Google dengan militer Amerika Serikat pada awal tahun ini, di tengah prioritas Menteri Pertahanan Pete Hegseth untuk mengintegrasikan AI ke dalam angkatan bersenjata. Perjanjian itu membuka penggunaan model Google untuk tujuan pemerintah yang sah secara hukum. Cakupan luas seperti ini menuntut batas yang lebih jelas daripada sekadar mengandalkan niat baik.
Google bukan satu-satunya perusahaan teknologi yang teknologinya diizinkan masuk ke ekosistem militer. AI dari perusahaan-perusahaan teknologi lain juga diintegrasikan, termasuk ke Project Maven, platform intelijen Pentagon buatan Palantir. Penggunaan AI militer dapat mencakup transportasi, perencanaan, dan operasi di medan perang; sistem juga membantu personel memilih serta mengidentifikasi target serangan. Perluasan seperti ini membuat keputusan tentang batas penggunaan tidak bisa diserahkan hanya kepada tim pengadaan atau eksekutif.
Para peneliti mengkhawatirkan bukan hanya tujuan kontrak, tetapi juga kemampuan Google untuk mengetahui dan membatasi cara teknologinya dipakai. Krisch menilai perusahaan tidak memiliki hak veto atas penggunaan Pentagon dan hanya memiliki informasi terbatas tentang penerapan di lapangan. Itu celah akuntabilitas yang serius: persetujuan awal tidak cukup bila pengembang tak dapat memantau penggunaan atau bertindak ketika praktiknya menyimpang.
Pengawasan manusia harus lebih dari klausul
Perjanjian Google menyatakan AI tidak boleh dipakai untuk pengawasan massal terhadap warga sipil dalam negeri atau senjata otonom tanpa pengawasan dan kendali manusia yang sesuai. Prinsip itu penting, tetapi kata “pengawasan” tidak otomatis menjamin manusia punya waktu, informasi, atau kewenangan untuk menghentikan keputusan sistem. Di medan perang, kecepatan pemrosesan AI dapat membuat pemeriksaan manusia menjadi formalitas bila ratusan target harus ditinjau dalam waktu singkat.
Di sinilah etika kecerdasan buatan harus diterjemahkan menjadi aturan operasional yang dapat diuji: siapa yang menyetujui penggunaan, apa yang wajib dicatat, kapan sistem harus dihentikan, dan siapa yang bertanggung jawab atas kesalahan. Menetapkan larangan umum saja tak memadai bila perusahaan tidak mendapat visibilitas atas implementasi atau tidak dapat mengintervensi penyalahgunaan.
Google menyatakan kontraknya ditinjau melalui proses yang konsisten, mengikuti kebijakan penggunaan dan prinsip AI perusahaan, serta menyediakan saluran aman bagi karyawan untuk menyampaikan kekhawatiran dan kebijakan untuk mencegah pembalasan. Pernyataan itu perlu diuji lewat praktik, terutama ketika karyawan mengaku takut berbicara terbuka. Tata kelola yang meyakinkan mesti melindungi pelapor sekaligus memberi pengembang kendali nyata atas risiko, bukan hanya prosedur internal.
Taruhannya adalah tanggung jawab pengembang
Pengunduran diri ini memperlihatkan benturan dua pandangan: perusahaan teknologi dapat menganggap kepatuhan pada hukum dan peninjauan kontrak sudah memadai, sementara para peneliti menuntut tanggung jawab yang berlanjut setelah teknologi diserahkan. Perbedaan itu tidak akan selesai dengan mengulang janji etika. Pengembang perlu menjelaskan batas penggunaan, memantau penerapan, dan memiliki mekanisme untuk menghentikan atau menolak penggunaan yang melanggar batas tersebut.
Kontrak yang mengizinkan penggunaan untuk tujuan pemerintah yang sah secara hukum memberi pagar, tetapi tidak menjawab seluruh persoalan tentang keputusan di lapangan, keterbukaan, dan pengawasan yang efektif. Jika manusia hanya mengesahkan rekomendasi AI tanpa kesempatan nyata untuk menilai dan menolaknya, pengawasan menjadi label, bukan perlindungan.
Kesimpulannya, pengunduran diri para peneliti Google DeepMind seharusnya dibaca sebagai ujian bagi tata kelola AI, bukan sekadar gejolak tenaga kerja. Perusahaan yang mengembangkan AI untuk militer mesti memastikan kendali manusia sungguh berfungsi, batas penggunaan dapat ditegakkan, dan pekerja dapat menyampaikan keberatan tanpa takut. Tanpa itu, janji etika akan kalah oleh kontrak yang cakupannya terus melebar.
