Otonomi berkembang lebih cepat daripada kendali
Agen AI perusahaan adalah sistem perangkat lunak yang dapat menjalankan tugas secara otonom untuk membantu proses bisnis, tetapi tetap memerlukan aturan, pemantauan, dan pihak yang berwenang menghentikannya. Masalahnya, kemampuan itu kini tumbuh lebih cepat daripada kesiapan perusahaan untuk mengelolanya. Survei global Dataiku dan Harris Poll terhadap 685 CIO, yang diumumkan dalam konferensi tahunan Dataiku, menemukan 84 persen CIO mengatakan karyawan membuat aplikasi dan agen AI lebih cepat daripada kemampuan tim TI untuk merespons. Angka ini bukan sekadar tanda adopsi AI yang antusias; ia menunjukkan bahwa praktik pengembangan sudah bergerak melampaui proses persetujuan dan pengawasan internal. Ketika pegawai membangun alat sendiri di luar saluran resmi, perusahaan berisiko kehilangan gambaran tentang apa yang berjalan, untuk tujuan apa, dan siapa yang bertanggung jawab. Membiarkan laju ini tanpa tata kelola bukanlah strategi inovasi, melainkan taruhan atas kontrol operasional.
Banyak agen, sedikit visibilitas
Kesenjangan itu sudah tampak dalam skala yang sulit dianggap kecil. Sebanyak 81 persen CIO tidak memiliki pengawasan penuh terhadap agen AI yang dibuat di luar sistem atau saluran resmi perusahaan—praktik yang kerap disebut Shadow AI. Sementara itu, 67 persen memperkirakan sedikitnya 51 agen telah aktif di lingkungan produksi perusahaan mereka. Artinya, pengawasan tim TI tidak hanya tertinggal dari jumlah agen, tetapi juga dari persebaran pembuatannya. Persoalan ini diperparah oleh belum adanya standar: 83 persen CIO mengatakan organisasinya belum memiliki manajemen siklus hidup agen yang berlaku di seluruh perusahaan. Tanpa aturan untuk mencatat, menilai, memperbarui, dan menonaktifkan agen, inventaris yang tampak lengkap belum tentu berarti kendali yang nyata. Perusahaan bisa mengetahui sebuah agen ada, tetapi tetap tidak tahu apakah ia masih aman dan berguna untuk beroperasi.
Risiko bukan hanya keamanan
Dampaknya melampaui kemungkinan agen berjalan di luar jalur resmi. Jika hasil kerja agen tidak diukur, perusahaan sulit memastikan apakah otomatisasi memberi manfaat sesuai tujuan awal. Sebanyak 72 persen CIO tidak dapat memastikan secara konsisten bahwa seluruh agen yang aktif menghasilkan hasil bisnis yang diharapkan. Visibilitas biaya juga timpang: hanya 21 persen yang memiliki gambaran penuh dan nyaris waktu nyata tentang biaya AI berdasarkan unit bisnis, tim, atau penggunaan. Lebih mengkhawatirkan lagi, Dataiku melaporkan 60 persen responden belum memiliki lapisan tata kelola AI terpusat yang mencakup aplikasi, perangkat keras, dan lingkungan TI. Ketika agen gagal, tanggung jawab pun terpecah di antara TI pusat, tim data atau AI, tim keamanan, dan kelompok gabungan. Ini bukan alasan untuk mematikan inovasi, tetapi bukti bahwa pengawasan tanpa kewenangan dan ukuran kinerja tidak cukup. Agen yang bermasalah harus bisa dihentikan, dan keputusan itu perlu memiliki pemilik yang jelas.
Bebas membangun, wajib berada dalam batas
Jawaban yang masuk akal bukan melarang tim bisnis bereksperimen atau memusatkan seluruh pengembangan di TI. Sebanyak 91 persen CIO menilai pendekatan paling efektif adalah membagikan pengembangan kepada tim bisnis dalam kerangka tata kelola yang jelas. Prinsip itu seharusnya menjadi batas minimum: setiap agen tercatat, memiliki penanggung jawab, diuji terhadap tujuan bisnis, dan dapat ditinjau maupun dihentikan. Perusahaan juga perlu memperjelas jalur eskalasi agar kegagalan tidak tersangkut di antara fungsi TI, data, keamanan, dan kepatuhan. Untuk menjaga kesinambungan, 75 persen CIO berencana memakai variasi model AI yang lebih luas, sedangkan 74 persen mempertimbangkan model sumber terbuka atau berbobot terbuka sebagai antisipasi jika model komersial tidak lagi tersedia. Namun, diversifikasi model tidak menggantikan tata kelola. Kesimpulannya tegas: adopsi AI hanya akan berkelanjutan bila perusahaan mengimbangi kebebasan membuat agen dengan pengawasan, akuntabilitas, dan kemampuan untuk mengelolanya sepanjang siklus hidup.
