Apa Itu Celah Keamanan llms.txt dan Mengapa Berbahaya
Celah keamanan llms.txt adalah kerentanan pada file dokumentasi llms.txt dan llms-full.txt di website yang digunakan AI agents untuk membaca dan mengikuti instruksi teknis, tetapi berisi rujukan paket kode atau domain yang tidak akurat, usang, atau tidak diklaim sehingga bisa diambil alih dan diisi malware untuk kemudian diinstal otomatis oleh AI agents pada sistem korban yang memberikan izin eksekusi perintah.
Masalah ini bukan teknis sepele, melainkan lubang besar dalam rantai pasok perangkat lunak berbasis AI. Riset menemukan 120 referensi llms.txt yang tidak diklaim pada berbagai domain, yang bisa dieksploitasi untuk menginfeksi perangkat pengguna melalui malware AI agents. Ketika dokumentasi web yang halusinatif, usang, dan tidak akurat diperlakukan AI sebagai sumber kebenaran, llms.txt berubah dari panduan ramah AI menjadi instruksi eksekusi kode berbahaya. Inilah titik kunci: dokumentasi yang selama ini dianggap pasif mendadak menjadi permukaan serangan aktif.
Riset terhadap 6.214 domain aktif milik kontraktor pertahanan, organisasi Fortune 500, dan perusahaan teknologi besar menemukan 8.265 file .txt yang relevan, dengan 120 file menunjuk ke paket dan domain yang sama sekali tidak terdaftar. Temuan ini menunjukkan bahwa kerentanan file llms.txt bukan kasus tunggal, tetapi masalah struktural di banyak organisasi besar. Jika pemain sekelas ini bisa lalai, organisasi lain hampir pasti punya celah yang sama—bedanya hanya pada seberapa cepat cybercriminal menemukannya.
Bagaimana Malware Menyusup lewat AI Agents
Inti persoalan adalah perubahan peran AI agents: dari “pembaca dokumentasi” menjadi “pelaksana instruksi”. File llms.txt dan llms-full.txt dirancang sebagai konvensi agar AI agents dapat memahami konten website dengan benar. Saat AI agent mencari cara memasang software atau menambahkan kode ke proyek, ia akan merayapi dokumen ini di seluruh web hingga menemukan paket yang tampak relevan. Di sinilah malware menyelinap.
Secara teori—andai kata ini belum cukup memicu alarm—seorang cybercriminal dapat menemukan paket tidak diklaim dalam dokumentasi llms.txt, lalu mendaftarkannya dan mengisinya dengan malware. Jika AI agent memiliki izin mengeksekusi perintah shell atau package-manager dan mengikuti dokumentasi itu, perangkat korban dapat terinfeksi tanpa campur tangan manusia. Model AI seperti Claude, OpenAI Codex, dan Nous Research Hermes terbukti dapat mengikuti dokumentasi berbahaya dalam eksperimen tersebut.
Untuk membuktikan kerentanan ini, peneliti mendaftarkan beberapa nama paket tidak terklaim dan meng-host paket yang mengirim sinyal ketika terpasang; hasilnya, kurang dari satu jam sebuah perusahaan Fortune 500 mulai merespons, diikuti beberapa lusin instalasi lain. Temuan ini membantah anggapan bahwa ancaman korupsi dokumentasi AI hanya teori—ini sudah berdampak di dunia nyata. Celah keamanan llms.txt mengubah AI agents menjadi vektor serangan aktif yang mampu mengakses dan mengeksekusi kode berbahaya atas nama organisasi.
Siapa yang Paling Terdampak dan Seberapa Serius Ancaman Ini?
Penelitian memfokuskan pada 6.214 domain milik kontraktor pertahanan, organisasi Fortune 500, dan perusahaan teknologi besar. Namun, dampaknya jauh melampaui kelompok elit ini. Setiap organisasi yang mengandalkan dokumentasi teknis publik dan AI agents, khususnya untuk coding dan otomatisasi DevOps, berada dalam zona bahaya. Temuan 120 referensi llms.txt yang tidak diklaim menunjukkan adanya celah keamanan llms.txt yang cukup besar untuk dimanfaatkan dalam serangan siber berskala luas.
Eksperimen para peneliti membuktikan bahwa jika mereka mampu memicu instalasi paket dari dokumentasi yang dimanipulasi, maka cybercriminal juga bisa melakukan hal yang sama—dengan niat jauh lebih jahat. Ini bukan lagi skenario “kalau-kalau”, tetapi pola serangan yang sangat mungkin diindustrialisasi, mengingat semakin banyak organisasi menjadikan AI coding tools sebagai bagian dari infrastruktur strategis pengembangan perangkat lunak.
Yang mengkhawatirkan, banyak organisasi memberi AI agents hak eksekusi luas tanpa pengawasan memadai. Malware AI agents yang memanfaatkan kerentanan file llms.txt dapat menyusup ke pipeline CI/CD, server internal, hingga laptop developer, sementara log hanya menunjukkan “instalasi paket sesuai dokumentasi”. Ini menjadikan perlindungan AI cybersecurity bukan tambahan opsional, melainkan prasyarat dasar untuk mempertahankan integritas aset digital.
Langkah Pertama: Audit llms.txt dan Bersihkan Dokumentasi
Kabar baiknya: ada langkah konkret yang bisa dilakukan sekarang. Kabar buruknya: organisasi tidak bisa lagi mengabaikan dokumentasi sebagai urusan minor. Rekomendasi pertama dari riset adalah perusahaan membersihkan dokumentasi mereka dan memastikan tidak mengarah ke konten yang tidak ada atau berbahaya. Artinya, file llms.txt dan llms-full.txt harus diperlakukan sebagai aset keamanan, bukan hanya panduan AI.
Audit yang disarankan mencakup: pemetaan semua file llms.txt dan llms-full.txt di seluruh domain dan subdomain; identifikasi rujukan ke paket dan domain yang tidak diklaim atau tidak terdaftar; penghapusan atau perbaikan semua referensi “hantu” tersebut; dan penetapan proses review sebelum perubahan dokumentasi publik dirilis. Langkah audit berkala terhadap dokumentasi teknis adalah garis pertahanan pertama terhadap eksploitasi malware AI agents.
Karena kemungkinan kecil dalam waktu dekat AI agents berhenti memperlakukan dokumentasi sebagai instruksi eksekusi, beban mitigasi utama berada pada pemilik sistem. Mengabaikan tahap ini sama dengan membiarkan penyerang menempatkan pamflet palsu berisi instruksi beracun tepat di depan pintu AI agents Anda. Jika organisasi serius tentang perlindungan AI cybersecurity, audit llms.txt harus masuk radar prioritas, bukan catatan kaki di backlog dokumentasi.
Membangun Pengaman: Batasi Hak AI Agents dan Pantau Setiap Perintah
Membersihkan dokumentasi belum cukup tanpa pengendalian perilaku AI agents. Organisasi perlu membatasi izin eksekusi perintah dan akses AI agents ke resource sensitif. AI yang boleh membaca web sekaligus menjalankan shell atau package-manager tanpa kontrol adalah kombinasi yang siap dieksploitasi. Prinsipnya sederhana: hak akses AI agents harus sehemat mungkin untuk menyelesaikan tugas, tidak lebih.
Langkah praktis yang relevan antara lain: menggunakan sandbox terisolasi untuk semua eksekusi perintah yang dipicu AI; menerapkan daftar putih (whitelist) repository dan domain paket yang diizinkan; menempatkan persetujuan manusia untuk instalasi paket baru atau akses ke sistem produksi; serta membatasi token kredensial yang bisa diakses AI agents. Ini bukan soal tidak percaya pada AI, melainkan menyadari bahwa AI dapat dimanipulasi oleh dokumentasi beracun.
Selain pembatasan, organisasi harus mengimplementasikan monitoring dan validasi terhadap permintaan AI agents. Verifikasi berkala terhadap dokumentasi, pembatasan izin eksekusi, dan pemantauan aktivitas jaringan yang mencurigakan adalah paket minimum perlindungan AI cybersecurity yang disarankan. Log semua perintah yang dijalankan atas rekomendasi AI, deteksi anomali instalasi paket, dan korelasi dengan sumber dokumentasi akan mengurangi risiko eksploitasi sebelum berkembang menjadi insiden besar. Kesimpulannya, jika AI sudah menjadi “anggota tim”, maka AI juga harus tunduk pada disiplin keamanan yang sama ketatnya.
