AI mengubah prompt menjadi operasi pencurian
Serangan siber AI adalah operasi yang menggunakan chatbot pengodean atau agen otonom untuk mengotomatisasi tahap serangan, mulai dari pemindaian hingga pengumpulan kredensial, sehingga pelaku dapat bekerja lebih cepat dengan campur tangan manusia yang terbatas. Laporan GTIG menggambarkan bagaimana aktor yang diduga bermotif finansial memakai sumber daya cloud korban, lalu memasukkan prompt dan instruksi agen ke chatbot pemrograman AI. Dalam waktu kurang dari enam jam, proses itu menghasilkan ribuan kredensial pihak ketiga. Ini bukan sekadar bantuan AI untuk menulis kode: agen tersebut mengelola pemindaian kerentanan, pemecahan masalah, dan rotasi alamat IP secara mandiri. Pencurian kredensial cloud pun berpotensi berkembang menjadi operasi berulang yang sukar dihentikan dengan mengandalkan kewaspadaan operator saja. Namun, temuan itu menghitung kredensial, bukan organisasi atau individu yang terdampak; jumlah korban dan penggunaan lanjutan atas kredensial tersebut tidak dijelaskan.
ARTEX mempercepat serangan melalui jalur tepercaya
Kasus ConnectWise menunjukkan bagaimana agen AI peretas dapat dipakai dalam serangan rantai pasok. Storm-0940 menggunakan ARTEX, framework sumber terbuka untuk pengujian penetrasi berbasis agen AI, untuk mempercepat pengintaian, penyebaran kata sandi, dan penyalahgunaan aplikasi OAuth. Kelompok itu menggunakan kredensial aplikasi ConnectWise yang dicuri untuk mencoba masuk ke lebih dari 2.250 tenant Microsoft 365; sebagian aktivitas dilaporkan mencapai akses istimewa dalam waktu kurang dari tiga jam setelah penargetan dimulai. Karena akses dilakukan melalui aplikasi, bukan melalui proses masuk interaktif pengguna, pola ini berisiko luput dari pemeriksaan yang hanya berfokus pada login pegawai. Ancaman bertambah rumit ketika lalu lintas serangan melewati rentang IP cloud korban sendiri, sehingga sumbernya dapat tampak tepercaya. Organisasi tidak boleh menganggap alamat internal atau aplikasi yang sudah terotorisasi sebagai bukti bahwa aktivitasnya aman.
Risiko meluas dari kata sandi ke rantai pasok
Dampaknya tidak berhenti pada satu akun atau satu layanan. Kredensial yang dicuri dapat membuka akses ke aplikasi cloud dan layanan AI, sementara token aplikasi yang disalahgunakan bisa memberi jalan ke banyak tenant. Dalam kasus ConnectWise, Microsoft menyebut serangan tersebut bukan akibat kompromi atau kerentanan pada produk maupun layanan Microsoft; titik risikonya adalah kredensial aplikasi yang dicuri dan penyalahgunaannya. Karena itu, keamanan Microsoft 365 harus mencakup pemeriksaan identitas aplikasi, izin OAuth, dan pola akses lintas tenant, bukan hanya pengamanan akun pengguna. Laporan GTIG juga menguraikan ancaman rantai pasok perangkat lunak, termasuk server MCP bertrojan di PyPI dan pencurian identitas sistem build untuk menyisipkan paket berbahaya. Temuan-temuan ini memperlihatkan bahwa kepercayaan pada alat pengodean, paket, dan proses build perlu diuji; tanda tangan atau token yang valid tidak dengan sendirinya menjamin bahwa aktivitas di baliknya aman.
Langkah pertahanan: awasi akses, lindungi kredensial
Kecepatan otomatisasi memperpendek waktu yang tersedia bagi tim keamanan untuk menemukan dan membatasi serangan. Karena itu, organisasi perlu memantau kegagalan login berulang, perubahan pola akses aplikasi, aktivitas OAuth yang tidak biasa, serta permintaan dari infrastruktur cloud yang sah tetapi tidak sesuai perilaku normal. Tinjau log identitas dan aplikasi secara berkala, terutama akses lintas tenant, dan cabut atau nonaktifkan koneksi aplikasi yang terdampak sambil menunggu panduan pemulihan resmi. Microsoft menyarankan pelanggan menjaga koneksi aplikasi terdampak tetap nonaktif hingga instruksi formal tersedia dan meninjau aktivitas bulan berjalan jika log memungkinkan. Perusahaan juga perlu membatasi hak aplikasi sesuai kebutuhan, merotasi kredensial yang berisiko, menyimpan rahasia di tempat yang terlindungi, serta memastikan token dan kunci API tidak tertanam di kode atau ruang kerja pengembangan. Pemulihan ConnectWise dimulai secara bertahap dengan perkiraan beberapa hari, sehingga pemantauan harus berlanjut selama proses tersebut.
Kesimpulannya, AI tidak menciptakan seluruh teknik serangan ini, tetapi membuatnya lebih mudah dijalankan dalam skala besar dan dengan jeda yang lebih pendek. Organisasi yang hanya mengandalkan reputasi IP, autentikasi pengguna, atau kepercayaan pada aplikasi lama akan meninggalkan celah penting. Prioritasnya jelas: kendalikan kredensial dan izin aplikasi, pantau akses secara menyeluruh, dan siapkan respons yang dapat bergerak secepat otomatisasi lawan.
