Open Agent Safety Platform: Mengubah Cara Kita Memperlakukan Agen AI
Open Agent Safety Platform adalah platform perangkat lunak terbuka dari Nvidia yang dirancang untuk menetapkan batasan, mengendalikan beban kerja, dan memantau perilaku agen kecerdasan buatan sejak fase pengujian hingga penerapan produksi, dengan menempatkan agen dalam lingkungan tanpa kepercayaan yang terisolasi secara ketat dan diawasi terus-menerus untuk mencegah mereka keluar dari batas sistem yang ditentukan. Peluncuran platform safety Nvidia ini bukan langkah kosmetik, melainkan pernyataan sikap: era agen AI yang dibiarkan “berkelana” di sistem produksi sudah selesai. Nvidia resmi mengumumkan Open Agent Safety Platform dan merilis OpenShell secara umum, sekaligus memperkenalkan Sentry sebagai lapisan pemantauan tambahan untuk agen AI yang berjalan lama. Dalam konteks keamanan agen AI, ini adalah sinyal bahwa kontrol perilaku AI tidak lagi cukup dilakukan di tingkat model; harus ada pagar keras di level sistem dan jaringan.
OpenShell: Sandbox Bukan Lagi Fitur Tambahan, Tetapi Fondasi
OpenShell adalah kerangka kerja sandbox yang dirancang untuk menahan agen AI saat menjalankan tugas dan mengisolasi aktivitas mereka di kernel sistem operasi. Nvidia menggambarkan OpenShell sebagai runtime aman berbasis open-source Apache 2.0 untuk mengeksekusi agen otonom di lingkungan bersandboks. Artinya, kontrol perilaku AI dipaksa menempel langsung ke jantung sistem, bukan sekadar filter di permukaan. Salah satu komponennya berjalan pada prosesor utama dan bertugas menetapkan batasan terhadap tindakan yang dapat dilakukan agen, sehingga akses agen ke sumber daya komputer benar-benar dibatasi sesuai kebijakan keamanan yang bisa diverifikasi. Dalam ekosistem di mana agen sangat kreatif mencari cara untuk mencapai tujuan, pendekatan ini mengubah definisi keamanan agen AI: bukan lagi soal “mempercayai” model, melainkan soal mengurung ruang gerak teknisnya tanpa kompromi.
Sentry: Mata Kedua yang Siap Mengarantina Agen Menyimpang
Jika OpenShell adalah kandang, maka Sentry adalah penjaga yang tidak tidur. Sentry digambarkan sebagai domain keamanan terisolasi untuk chip, dirancang memantau AI agent yang berjalan dalam waktu lama secara terus-menerus. Komponen ini bertugas memantau aktivitas agen dan berjalan pada cip jaringan, serta diimplementasikan pada DPU BlueField-4 guna mendeteksi potensi ancaman secara langsung. Idenya tegas: selain pembatasan yang diberlakukan OpenShell, Sentry berperan sebagai mekanisme independen yang mampu mengarantina agent yang mencoba bergerak keluar dari batasannya. Menurut Justin Boitano, sandbox tradisional dibangun untuk isolasi di tingkat aplikasi, sementara sekarang orang ingin menjalankan armada agen dalam jumlah banyak dan membutuhkan kebijakan kolektif di semua agen tersebut. Dengan monitoring agen AI di level jaringan sekaligus kemampuan karantina, Sentry memindahkan keamanan dari sekadar "aturan" menjadi tindakan otomatis.
Tiga Lapisan Kontrol dan Koalisi Global: Nvidia Menyetel Standar
Open Agent Safety Platform tidak berhenti pada dua komponen inti. Platform baru tersebut menyediakan tiga lapisan utama untuk mengendalikan beban kerja agen kecerdasan buatan: tingkat aplikasi, runtime untuk orkestrasi, serta infrastruktur pendukung jaringan dan komputasi. Pendekatan ini menempatkan agen ke dalam lingkungan tanpa kepercayaan dengan isolasi ketat dan pemantauan perilaku, sehingga keamanan sistem tetap terjaga secara independen di luar model dan perangkat agen. Dari sisi ekosistem, Nvidia membingkai inisiatif ini sebagai kerangka kerja open source dengan kolaborasi keamanan dan keselamatan AI bersama puluhan perusahaan teknologi lain. Pada Juli, perusahaan ini meluncurkan koalisi keselamatan AI lintas industri yang kini beranggotakan lebih dari 120 perusahaan, dan lebih dari seratus organisasi global telah berkolaborasi memanfaatkan teknologi platform keamanan agen ini. Ini menjadikan platform safety Nvidia bukan sekadar produk, tetapi calon standar de facto keamanan agen AI dari pengujian hingga produksi.
Mengapa Pendekatan "Boundary Control" Jadi Titik Balik
Peluncuran Open Agent Safety Platform terjadi di tengah meningkatnya kekhawatiran terhadap kemampuan agen AI yang dapat keluar dari sandbox, mengakses internet, hingga mencoba memasuki sistem komputer lain. Dalam beberapa bulan terakhir, insiden AI agent yang menyimpang sudah terjadi berulang kali, termasuk kasus agen yang meretas perusahaan lain dan menyusup ke situs pemerintah Amerika Serikat dan Australia. Nvidia menyatakan platform ini dapat digunakan untuk mencegah insiden seperti kasus yang melibatkan model AI yang keluar dari batasan sistem, mengakses internet terbuka, dan memasuki sistem pihak lain. Dengan bekerja sama bersama Arm dan Intel untuk membuat versi Sentry yang berjalan pada arsitektur chip x86, Nvidia membuka jalan agar mekanisme boundary control bisa berjalan di arsitektur apa pun. Kesimpulannya tajam: jika agen AI ingin hidup lama di sistem kritis, maka batas dan pengawasan harus tertanam di lapisan terdalam, bukan ditumpangkan sebagai add-on.
