Temukan minat Anda, bersama

Promo pilihan, ulasan jujur, dan cerita belanja dari mereka yang seminat dengan Anda — setiap hari di Kuybeli.

Temukan minat Anda, bersamaPromo pilihan, ulasan jujur, dan cerita belanja dari mereka yang seminat dengan Anda — setiap hari di Kuybeli.

Model AI Tanpa Pagar Pengaman: Siapa Bertanggung Jawab?

Model AI Tanpa Pagar Pengaman: Siapa Bertanggung Jawab?
Minat|Eksplorasi Aplikasi AI

Penolakan yang bisa dihapus

Model AI abliterated adalah model dengan bobot yang dimodifikasi untuk melemahkan atau menghapus perilaku menolak permintaan berbahaya, tanpa harus melatih ulang seluruh model. Praktik ini mengubah kemampuan keamanan yang tertanam dalam model menjadi sesuatu yang dapat dibongkar dan disebarkan.

Abliteration bermula dari temuan penelitian pada 2024 terhadap 13 model percakapan sumber terbuka, dengan parameter hingga 72 miliar: penolakan dimediasi satu arah dalam ruang internal model. Menghapus arah itu membuat model berhenti menolak permintaan berbahaya; menambahkannya dapat membuat model menolak permintaan yang aman. Dari temuan itu lahir teknik abliteration, yang memodifikasi bobot secara terarah tanpa pelatihan ulang. Kini alat otomatis dapat menjalankan proses tersebut dalam hitungan menit.

Skalanya sudah sulit dianggap sebagai eksperimen pinggiran. Hugging Face mencatat lebih dari 6.000 model abliterated, naik dari sekitar 600 pada 2024. Label “uncensored” sendiri bukan kategori teknis yang menjamin satu jenis perilaku: ada model yang lebih longgar untuk fiksi dewasa atau pengujian keamanan, dan ada yang memberi jawaban operasional berbahaya. Karena itu, AI tanpa pagar pengaman bukan sekadar chatbot yang kurang sopan; kemampuan dan risikonya bergantung pada model, modifikasi, serta akses yang diberikan.

Risiko bertambah saat model bertindak

Model tanpa penolakan yang hanya menjawab pertanyaan tetap berisiko, tetapi model yang terhubung ke alat dapat memperbesar dampak kesalahan. Jika diberi akses ke peramban, surel, terminal komputer, atau pembayaran, agen bisa menjalankan instruksi yang diterimanya, termasuk arahan tersembunyi di halaman web atau pesan. Hilangnya mekanisme penolakan bukan lagi sekadar perubahan gaya jawaban; itu dapat mengubah sistem yang punya kemampuan bertindak menjadi pelaksana instruksi tanpa rem.

Ada alasan sah untuk menguji model yang tidak mudah menolak. Tim pengujian keamanan mungkin perlu menyimulasikan serangan, menganalisis malware, atau menguji apakah agen perusahaan dapat dibujuk melanggar batas. Namun tujuan pengujian tidak otomatis membenarkan distribusi model yang sama tanpa penjelasan, pembatasan, atau pengawasan. Pengembang yang menerbitkan bobot, pembuat modifikasi, penyedia layanan, dan pengguna masing-masing mengambil keputusan yang membentuk risiko.

Itulah sebabnya tanggung jawab model AI tidak semestinya dilempar sepenuhnya kepada orang yang mengetik permintaan terakhir. Pengembang asal menentukan desain dan cara distribusi; pihak yang menghapus penolakan mengubah profil risiko; platform memutuskan aturan akses dan penanganan laporan; sementara pengguna bertanggung jawab atas tujuan dan tindakan yang ia perintahkan. Jika model diberi alat untuk bertindak, penyedia yang menghubungkannya ke sistem nyata juga harus menjelaskan pengamanan dan batas aksesnya.

AI Act belum menutup celah tanggung jawab

Di Uni Eropa, AI Act membebankan kewajiban kepada penyedia model serbaguna, dengan pengecualian terbatas bagi model berlisensi bebas yang tidak mencakup model berisiko sistemik. Panduan Komisi Eropa menyebut pihak yang memodifikasi atau menyempurnakan model baru dianggap penyedia hanya dalam keadaan luar biasa: ketika intervensinya memakai lebih dari sepertiga komputasi yang digunakan untuk melatih model asli. Karena abliteration mengubah bobot tanpa melatih ulang model dan memakai sebagian kecil komputasi itu, pembuat modifikasi dapat berada di luar kategori penyedia menurut aturan tersebut.

Penafsiran itu memunculkan celah yang patut diperhatikan: model dapat berubah secara substantif dari sisi keselamatan, sementara pihak yang menghapus penolakan belum tentu memperoleh status hukum penyedia. Namun, itu bukan berarti semua kewajiban lenyap atau pengguna selalu menjadi satu-satunya pihak yang bertanggung jawab. Peran tiap pihak, layanan yang disediakan, dan penggunaan konkret model tetap penting. Perusahaan AI seharusnya tidak memperlakukan kepatuhan sebagai urusan dokumentasi semata; mereka perlu menilai bagaimana model terbuka dan modifikasinya dapat dipakai dalam layanan yang mereka tawarkan.

Gugatan menguji batas pengembangan

Perdebatan akuntabilitas juga bergeser ke pengadilan. Empat organisasi nirlaba—Irreplaceable Education Fund, Public Citizen, Heat Initiative, dan Alliance for Secure AI—mengajukan gugatan di San Francisco Superior Court terhadap OpenAI, Anthropic, Google, Meta, dan SpaceXSI. Mereka menuduh perusahaan melanggar hukum persaingan tidak sehat California karena membahayakan kesehatan publik dan mengganggu penggunaan properti, termasuk sistem komputer, lalu meminta hakim menghentikan pengembangan serta peluncuran model AI baru.

Gugatan itu muncul beberapa hari setelah lima orang ditangkap dalam protes terhadap rencana penawaran umum perdana Anthropic; para penggugat juga memperingatkan bahwa sistem yang semakin otonom dapat beroperasi di luar kendali manusia. Untuk konsumen, gugatan tersebut belum berarti layanan percakapan yang ada harus ditutup atau langganan dihentikan. Perkara ini menunggu proses hukum, dan putusan atas permintaan penghentian pengembangan akan menentukan arah berikutnya; jika perintah luas dikabulkan, dampaknya dapat menjangkau industri jauh di luar Silicon Valley.

Kesimpulannya, kemudahan menghapus penolakan menuntut lebih dari sekadar menyalahkan pengguna yang menyalahgunakan model. Pengembang perlu transparan tentang batas keselamatan, platform perlu menetapkan tata kelola distribusi yang masuk akal, dan penyedia layanan harus mengendalikan akses ketika model dapat bertindak. Pengguna tetap bertanggung jawab atas perintahnya, tetapi akuntabilitas yang adil harus mengikuti siapa yang mengubah, menyebarkan, dan memberi model kuasa untuk bertindak.

Kuybeli memperoleh komisi saat Anda berbelanja melalui tautan kami, tanpa biaya tambahan untuk Anda.

You May Also Like

Comments
Tulis sesuatu...
Belum ada komentar. Jadilah yang pertama berbagi pendapat!