Temukan minat Anda, bersama

Promo pilihan, ulasan jujur, dan cerita belanja dari mereka yang seminat dengan Anda — setiap hari di Kuybeli.

Temukan minat Anda, bersamaPromo pilihan, ulasan jujur, dan cerita belanja dari mereka yang seminat dengan Anda — setiap hari di Kuybeli.

OpenAI Gunakan AI untuk Mendeteksi Eksploitasi Anak, Termasuk Gambar Sintetis

OpenAI Gunakan AI untuk Mendeteksi Eksploitasi Anak, Termasuk Gambar Sintetis
Minat|Eksplorasi Aplikasi AI

Deteksi yang Menjangkau Gambar Baru

Materi eksploitasi seksual anak adalah gambar atau konten visual yang menggambarkan kekerasan seksual terhadap anak dan dapat beredar di layanan digital. Deteksi otomatis membantu peninjau menemukan materi berbahaya, tetapi hasilnya harus diperlakukan sebagai petunjuk untuk pemeriksaan, bukan vonis.

Pada 17 November 2026, OpenAI memperkenalkan alat berbasis kecerdasan buatan untuk mendeteksi materi eksploitasi seksual anak, termasuk gambar yang diduga dibuat atau dimanipulasi dengan AI. Alat ini memakai pengklasifikasi gambar untuk mengenali indikasi visual dan memberi skor risiko, sehingga petugas dapat memprioritaskan berkas yang perlu diperiksa. Berbeda dari pencocokan sederhana dengan kumpulan materi yang sudah diketahui, sistem dirancang untuk menandai gambar baru yang belum pernah diidentifikasi. Perbedaan itu penting: pelaku dapat membuat variasi baru, sementara basis data tidak mungkin memuat setiap gambar sejak awal. Karena itu, deteksi konten AI dapat memperluas jangkauan pemeriksaan, tetapi skor otomatis tetap bukan penetapan bahwa suatu gambar pasti melanggar.

OpenAI Gunakan AI untuk Mendeteksi Eksploitasi Anak, Termasuk Gambar Sintetis

Mengapa Gambar Buatan AI Menambah Tantangan

Kemampuan mengenali gambar buatan AI menjawab celah yang kian relevan bagi keamanan konten digital: materi berbahaya tidak selalu berasal dari foto yang sudah tercatat. Sistem OpenAI menyertakan sinyal khusus tentang kemungkinan gambar dihasilkan AI, selain skor berdasarkan petunjuk visual. Itu dapat membantu petugas membedakan jenis materi yang perlu ditinjau, tetapi juga menuntut kehati-hatian. Gambar sintetis dan gambar yang dimanipulasi bisa menimbulkan konteks serta persoalan bukti yang berbeda dari materi dokumenter.

Uji awal bersama mitra dilaporkan mengurangi jumlah gambar yang ditandai hingga 48% tanpa mengurangi jumlah gambar eksploitasi yang ditemukan; gambar yang ditandai juga dua kali lebih mungkin teridentifikasi sebagai konten berbahaya. Angka itu memberi alasan untuk optimistis karena beban pemeriksaan dapat lebih terarah. Namun, kinerja uji tidak menjamin hasil yang sama di semua layanan, bahasa visual, atau jenis gambar. Pengawasan manusia diperlukan untuk memeriksa kemungkinan salah tandai dan memastikan materi serius tidak luput.

Teknologi Membantu, Pengawasan Menentukan

Dalam menghadapi eksploitasi anak online, alat deteksi hanya satu bagian dari sistem perlindungan. Pengembangannya melibatkan National Center for Missing & Exploited Children (NCMEC), organisasi yang mengelola CyberTipline, pusat pelaporan eksploitasi anak secara daring di Amerika Serikat. Kolaborasi dengan pihak yang menangani laporan dan perlindungan anak dapat menghubungkan temuan otomatis dengan pemeriksaan serta tindak lanjut. Namun, keputusan mengenai eskalasi tetap harus mengikuti prosedur yang melindungi anak, menjaga bukti, dan membatasi paparan materi kepada petugas.

OpenAI juga menambahkan peringatan di ChatGPT bagi pengguna yang mencoba mengakses atau menghasilkan konten seksualisasi anak. Sistem mengarahkan pengguna ke layanan bantuan khusus dan dapat menangguhkan akun selama 24 jam; pelanggaran berulang dapat berujung pada penghapusan permanen. Bagi pengguna umum, ini menunjukkan bahwa pencegahan tidak berhenti pada pemindaian gambar: aturan layanan dan respons terhadap penyalahgunaan juga penting. Meski demikian, moderasi harus diawasi agar sanksi proporsional, temuan dapat ditinjau, dan jalur bantuan tidak tertukar dengan hukuman.

Langkah Lanjutan dan Batas yang Perlu Dijaga

Rencana pendukungnya mencakup panduan keamanan bagi pengembang untuk mendeteksi dan melaporkan materi eksploitasi seksual anak, serta perangkat berbasis AI, pelatihan, dan alat investigasi bagi aparat penegak hukum. Arah ini tepat karena teknologi deteksi akan lebih berguna bila organisasi memiliki prosedur untuk menindaklanjuti temuan, personel terlatih, dan saluran pelaporan yang jelas. Tanpa unsur tersebut, peningkatan jumlah sinyal hanya memindahkan beban ke pemeriksa tanpa menjamin perlindungan yang lebih baik.

Intinya, classifier OpenAI menawarkan cara untuk mempercepat penemuan gambar berbahaya, termasuk materi sintetis yang tidak tercantum dalam basis data lama. Hasil uji awal menjanjikan, tetapi tidak menghapus risiko salah klasifikasi atau kelalaian. Pengawasan manusia, evaluasi berkelanjutan, dan akuntabilitas atas keputusan moderasi harus berjalan bersama kemampuan teknis. Dalam isu yang menyangkut anak, kecepatan deteksi penting; ketepatan dan perlindungan terhadap korban jauh lebih penting.

Kuybeli memperoleh komisi saat Anda berbelanja melalui tautan kami, tanpa biaya tambahan untuk Anda.

You May Also Like

Comments
Tulis sesuatu...
Belum ada komentar. Jadilah yang pertama berbagi pendapat!