Paradoks awal: ketika AI melatih AI tetapi tetap butuh manusia
Paradoks pengawasan manusia AI training muncul ketika perusahaan AI mempekerjakan manusia untuk menilai jawaban model, namun pada saat yang sama memecat kontraktor OpenAI dipecat karena menggunakan AI untuk menggantikan pekerjaan pengawasan manusia yang seharusnya mereka lakukan secara autentik demi menjaga etika pelatihan model dan kualitas jawaban chatbot. OpenAI menjalankan program internal bernama “Project Lilly” yang mempekerjakan ratusan kontraktor untuk membaca percakapan asli pengguna ChatGPT guna meningkatkan kualitas jawaban chatbot tersebut. Di sisi lain, sejumlah kontraktor lain justru dipecat karena memakai ChatGPT atau chatbot AI lain untuk menyelesaikan tugas penilaian yang semestinya dilakukan dengan penilaian manusia. Kontradiksi ini bukan sekadar drama internal perusahaan, melainkan cermin dari kebingungan industri: sejauh mana otomatisasi boleh menggantikan manusia dalam melatih mesin yang dirancang untuk menggantikan manusia.
Project Lilly: pengawasan manusia sebagai tulang punggung kualitas
Project Lilly menunjukkan bahwa di balik citra serba otomatis, pelatihan model masih sangat bergantung pada pengawasan manusia AI training. Program ini mempekerjakan ratusan kontraktor untuk membaca prompt asli pengguna, merangkum permintaan, lalu menilai empat jawaban berbeda yang dihasilkan ChatGPT pada skala 1 sampai 7, lengkap dengan alasan penilaian. Tujuannya jelas: mengarahkan model agar lebih membantu, jujur, memberdayakan pengguna, dan menjauhkannya dari kecenderungan terlalu menuruti pengguna yang sempat dikaitkan dengan kasus bunuh diri dalam gugatan hukum. Di sini, kualitas jawaban chatbot bukan lahir dari algoritma semata, tetapi dari ribuan keputusan kecil para reviewer: bagian mana yang dianggap tepat, mana yang berbahaya, mana yang menyesatkan. Ketika keputusan ini diganti oleh AI lain, seluruh fondasi kepercayaan terhadap proses pelatihan model ikut goyah.
Kontraktor OpenAI dipecat: garis batas antara bantuan dan kecurangan
Pemecatan kontraktor OpenAI dipecat karena memakai AI mengungkap garis batas yang ingin dijaga perusahaan: AI boleh digunakan sebagai objek penilaian, tetapi tidak sebagai pengganti penilai. Laporan menyebut pekerja yang seharusnya memberi umpan balik manusia justru menyerahkan tugas itu ke ChatGPT atau chatbot lain. Dokumen internal menegaskan reviewer tidak diizinkan mengalihdayakan penilaian ke AI, bahkan melarang penggunaan alat seperti Grammarly dan terjemahan berbasis AI untuk menulis komentar. Perusahaan pelatihan yang merekrut kontraktor ini mengonfirmasi bahwa kontrak mereka melarang penggunaan model bahasa besar untuk menyelesaikan proyek. Ironinya tajam: industri yang mempromosikan otomatisasi harus mengembangkan mekanisme deteksi untuk memastikan manusia tidak terlalu banyak mengotomatiskan pekerjaan mereka. Ini bukan sekadar soal disiplin kerja, tetapi tentang keaslian data pelatihan yang akan menentukan perilaku model di masa depan.
Deteksi penggunaan AI dan risiko bias dalam pengawasan manusia
Cara perusahaan mendeteksi pekerja yang diam-diam menggunakan AI juga menunjukkan batas teknologi saat ini. Instruksi internal mengarahkan reviewer untuk tidak memakai detektor AI karena dianggap tidak dapat diandalkan, dan sebaliknya melihat pola: kata-kata berulang, waktu pengerjaan terlalu cepat, gaya penulisan yang mencurigakan, bahkan penggunaan em dash berlebihan. Reviewer juga diminta tidak menjelaskan detail kecurigaan mereka kepada pekerja agar tak mudah diakali. Dalam waktu yang sama, perusahaan mengakui bahwa model yang dilatih dengan umpan balik manusia dapat dipengaruhi oleh orang yang memberi label data tersebut. Artinya, pengawasan manusia bukan jaminan netralitas; bias, kelelahan, atau sikap moral individu ikut menyusup ke dalam etika pelatihan model. Ketika pekerja mengganti penilaian mereka dengan AI lain, lapisan bias baru ditambahkan, dan transparansi atas asal-usul keputusan model menjadi semakin kabur.
Privasi pengguna: harga yang dibayar untuk kualitas jawaban chatbot
Di sisi pengguna, dampak paling sensitif dari Project Lilly adalah privasi. Dengan lebih dari 900 juta pengguna dan pelatihan model aktif secara default untuk paket konsumen, percakapan yang berpotensi dibaca manusia berlangsung dalam skala masif tanpa sepengetahuan banyak orang. Kontraktor memang tidak dapat melihat nama pengguna, dan perusahaan mengklaim memakai “Privacy Filter” untuk menyamarkan informasi pribadi sebelum prompt sampai ke reviewer. Namun mereka mengakui detail sensitif tetap bisa lolos, bahkan ringkasan memori pengguna dan perkiraan lokasi muncul di layar reviewer. Salah satu reviewer yakin banyak pengguna tidak menyangka percakapan mereka dianalisis manusia. Kita tak bisa memuji kualitas jawaban chatbot tanpa mengakui biaya yang menyertainya: data pribadi menjadi bahan baku, pekerja kontrak menjadi filter moral, dan keputusan etika pelatihan model dibuat dalam ruang yang tidak sepenuhnya transparan bagi publik.
Kesimpulan: masa depan pengawasan manusia AI training tidak boleh abu-abu
Kasus Project Lilly dan kontraktor OpenAI dipecat karena memakai AI seharusnya dibaca sebagai alarm etis, bukan sekadar gosip industri. Di satu sisi, perusahaan bergantung pada pengawasan manusia AI training untuk menjaga kualitas jawaban chatbot dan meminimalkan dampak buruk seperti informasi menyesatkan atau dukungan terhadap tindakan berbahaya. Di sisi lain, mereka mempromosikan penggunaan AI di segala lini, namun menarik rem keras ketika AI menyusup ke ruang yang membutuhkan penilaian manusia murni. Selama garis batas ini tidak dijelaskan dengan bahasa yang jujur kepada pekerja dan pengguna, paradoks akan terus berulang: manusia diminta melatih mesin yang mungkin kelak menggantikan mereka, sambil dilarang memakai mesin itu untuk meringankan pekerjaan. Masa depan etika pelatihan model menuntut dua hal: transparansi kepada pengguna tentang siapa yang membaca data mereka, dan perlindungan kerja yang adil bagi manusia yang menjaga agar AI tetap berada di rel yang manusiawi.
