Jakarta – Meta dilaporkan menjalankan sebuah proyek internal yang disebut-sebut melibatkan ratusan tenaga kontrak untuk menguji sistem keamanan chatbot kecerdasan buatan (AI) milik perusahaan lain. Dalam proyek tersebut, para pekerja dikabarkan diminta membuat akun palsu yang menyamar sebagai remaja dan mengajukan berbagai pertanyaan ekstrem kepada layanan AI kompetitor.
Berdasarkan laporan Wired, proyek yang dikenal dengan nama Cannes itu dikerjakan melalui perusahaan mitra Meta, Covalen. Sasaran pengujian meliputi sejumlah chatbot populer seperti ChatGPT, Gemini, dan Character.AI.
Tugas para pekerja adalah mengirim ribuan prompt yang dirancang untuk menguji sejauh mana sistem keamanan chatbot mampu menolak permintaan berbahaya atau sensitif. Seluruh proses dilakukan tanpa pemberitahuan kepada perusahaan pengembang AI yang menjadi target pengujian.
Dalam satu rangkaian evaluasi, disebutkan terdapat sekitar 38 ribu prompt yang dikirimkan. Sebagian besar berisi tema sensitif, mulai dari bunuh diri, tindakan melukai diri sendiri, gangguan makan, hingga percakapan seksual yang ditulis seolah-olah berasal dari anak-anak atau remaja.
Beberapa skenario yang digunakan digambarkan dalam bentuk cerita maupun pertanyaan yang mengandung unsur kekerasan, penyalahgunaan narkoba, hingga fantasi kanibalisme. Selain teks, pekerja juga diminta mengunggah gambar-gambar yang dianggap sensitif, seperti obat-obatan, senjata tajam, tali gantung, hingga ilustrasi prosedur medis.
Laporan tersebut juga menyebutkan bahwa pada tahap pengujian berikutnya jumlah prompt yang dikirim meningkat hingga lebih dari 45 ribu. Seluruh respons chatbot kemudian didokumentasikan secara rinci ke dalam lembar kerja sebagai bahan evaluasi.
Meski demikian, belum diketahui secara pasti bagaimana Meta memanfaatkan seluruh data yang telah dikumpulkan. Dokumen internal Covalen hanya menjelaskan bahwa proyek tersebut bertujuan menyusun tolok ukur keamanan AI sekaligus menghasilkan kumpulan data yang dapat digunakan untuk membandingkan kemampuan berbagai model.
Pekerja Mengaku Mengalami Tekanan Psikologis
Sejumlah pekerja kontrak yang terlibat dalam proyek itu mengaku mengalami tekanan mental akibat harus berhadapan dengan berbagai materi yang mengandung unsur kekerasan dan tema sensitif setiap hari.
Salah seorang kontraktor mengatakan pekerjaannya membuat dirinya terpapar banyak konten yang seharusnya tidak perlu dilihat. Ia juga mengungkapkan bahwa banyak rekan kerjanya merasa terkejut dengan jenis percakapan yang diminta untuk diuji dan sempat mempertanyakan apakah tugas tersebut benar-benar dapat dibenarkan.
Kasus ini kembali memunculkan sorotan terhadap penggunaan tenaga kerja pihak ketiga oleh Meta dalam pekerjaan yang berkaitan dengan keamanan platform. Sebelumnya, perusahaan tersebut juga pernah menghadapi kritik setelah moderator konten Facebook mengaku mengalami trauma akibat harus menyaring video kekerasan, pembunuhan, hingga pelecehan. Keluhan serupa juga pernah muncul dari pekerja yang bertugas meninjau rekaman yang dihasilkan perangkat Ray-Ban Meta AI.
Meta Bantah Langgar Etika
Menanggapi laporan tersebut, Meta menyatakan bahwa pengujian terhadap sistem keamanan model AI merupakan praktik yang lazim dilakukan di industri teknologi untuk mengetahui ketahanan suatu model terhadap berbagai jenis permintaan pengguna.
Namun pandangan itu mendapat bantahan dari CEO Humane Intelligence PBC, Rumman Chowdhury. Menurutnya, metode yang dilaporkan dilakukan Meta telah melampaui batas evaluasi yang wajar karena melibatkan akun palsu yang menyamar sebagai anak di bawah umur dan dijalankan secara sistematis dalam waktu yang panjang.
Ia juga mempertanyakan keputusan Meta yang tidak menginformasikan proyek tersebut kepada perusahaan AI yang menjadi sasaran maupun mempublikasikan hasil pengujiannya. Menurut Chowdhury, kondisi tersebut menunjukkan masih adanya wilayah abu-abu dalam tata kelola industri kecerdasan buatan, ketika isu keamanan berpotensi digunakan sebagai alasan untuk menjalankan strategi persaingan bisnis yang diperdebatkan.(BY)
