Jakarta – Google tengah menjadi sorotan setelah Gemini AI dilaporkan memberikan respons yang dinilai bernuansa Islamofobia ketika pengguna memasukkan pertanyaan yang berkaitan dengan umat Muslim.
Perdebatan mengenai respons tersebut muncul di media sosial setelah sejumlah pengguna membagikan tangkapan layar hasil jawaban Gemini. Salah satunya berasal dari akun Instagram @imamomarsuleiman yang mengunggah contoh respons Gemini terhadap sebuah kueri.
Dalam tangkapan layar itu, pengguna memasukkan pertanyaan, “saya sedang sendirian dengan seorang Muslim.” Gemini AI Overview kemudian memberikan respons yang menyarankan pengguna meninggalkan lokasi atau menghubungi layanan darurat apabila merasa tidak aman.
Meski dalam bagian berikutnya Gemini menyarankan agar orang tersebut diperlakukan dengan rasa hormat dan kebaikan seperti manusia lainnya, munculnya peringatan keamanan dalam konteks identitas agama tersebut menuai kritik.
Pemilik akun yang mengunggah tangkapan layar mempertanyakan alasan Google menampilkan respons semacam itu. Ia juga mengaitkannya dengan kontroversi mengenai hasil pencarian Google sebelumnya yang dinilai bermasalah ketika membahas Islam.
Dibandingkan dengan Kueri tentang Warga Israel
Kontroversi semakin berkembang setelah respons Gemini dibandingkan dengan pertanyaan serupa yang menggunakan identitas warga Israel.
Dalam perbandingan yang dibagikan, Gemini disebut memberikan jawaban yang lebih netral ketika kueri menyebut seseorang sebagai warga Israel. Sistem menggambarkan individu tersebut sebagai manusia biasa dan tidak memberikan peringatan keamanan seperti pada contoh sebelumnya.
Kondisi tersebut kemudian memunculkan kekhawatiran bahwa sistem AI berpotensi memperkuat stereotip negatif terhadap kelompok agama tertentu.
Dikutip dari News19, para pengkritik menilai penggunaan bahasa yang mengaitkan identitas Muslim dengan potensi bahaya dapat berkontribusi terhadap terbentuknya persepsi yang keliru mengenai umat Islam.
Diduga Berkaitan dengan Bias Data AI
Respons tersebut juga memunculkan pertanyaan mengenai bagaimana sistem kecerdasan buatan menentukan konteks keamanan dalam sebuah pertanyaan.
Salah satu kemungkinan yang menjadi perhatian adalah bias dalam data pelatihan. Model AI generatif mempelajari pola bahasa dari data dalam jumlah sangat besar, termasuk berbagai konten yang tersedia di internet.
Apabila data tersebut mengandung stereotip atau narasi yang secara berulang menghubungkan kelompok tertentu dengan ancaman, model AI berpotensi mereproduksi pola tersebut ketika menghasilkan jawaban.
Faktor lain yang turut disoroti adalah sistem pengaman atau safety guardrails pada model AI. Teknologi ini dirancang untuk mengenali permintaan yang berpotensi menimbulkan bahaya.
Namun, sistem yang terlalu sensitif juga berisiko menghasilkan respons yang tidak proporsional apabila karakteristik identitas tertentu secara keliru terbaca sebagai indikator risiko.
Meski demikian, belum dapat dipastikan apakah respons tersebut muncul secara konsisten kepada seluruh pengguna, termasuk di wilayah atau negara yang berbeda.
Respons Gemini Tidak Selalu Sama
Menariknya, ketika pertanyaan dengan konteks serupa dicoba kembali melalui fitur AI Mode Google, Gemini justru memberikan jawaban yang berbeda.
Dalam respons tersebut, Gemini menyatakan bahwa berada sendirian dengan seorang Muslim tidak berbeda dengan berada bersama orang lain. Sistem juga menekankan pentingnya memperlakukan setiap individu dengan rasa hormat, kebaikan, dan kesopanan.
Perbedaan hasil jawaban ini menunjukkan bahwa respons Gemini dapat berubah bergantung pada sistem, konteks kueri, maupun mekanisme pengamanan yang digunakan.
Kasus tersebut pun kembali menyoroti tantangan pengembangan AI generatif, khususnya dalam memastikan sistem dapat memberikan jawaban yang konsisten sekaligus menghindari penguatan stereotip terhadap kelompok berdasarkan agama, etnis, maupun identitas lainnya.(BY)
