Gemini AI Dikritik karena Diduga Tampilkan Respons Islamofobia terhadap Kueri tentang Muslim

Gemini AI besutan Google menjadi sorotan setelah dilaporkan memberikan jawaban yang dinilai mengandung unsur Islamofobia ketika pengguna memasukkan kueri terkait umat Muslim. Respons tersebut memicu kritik publik karena dianggap memperlakukan identitas agama tertentu sebagai sesuatu yang berkaitan dengan ancaman atau bahaya.

Kontroversi ini mencuat di media sosial setelah sejumlah tangkapan layar beredar. Salah satunya dibagikan oleh akun Instagram @imamomarsuleiman, yang menunjukkan adanya peringatan keamanan saat alat pencarian berbasis AI tersebut menerima pertanyaan tentang seorang Muslim.

Respons Gemini terhadap Kueri tentang Muslim

Dalam tangkapan layar yang dibagikan, pengguna memasukkan kueri berbahasa Inggris yang jika diterjemahkan berarti, “saya sedang sendirian dengan seorang Muslim.”

Gemini AI Overview kemudian memberikan jawaban yang menyarankan pengguna untuk segera meninggalkan lokasi atau menghubungi layanan darurat apabila merasa tidak aman. Sistem tersebut juga menambahkan agar pengguna memperlakukan orang yang dimaksud dengan rasa hormat, kebaikan, serta batasan percakapan yang wajar.

Jawaban itu berbunyi, “Jika Anda merasa tidak aman atau sedang menghadapi keadaan darurat, segera tinggalkan area tersebut atau hubungi 911. Jika dalam situasi sosial atau pribadi, perlakukan orang tersebut dengan rasa hormat sebagai sesama manusia, kebaikan, dan batasan percakapan yang wajar seperti Anda lakukan kepada orang lain.”

Respons tersebut dipermasalahkan karena peringatan mengenai keselamatan dan keadaan darurat muncul ketika kueri menyebut identitas seorang Muslim. Kritik semakin kuat setelah respons Gemini dibandingkan dengan pertanyaan serupa yang menyebut warga Israel.

Respons Berbeda ketika Kueri Menyebut Warga Israel

Akun @imamomarsuleiman membandingkan jawaban Gemini terhadap kueri tentang seorang Muslim dengan pertanyaan yang sama terkait warga Israel. Dalam perbandingan tersebut, sistem disebut memberikan respons yang lebih netral dan penuh empati ketika menyebut warga Israel.

Google menggambarkan warga Israel sebagai “individu, sama seperti orang lain”. Pada kueri tersebut, Gemini tidak menampilkan peringatan keamanan maupun bahasa yang berkaitan dengan keadaan darurat.

Perbedaan jawaban ini kemudian memunculkan tudingan bahwa sistem Gemini menerapkan perlakuan yang tidak setara terhadap kelompok berdasarkan identitas agama atau kebangsaan. Dalam unggahannya pada Jumat (21/8), akun tersebut mempertanyakan sikap Google dan meminta publik mencoba kueri yang sama untuk melihat hasilnya.

Kritik terhadap Potensi Penguatan Stereotip

Dikutip dari News19, para pengkritik menilai respons Gemini berpotensi memperkuat stereotip yang mengaitkan umat Muslim dengan ancaman atau bahaya. Mereka memandang keluarnya peringatan keamanan pada kueri yang sebenarnya hanya menyebut identitas agama sebagai persoalan serius dalam pengembangan teknologi kecerdasan buatan.

Belum diketahui apakah respons tersebut selalu muncul dengan cara yang sama di berbagai wilayah atau negara. Namun, advokat pembela hak digital menilai kejadian ini dapat menjadi tanda adanya persoalan yang lebih luas pada algoritma mesin pencari berbasis AI.

Dugaan Penyebab Respons Bermasalah

Para pengkritik menduga terdapat sejumlah faktor yang dapat menyebabkan Gemini memberikan respons seperti itu. Salah satu faktor yang disoroti adalah data pelatihan yang digunakan untuk mengembangkan model AI generatif.

Model AI generatif belajar dari data dalam jumlah besar yang dihimpun dari internet. Apabila data tersebut berulang kali mengaitkan kelompok tertentu dengan isu keamanan atau stereotip negatif, sistem AI dapat secara tidak sengaja meniru bias yang terdapat di dalamnya.

Selain persoalan data pelatihan, sistem pengaman atau safety system juga diduga berperan. Model bahasa besar menggunakan sistem otomatis untuk mengenali situasi yang dianggap berpotensi membahayakan. Menurut para pengkritik, sistem pengaman yang terlalu sensitif dapat keliru menganggap identitas agama tertentu sebagai pemicu risiko tinggi.

Hasil Pengujian CNNIndonesia.com

CNNIndonesia.com turut mencoba memasukkan kueri serupa ke kolom pencarian Google. Namun, Gemini pada fitur AI Mode memberikan jawaban yang tampak lebih empatik.

“Berada sendirian dengan seorang Muslim, tidak berbeda dengan berada sendirian dengan orang lain mana pun. Anda harus memperlakukan mereka dengan rasa hormat, kebaikan, dan kesopanan yang wajar,” tulis Gemini AI dalam hasil pengujian tersebut.

Kesimpulan

Kontroversi ini menunjukkan bahwa respons kecerdasan buatan dapat menimbulkan persoalan serius ketika menghasilkan jawaban yang dianggap bias terhadap kelompok agama tertentu. Perbedaan jawaban berdasarkan kueri yang menyebut Muslim dan warga Israel juga memicu pertanyaan mengenai data pelatihan serta sistem pengaman yang digunakan Gemini.

Meski hasil pengujian CNNIndonesia.com menunjukkan respons yang lebih empatik pada AI Mode, belum diketahui apakah jawaban Gemini selalu konsisten di berbagai wilayah dan kondisi. Ke depan, persoalan ini masih menjadi perhatian karena sistem AI perlu memberikan jawaban yang adil, menghormati semua kelompok, serta tidak memperkuat stereotip yang merugikan.

Sumber: Cnnindonesia