AI Diduga Memicu Stereotip Rasialis, 3 dari 5 Chatbot Bias

Jawaban yang diberikan kecerdasan buatan ternyata tidak selalu netral. Temuan terbaru yang beredar luas di kalangan pengguna internet mengungkap praktik yang mengkhawatirkan: asisten kecerdasan buatan Google, Gemini, diduga memberikan saran yang sangat berbeda ketika pengguna menyebut sedang berada sendirian dengan seseorang—tergantung kewarganegaraan yang disebutkan dalam percakapan. Temuan ini memicu gelombang kritik dan pertanyaan serius tentang seberapa jauh bias rasial tertanam dalam sistem kecerdasan buatan yang kita gunakan sehari-hari.

Kasus ini dilaporkan secara lebih rinci oleh jaringan televisi Prancis, France 2, yang menyelidiki pola jawaban dari beberapa chatbot populer. Hasilnya mencengkeram: dari lima chatbot yang diuji, tiga di antaranya menunjukkan kecenderungan mempromosikan stereotip yang bernuansa rasialis. Artinya, lebih dari separuh teknologi yang diuji gagal mempertahankan netralitas yang seharusnya menjadi standar dasar layanan digital global.

Temuan yang Mengguncang Dunia Digital

Perhatian publik mulai terkumpul ketika para pengguna internet membandingkan jawaban Gemini atas pertanyaan yang sama, namun dengan satu variabel yang diubah: kewarganegaraan lawan bicara yang disebutkan. Untuk sebagian kewarganegaraan, asisten virtual ini memberikan respons yang aman, empatik, dan bijaksana. Namun begitu kewarganegaraan diganti dengan negara lain, nada jawaban berubah drastis—berisi anggapan, kecurigaan, bahkan saran yang mengarah pada stereotip negatif tentang kelompok tertentu.

Fenomena semacam ini dikenal dalam dunia riset sebagai bias algoritmika, yaitu kecenderungan sistem kecerdasan buatan menghasilkan keluaran yang diskriminatif karena dipengaruhi data latih yang timpang atau penuh prasangka. Yang membuat kasus ini berbeda adalah betapa mudahnya bias itu direproduksi oleh pengguna awam, tanpa perlu keahlian teknis khusus. Cukup dengan mengganti satu kata dalam sebuah kalimat, stereotip yang telah lama diupayakan dihilangkan dari ruang digital kembali muncul ke permukaan.

"Kami hanya mengubah nama negara dalam pertanyaan yang sama, dan jawabannya berubah total. Ini bukan sekadar kekeliruan kecil—ini cerminan prasangka yang tertanam dalam sistem," demikian ungkapan yang mewakili kegelisahan para pengguna yang menguji fitur tersebut, seperti dirangkum laporan France 2.

Tiga dari Lima Chatbot Gagal Uji Netralitas

Laporan France 2 tidak berhenti pada Gemini saja. Tim penyiar melakukan pengujian serupa terhadap beberapa chatbot lain yang paling banyak digunakan masyarakat. Angka keseluruhannya memprihatinkan bagi industri yang kerap mendaulat inovasi di atas pengawasan etika:

Rasio tiga dari lima ini menandakan bahwa masalahnya tidak bersifat individual pada satu produk, melainkan struktural pada cara industri membangun model kecerdasan buatan secara umum. Model-model besar dilatih menggunakan data bersumber dari internet—ruang yang sayangnya masih sarat dengan ujaran kebencian, stereotip, dan representasi timpang antarkelompok. Tanpa proses penyaringan dan penyeimbangan yang ketat, prasangka dari data mentah itu dapat terserap dan bahkan diperkuat oleh mesin.

Akar Masalah: Data Latih yang Timpang

Para peneliti etika kecerdasan buatan sudah lama memperingatkan fenomena ini. Ketika sebuah model belajar dari miliaran teks yang ditulis manusia, ia juga belajar dari seluruh prasangka yang terkandung dalam teks-teks tersebut. Mesin tidak membenci siapa pun dengan sengaja—ia hanya memantulkan kembali apa yang diajarkan manusia kepadanya. Namun dampaknya tetap nyata: jawaban yang diskriminatif dapat memperkuat persepsi negatif pengguna, membentuk opini publik, dan pada akhirnya merugikan kelompok-kelompok yang sudah rentan.

"Kecenderungan chatbot menggeneralisasi perilaku berdasarkan kewarganegaraan adalah bentuk stereotip yang dibungkus dengan bahasa yang sopan. Itulah yang membuatnya berbahaya, karena sulit dideteksi oleh pengguna awam," ujar seorang pengamat etika teknologi yang menilai tren ini sebagai alarm bagi industri.

Kritikus juga menyoroti paradoks posisi perusahaan teknologi raksasa. Di satu sisi, mereka memasarkan kecerdasan buatan sebagai teknologi masa depan yang adil dan membantu semua orang. Di sisi lain, temuan seperti yang diungkap France 2 menunjukkan bahwa jaminan keamanan dan keadilan belum sepenuhnya terwujud di lapangan. Kepercayaan publik, modal utama adopsi teknologi ini, berdiri di atas garis yang tipis.

Dampak bagi Pengguna dan Tata Kelola Global

Bagi pengguna umum, temuan ini menjadi pengingat penting untuk bersikap kritis terhadap jawaban chatbot. Kecerahan dan kelancaran bahasa yang dihasilkan mesin sering kali menciptakan ilmu kebenaran yang sesungguhnya tidak ada. Sementara itu, pada level kebijakan, kasus ini memperkuat urgensi regulasi kecerdasan buatan yang mensyaratkan audit bias secara independen sebelum produk dirilis ke publik.

• Perusahaan teknologi dituntut transparan soal sumber data latih dan proses penyaringannya.
• Audit independen atas bias algoritmika perlu menjadi syarat rilis produk kecerdasan buatan.
• Pengguna perlu edukasi agar tidak menerima jawaban mesin sebagai kebenaran mutlak.
• Mekanisme pelaporan jawaban diskriminatif harus mudah diakses dan ditindaklanjuti.

Sampai langkah-langkah tersebut benar-benar berjalan, temuan bahwa tiga dari lima chatbot mempromosikan bias akan terus menjadi luka terbuka bagi industri kecerdasan buatan. Pertanyaannya kini bukan lagi apakah bias ada, melainkan seberapa cepat para pemilik teknologi bersedia membersihkannya—sebelum kepercayaan publik habis sebelum waktunya.