UN Women: Algoritma Cerdas Masih Diskriminatif Terhadap Perempuan

Kecerdasan Buatan (AI) yang digadang-gadang sebagai solusi inovatif untuk berbagai permasalahan, ternyata menyimpan potensi bias gender yang serius. UN Women Indonesia menyoroti bahwa alih-alih netral, sistem AI saat ini justru memperparah ketidaksetaraan yang sudah ada, sehingga mendesak pengembangan teknologi yang lebih inklusif dan ramah gender.

Dalam lanskap teknologi yang didominasi korporasi, AI memang menawarkan efisiensi dan kemudahan akses. Namun, Dwi Yuliawati, Head of Programme UN Women Indonesia, menekankan bahwa teknologi ini tidak bisa dianggap bebas nilai. Sejarah bias dalam masyarakat tercermin dalam data pelatihan AI, menyebabkan kurangnya representasi perempuan dan munculnya proxy bias yang secara tidak langsung mendiskriminasi berdasarkan jenis kelamin.

Akar Masalah: Data yang Bias dan Kurangnya Representasi

Bias dalam AI bukan serta merta disengaja, melainkan hasil dari kondisi sosial yang sudah bias. Contohnya, komite independen Dewan Eropa pada 2019 menemukan setidaknya enam pola diskriminasi dalam AI, termasuk historical bias akibat ketidaksetaraan yang lama berakar. Studi internal Amazon juga menunjukkan bagaimana model AI dalam rekrutmen cenderung memilih kandidat laki-laki karena data historis mayoritas pelamar adalah laki-laki.

Kesenjangan representasi perempuan dalam sektor teknologi juga menjadi masalah krusial. Data UN Women menunjukkan bahwa perempuan menghadapi keterbatasan akses, representasi, dan partisipasi dalam dunia digital, termasuk di bidang AI, bahkan di negara maju sekalipun.

Diprediksi bahwa pada tahun 2025, 75% pekerjaan akan terkait dengan bidang STEM, termasuk pengembangan AI. Namun, secara global, perempuan hanya mengisi sekitar 22% posisi di bidang tersebut. Lebih lanjut, studi terhadap 133 sistem AI di berbagai industri menemukan bahwa 44% mengandung bias gender, dan 25% bahkan mengandung bias ganda: gender dan ras.

Dampak Nyata: Kekerasan Daring dan Produk yang Tidak Inklusif

Selain masalah representasi, perempuan juga mengalami dampak negatif langsung dari teknologi, seperti kekerasan daring. Data menunjukkan bahwa 38% perempuan pernah menjadi korban dan 85% pernah menyaksikan kekerasan terhadap perempuan di ruang digital.

Stereotipe gender dalam keterampilan teknis juga memengaruhi desain produk digital. Kebutuhan perempuan seringkali tidak dipertimbangkan dalam desain dan pemasaran produk. Ketidakseimbangan ini juga tercermin dalam komunitas pengembang, di mana jumlah perempuan jauh lebih sedikit dibandingkan laki-laki, yang menyebabkan kurangnya sensitivitas terhadap kebutuhan perempuan dalam sistem AI.

Solusi: Pendekatan Inklusif dan Kebijakan yang Berpihak

UN Women mendorong pendekatan yang melihat perempuan dalam tiga identitas: pengguna, pembelajar, dan pengembang. Untuk mengatasi kesenjangan ini, diperlukan intervensi afirmatif dan sistemik, mulai dari upskilling dan reskilling hingga pengembangan kebijakan publik berbasis hak asasi manusia.

Uni Eropa menjadi contoh bagaimana pendekatan berbasis pasar dan HAM dapat diintegrasikan dalam kebijakan AI. Komitmen ini telah dibangun sejak 2019 melalui pembentukan komite independen yang fokus pada keterkaitan AI dan hak asasi manusia.

Transformasi yang diinginkan tidak hanya sebatas literasi digital. Perhatian terhadap dimensi struktural dan kebijakan sangat penting untuk menangani kesenjangan partisipasi perempuan secara berkelanjutan. Untuk mewujudkan visi Indonesia Emas 2045, peningkatan partisipasi angkatan kerja perempuan minimal sebesar 25% menjadi kunci.

Inklusi dan sensitivitas gender dalam seluruh tahapan pengembangan teknologi digital adalah sebuah keharusan. Pemerintah perlu memastikan layanan publik digital, termasuk sistem informasi luar negeri bagi pekerja migran perempuan, dapat diakses secara aman, ramah, dan bebas diskriminasi.

BRIN juga menekankan pentingnya pemanfaatan AI secara bijak dan inklusif, serta mengarahkan perkembangannya agar sejalan dengan konteks sosial dan kebutuhan nyata.