Tantangan besar dari semakin maraknya penggunaan AI atau Artificial Intelligence adalah dampak bagi tubuh perempuan, yaitu adanya bias gender dalam bahasa, juga adanya deepfake.

Perdebatan soal apakah AI akan menjadi peluang atau ancaman bagi tubuh perempuan semakin santer terdengar.

Tantangan besar dari semakin maraknya penggunaan AI adalah dampak bagi tubuh perempuan. Salah satunya adanya deepfake atau teknologi yang menggunakan AI untuk memanipulasi video, audio, atau gambar untuk melakukan adegan tertentu. Sehingga konten tersebut terlihat dan terdengar nyata, padahal sebenarnya palsu. 

Yang terlihat sangat mengancam adalah bagaimana teknologi deepfake ini digunakan sebagai senjata kekerasan seksual berbasis digital. Dikarenakan aturan atau payung hukum yang menaungi ini juga belum ada. Hal ini terpapar dalam acara Kartini Conference on Indonesia Feminism (KCIF) 2024 yang diselenggarakan Konde.co bersama LETSS Talk tentangl AI bagi perempuan pada 27 Juni 2024.

AI (Artificial Intelligence) atau kecerdasan buatan adalah teknologi ilmu komputer yang berfokus pada pengembangan sistem atau mesin untuk melakukan tugas-tugas yang biasanya membutuhkan kecerdasan manusia. Ini mencakup kemampuan untuk belajar dari data (machine learning), mengenali pola, membuat keputusan, memahami bahasa alami, dan bahkan menciptakan konten baru.

Baca Juga: Kartini Conference ‘KCIF 2024’, Memotret Feminisme di Tengah Oligarki dan Fasisme

Isu besar lainnya dalam perkembangan AI, yaitu mengenai bias yang sering kali terjadi dalam algoritma dan sistem yang dikembangkan. Algoritma oleh AI cenderung didominasi oleh sekelompok identitas tertentu, misalnya laki-laki berkulit putih. Bias ini bisa muncul dalam berbagai bentuk. Mulai dari ketidaksetaraan akses terhadap teknologi, hingga algoritma dalam AI yang memperkuat stereotip gender.

Sebagai contoh, dalam banyak kasus, data yang digunakan untuk melatih sistem AI sering kali tidak representatif atau cenderung mengabaikan pengalaman perempuan. Hal ini mengarah pada hasil yang bias, di mana perempuan sering kali diperlakukan tidak adil dalam teknologi. Sebagai contoh, dalam penggunaan facial recognition (pengenalan wajah), banyak sistem AI yang lebih cenderung gagal mengenali wajah perempuan kulit gelap. Dikarenakan data pelatihan yang digunakan sebagian besar didominasi oleh gambar wajah laki-laki berkulit terang. Maka posisi perempuan dalam kasus ini jadi tersingkirkan.

“Karena ada bias data sehingga data kelompok rentan itu sering kali tidak tampil. Keberagaman itu tidak tampil,” Papar Saras Dewi, Dosen Fakultas Ilmu Budaya/ FIB Universitas Indonesia saat diskusi KCIF.

Baca Juga: Jadi Korban Manipulasi Foto Sensual dengan AI, Bagaimana Menjerat Hukum Pelaku? 

Dalam sektor pekerjaan, AI seringkali juga digunakan dalam proses perekrutan atau pemilihan kandidat yang mengandalkan algoritma. Alih-alih mengafirmasi keberagaman dan inklusivitas, algoritma AI tersebut akan menguntungkan laki-laki dan merugikan perempuan. Hal ini bisa dilihat dari hasil data historis yang digunakan untuk melatih sistem yang cenderung memihak atau menampakkan laki-laki (seperti pada sektor teknologi). 

Saras Dewi juga mengatakan, di tengah kecemasan terkait AI dan ketidaksetaraan gender, muncul gerakan seni dan pemikiran yang mengajak kita untuk lebih kritis melihat hubungan antara teknologi dan tubuh. Salah satu pendekatan yang menarik dalam konteks ini adalah Feminisme Glitch, sebuah konsep yang sering kali terhubung dengan karya-karya seni yang memanfaatkan kesalahan teknis atau gangguan (glitches) dalam sistem digital untuk mengeksplorasi ketegangan antara manusia, mesin, dan teknologi.

Moreshin Allahyari, seniman dan peneliti asal Iran, merupakan seniman dan aktivis yang punya pemikiran penting ketika ia mengkritik hubungan antara teknologi, gender, dan ketidaksetaraan dalam dunia digital. Di dalam karyanya, Allahyari sering memanfaatkan konsep “glitch” untuk memanipulasi dan mengganggu teknologi yang seharusnya dianggap sempurna dan “tulen”.

Baca Juga: ‘Pacar AI’ dan Sexbot: Revolusi Hubungan Digital yang Mengkhawatirkan

Salah satu karyanya adalah Moon-faced. Dalam literatur Kuno Persia, moon-faced atau bermuka bulan secara tradisional digunakan untuk memuji kecantikan seseorang tanpa membedakan gender. Namun, dalam konteks modern, istilah ini sering kali tertuju pada perempuan saja. Allahyari menggunakan kecerdasan buatan untuk mengembalikan representasi queer dalam seni potret Iran.

Dengan menggunakan kesalahan teknis atau gangguan sebagai bagian dari proses kreatifnya, Allahyari menggambarkan bagaimana teknologi seperti AI dapat memproduksi bias dan diskriminasi yang terjadi secara tidak disadari. Glitch dalam konteks ini bukan hanya sebuah kesalahan teknis, melainkan sebuah kritik terhadap sistem yang ada dan sebuah upaya untuk memberikan ruang bagi perspektif yang terpinggirkan, seperti suara perempuan dan kelompok minoritas.

Disrupsi oleh AI dalam Jurnalisme

Dunia jurnalisme selalu mengalami perubahan seiring dengan perkembangan teknologi. Inovasi dalam bidang ini telah dimulai sejak ditemukannya mesin cetak, radio, televisi, internet, hingga kini memasuki era kecerdasan buatan. Setiap inovasi teknologi membawa dampak bagi industri media, baik dalam hal efisiensi kerja maupun tantangan baru yang muncul.

Menurut riset Felix M. Simon (2024), motivasi utama dalam penerapan AI di jurnalisme adalah untuk meningkatkan efisiensi, produktivitas, serta keuntungan finansial, sekaligus menekan biaya produksi. Teknologi ini digunakan dalam berbagai aspek kerja jurnalistik, mulai dari mengakses dan mengamati arus informasi secara real-time, menganalisis tren dan perilaku audiens, hingga menggali ide-ide baru untuk pemberitaan.

AI juga membantu dalam proses seleksi dan filterisasi data, seperti melakukan verifikasi informasi, mentranskrip serta menerjemahkan audio dan video ke dalam teks. Selain itu, dalam hal produksi berita, AI dapat digunakan untuk menulis draft artikel, memformat konten untuk berbagai platform, serta mengubah teks menjadi audio atau video, dan sebaliknya.

Baca Juga: Film ‘Subservience’ Stigma Pada Robot AI Penggoda Suami

Tidak hanya itu, AI juga berperan dalam distribusi berita dengan personalisasi konten dan rekomendasi berdasarkan preferensi pembaca, serta penerapan sistem paywall dinamis untuk mengatur akses ke konten berbayar. Berbagai analisis audiens yang dilakukan dengan bantuan AI memungkinkan media untuk lebih memahami perilaku pembaca dan meningkatkan keterlibatan mereka. Namun, di balik semua keunggulan ini, ada tantangan besar yang tidak bisa diabaikan.

Meskipun AI dipandang membawa banyak manfaat dalam meningkatkan efisiensi kerja jurnalis, teknologi ini juga menghadirkan berbagai risiko, salah satunya adalah terkait bias, akurasi, dan etika jurnalistik. AI masih memiliki keterbatasan dalam memahami konteks dan nilai-nilai yang dipegang teguh oleh dunia jurnalistik, sehingga peran manusia tetap dibutuhkan dalam proses verifikasi, penyuntingan, dan penelitian berita.

Selain itu, generative AI memiliki potensi besar dalam menciptakan deepfake, yang dapat digunakan untuk menyebarkan informasi palsu atau menyesatkan. Fenomena ini berisiko merusak kepercayaan publik terhadap media dan memperburuk masalah disinformasi yang sudah ada.

Baca Juga: Kasih Sayang Artificial: Punya Hubungan Romantis dengan Chatbot AI, Mungkinkah?

Ancaman lain yang muncul adalah terkait dampak AI terhadap pekerjaan di industri media. AI dapat menggantikan peran beberapa profesi dalam dunia jurnalisme, terutama bagi jurnalis pemula, copy editor, presenter, dan ilustrator. Ketergantungan yang tinggi pada teknologi ini juga dapat menciptakan ketidakpastian dalam industri media, khususnya terkait dengan biaya operasional dan kontrol informasi yang semakin bergantung pada sektor swasta.

Dalam jangka panjang, hal ini berpotensi menyebabkan monopoli informasi oleh segelintir perusahaan teknologi besar, yang pada akhirnya dapat mengurangi independensi media dan membatasi akses publik terhadap informasi yang beragam.

“Konsentrasi kendali atas AI oleh segelintir perusahaan teknologi ini yang harus menjadi pengawasan utama. Tadi, isu bias, ketidaksetaraan, ancaman terhadap pekerjaan, dan sebagainya. Di masa depan, kontrol atas infrastruktur ini memberikan kekuasaan pada segelintir orang,” ucap Ika Ningtyas, jurnalis Cek Fakta Tempo dalam KCIF 2024.

Baca Juga: AI Bisa Memprediksi Langgengnya Hubungan Lewat Cara Bicara

Dengan potensi AI untuk menurunkan bisnis media dan melanggar hak kekayaan intelektual, negara perlu mengambil langkah untuk melindungi industri ini. Salah satu cara yang dapat dilakukan adalah dengan memastikan bahwa perusahaan AI memberikan kompensasi yang adil bagi media kecil agar mereka tetap dapat bertahan dalam persaingan yang semakin ketat.

“Terutama bagi media yang lokal, kecil, dan tidak berbahasa Inggris,” pungkas Ika Ningtyas.

Di tengah revolusi teknologi ini, keseimbangan antara pemanfaatan AI dan perlindungan terhadap nilai-nilai jurnalistik menjadi tantangan yang harus diatasi. AI dapat menjadi alat yang mendukung jurnalisme, tetapi tetap harus digunakan dengan prinsip kehati-hatian dan tanggung jawab.

Bias-bias dalam AI

“Basically, kalau mau menghentikan pertumbuhan AI itu gak mungkin. Kita harus beradaptasi,” ujar Derry Wijaya.

Derry Wijaya, seorang dosen di bidang data dari Monash University, waktu itu sedang bekerja sama dengan Aliansi Jurnalis Independen (AJI) dalam sebuah proyek pemantauan ujaran kebencian selama masa pemilihan presiden 2024. Proyek ini dikembangkan melalui Hate Speech Monitoring Dashboard yang dirancang untuk mendeteksi ujaran kebencian di ruang digital.

“Mereka (AI) sebenarnya tidak begitu pintar untuk mengidentifikasi ujaran kebencian dalam bahasa selain Inggris. Di sini, kita berhasil melatih AI sehingga bisa lebih baik dalam mengidentifikasi ujaran kebencian dalam bahasa Indonesia,” tutur Derry.

Permasalahan utama dalam teknologi AI adalah bias dan ketidakadilan (fairness issue), terutama karena model AI sering kali dilatih menggunakan bahasa yang lebih dominan di dunia, seperti bahasa Inggris. Hal ini menyebabkan AI lebih akurat dalam memahami dan menanggapi pertanyaan dalam bahasa Inggris dibandingkan dengan bahasa lainnya, termasuk bahasa Indonesia.

Baca Juga: Kini AI bisa Mengetahui Prediksi Hubungan Asmaramu dari Suara

Fenomena bias dalam AI tidak hanya terjadi dalam pemrosesan bahasa, tetapi juga dalam struktur data yang digunakan untuk melatih sistem AI. Sebagaimana ditunjukkan dalam KCIF 2024, model AI dapat mencerminkan bias budaya yang ada dalam data pelatihan mereka. Misalnya, ketika AI diberi pertanyaan analogi seperti:

• “Paris : Prancis :: Tokyo : x” → AI menjawab “Jepang” (jawaban yang objektif dan benar secara geografis).
• “Ayah : dokter :: ibu : x” → AI menjawab “perawat” (menunjukkan bias gender dalam peran pekerjaan).
• “Laki-laki : programmer komputer :: perempuan: x” → AI menjawab “ibu rumah tangga” (menggambarkan stereotip gender dalam dunia kerja).

Kasus-kasus ini menunjukkan bahwa AI tidak hanya sekadar alat netral, tetapi juga dapat memperkuat bias sosial yang sudah ada. Hal ini menjadi tantangan bagi negara-negara seperti Indonesia, yang memiliki sekitar 700 bahasa dan keragaman budaya yang sangat luas. 

Jika AI terus didominasi oleh bahasa dan perspektif dari negara-negara dengan data yang lebih banyak, ketimpangan digital dan kolonisasi data akan semakin nyata.

Baca Juga: Film ‘The Creator’, Saat Robot AI Ingatkan Soal Kemanusiaan

“Kolonisasi sekarang bukan lagi masalah daerah atau lokasi, tetapi data,” pungkas Derry. Oleh karena itu, penting bagi Indonesia untuk berinvestasi dalam pelatihan AI berbasis bahasa dan budaya lokal agar teknologi ini dapat digunakan dengan lebih adil dan inklusif.

Ika Ariyani, kontributor Konde.co pernah menuliskan bahwa kesalahan dalam AI seringkali terjadi karena kekurangan data yang cukup atau data yang bias, termasuk yang menyebabkan bias gender. 

Teknologi AI bergantung pada data untuk melakukan tugas-tugasnya, dan jika data yang digunakan tidak lengkap atau bias, AI dapat menghasilkan kesalahan. Data yang bias dapat mempengaruhi hasil dari algoritma AI. Salah satu keterbatasan utama dari teknologi AI adalah kurangnya pemahaman tentang konteks. AI mampu melakukan tugas dengan kecepatan dan akurasi yang jauh lebih baik daripada manusia, namun teknologi ini tidak selalu dapat memahami konteks dari situasi tertentu. 

Baca Juga: Hati-Hati Penggunaan AI, Ancaman Bias Gender Dan Karir Pekerja

Hal ini sering terjadi dalam bidang seperti pemrosesan bahasa alami dan pengenalan gambar, di mana AI dapat menghasilkan kesalahan karena kurangnya pemahaman tentang konteks dari kata atau gambar yang diproses.

Selain itu, teknologi AI juga memiliki keterbatasan dalam hal memori. AI dapat memproses data dalam jumlah besar dengan sangat cepat, namun teknologi ini tidak selalu dapat mengingat informasi dari waktu ke waktu. 

Meskipun penggunaan AI dapat meningkatkan efisiensi dan produktivitas. Pekerjaan yang membutuhkan keterampilan dan keahlian khusus, seperti kreativitas dan empati, masih sulit digantikan oleh teknologi.

Manusia masih harus menggunakan kemampuannya untuk memilih dan mengembangkan ide-ide yang menarik, menguasai teknik-teknik ilustrasi, dan menyesuaikan karya mereka dengan kebutuhan klien. 

Oleh karena itu, sejauh ini, penggunaan AI tidak sepenuhnya bisa menggantikan pekerja manusia, melainkan lebih pada memperbaiki dan membantu pekerjaan manusia.