Penyalahgunaan teknologi sebagai alat kekerasan berbasis gender online (KBGO) semakin mengkhawatirkan. Selama beberapa minggu terakhir, muncul sejumlah utas di Twitter tentang temuan grup obrolan daring di Telegram hingga Google Form. Itu digunakan untuk permintaan manipulasi foto perempuan menjadi konten pornografi. Berbagai cuitan tersebut viral dan mendapat perhatian warganet.
Salah satu utas viral terkait penyebaran manipulasi pornografi (deepfake porn) dan gambar intim non-konsensual (non-consensual intimate image atau NCII) diunggah oleh Indah G. melalui akun Twitter @itsindahg. “WARNING ada google form revenge porn/ncii + deepfake porn lagi disebarin online,” cuit Indah di akun Twitter-nya pada Sabtu (24/6/2023). Hingga artikel ini ditulis, unggahan twit dan utas tersebut telah di-retweet sebanyak lebih dari 10 ribu kali dan disukai 14 ribu kali.
Menurut Indah, ia pertama kali mengetahui tentang Google Form dan ruang obrolan di Telegram tersebut dari tangkapan layar yang diunggah temannya di Instagram, Jumat (23/6/2023). Kawannya di Instagram itu berteman dengan kakak perempuan dari salah satu korban penyebaran foto non-konsensual di grup Telegram tersebut.
Kepada Konde.co pada Sabtu (1/7/2023), Indah menjelaskan, “My friend (S) posted it on her Close Friends Story on IG, and our other mutual friend (P) WhatsApp messaged me around 9 AM saying “hey did you see what (S) posted? (Temanku (S) mengunggahnya di Close Friends Story-nya di IG, dan teman kami lainnya (P) mengirim pesan WhatApp ke aku sekitar jam 9 pagi, katanya, ‘Hei, sudah lihat unggahannya (S)?’)”
Grup Telegram dan Akun Media Sosial yang Masih Aktif
Berdasarkan laporan ‘insider atau orang dalam’ yang terlihat pada tangkapan layar di utas Indah, ada setidaknya empat ruang obrolan grup di Telegram. Nama grup itu adalah ‘Rahasia Mantan (RM)’. Grup-grup obrolan daring itu berisi penyebaran konten-konten KBGO seperti revenge porn, deepfake porn, dan NCII.
Tidak hanya itu, sempat ada pula grup lain yang digunakan untuk transaksi jual-beli konten seksual tersebut. Salah satu grup ruang obrolan Telegram itu malah memiliki 10 ribu pengikut berdasarkan pantauan di bulan Maret 2023.
Bahkan, tersedia pula Google Form bagi para pengikut grup Telegram ‘Rahasia Mantan’. Melalui formulir daring, pengguna dapat melampirkan foto atau menulis nama akun Instagram perempuan yang menjadi sasaran NCII dan manipulasi foto. Setelah formulir terkirim, pihak admin akan mengedit foto perempuan yang dimaksud menggunakan teknologi artificial intelligence (AI). Tujuannya untuk memanipulasi foto tersebut jadi konten pornografi. Ada pula konten-konten yang tersedia dengan sistem berbayar bagi pengikut ‘premium’.
Lebih lanjut, Indah mengungkapkan bahwa dirinya langsung menyebarkan informasi tersebut di Twitter, Instagram, dan TikTok begitu ia mengetahui hal itu. Beberapa pengguna Twitter lainnya juga membantu melaporkan akun-akun yang membuat dan menyebarkan konten-konten NCII itu. Ia lalu membuat utas terpisah mengenai penemuan grup obrolan dan akun-akun media sosial serupa.
Baca juga: Trend Bikin ‘Avatar’ Dengan AI: Ada Pelecehan dan Sensasionalisme Yang Perlu Kamu Tahu
Setelah twit Indah dan warganet lainnya viral, diketahui bahwa grup obrolan di Telegram tersebut ‘rehat’. Namun, rupanya aktivitas mereka terpantau masih berjalan di platform media sosial lain, salah satunya TikTok.
“Yang terkini dan baru terjadi tadi malam (30 Juni 2023) itu mereka membuat akun TikTok baru,” kata Indah. “Sudah dipublikasi di media sosialku juga, (untuk) minta tolong orang-orang supaya bantu melaporkan akun-akun mereka agar diturunkan.”
Indah mengatakan, ada banyak ‘orang dalam’ di grup obrolan tersebut yang membantunya menguak kasus deepfake porn ini. Mereka turut memberikan informasi terkini seputar aktivitas grup itu kepadanya. Ia juga sudah melaporkan temuan akun TikTok yang dimaksud ke pihak TikTok Indonesia. Serta melaporkan kasus KBGO deepfake porn tersebut ke polisi dan Direktorat Tindak Pidana Siber.
Meski demikian, ia belum dapat mengungkapkan prosedur tindakan yang akan diambil pihak-pihak tersebut.
Penyebaran NCII dan Deepfake Porn dari Perspektif Hukum
Konde.co juga menghubungi lembaga SAFEnet terkait kasus deepfake porn dan KBGO yang viral di media sosial akhir-akhir ini. Pihak SAFEnet mengaku sudah mendapatkan mention di Twitter. Tapi mereka belum secara khusus mendapatkan laporan atas kasus yang dimaksud.
Nabillah dari Divisi Kesetaraan dan Inklusi SAFEnet menjelaskan, sejumlah kebijakan hukum yang bisa digunakan untuk menjerat pelaku penyebaran konten bermuatan seksual atau NCII. Ini termasuk konten manipulasi seperti yang terjadi dalam grup Telegram ‘Rahasia Mantan’. Kebijakan yang dimaksud yaitu Undang-Undang tentang Informasi dan Transaksi Elektronik (UU ITE) dan Undang-Undang Tindak Pidana Kekerasan Seksual (UU TPKS).
“Untuk upaya hukumnya yang menjerat pelaku yaitu dengan pasal 32 Ayat (1) (UU ITE) dengan frasa mengubah, menambah, mengurangi, melakukan transmisi, merusak, menghilangkan, memindahkan, menyembunyikan suatu Informasi Elektronik dan/atau Dokumen Elektronik milik Orang lain atau milik publik,” ujar Nabillah Kepada Konde.co pada Selasa (27/6/2023).
Frasa “mengubah” itu ditujukan pada perilaku deface yang menggunakan konten tanpa izin.
Baca juga: Bagaimana QTCinderella Perang Lawan Pornografi Teknologi AI Deepfake
Selain pasal dalam UU ITE tersebut, ujar Nabillah, aturan yang lebih komprehensif juga tercantum dalam UU TPKS pasal 14 Ayat (1).
“Dalam aturan lebih dalam yang menerangkan nuansa sensual bisa dilihat di UU TPKS pasal 14 ayat (1),” lanjutnya.
Pasal 14 Ayat (1) UU TPKS mengatur setiap orang yang tanpa hak, “a. melakukan perekaman dan/atau mengambil gambar atau tangkapan layar yang bermuatan seksual di luar kehendak atau tanpa persetujuan orang yang menjadi objek perekaman atau gambar atau tangkapan layar; b. mentransmisikan informasi elektronik dan/atau dokumen elektronik yang bermuatan seksual di luar kehendak penerima yang ditujukan terhadap keinginan seksual; dan/atau c. melakukan penguntitan dan/atau pelacakan menggunakan sistem elektronik terhadap orang yang menjadi obyek dalam informasi/dokumen elektronik untuk tujuan seksual.” Menurut pasal tersebut, pelaku dapat dijerat pidana penjara paling lama empat tahun dan/atau denda paling banyak Rp. 200.000.000,00 (dua ratus juta rupiah), atas kekerasan seksual berbasis elektronik.
Di sisi lain, korban juga dapat melaporkan kasus KBGO melalui platform AwasKBGO dari SAFEnet. “Mungkin dapat membantu dalam bantuan psikososial dengan konseling dan melakukan eskalasi ke platform agar (konten) ditinjau untuk diturunkan,” jelas Nabillah.
Sementara dari segi hukum, Nabillah mengatakan, “Korban dapat mengajukan banding berdasarkan UU ITE Pasal 26 Ayat (2) atas informasi tidak relevan.”
UU ITE Pasal 26 Ayat (1) mencantumkan, “Kecuali ditentukan lain oleh Peraturan Perundang-undangan, penggunaan setiap informasi melalui media elektronik yang menyangkut data pribadi seseorang harus dilakukan atas persetujuan Orang yang bersangkutan.”
Sementara pada Ayat (2), “Setiap Orang yang dilanggar haknya sebagaimana dimaksud pada ayat (1) dapat mengajukan gugatan atas kerugian yang ditimbulkan berdasarkan Undang-Undang ini.”
Bukan hanya kebijakan hukum yang mengatur hukuman bagi pelaku dan hak gugatan korban. Menurut Nabillah, pemerintah dapat melakukan tindakan terkait kasus KBGO.
“Pemerintah juga dapat melakukan mekanisme take down dengan menyuruh Penyelenggara Sistem Elektronik (PSE) atau platform seperti pada Permenkominfo 5/2020,” pungkasnya.
