Deepfake, teknologi AI yang membuat video buatan dengan menggunakan bermacam-macam wajah dan sangat mirip dengan aslinya, kini memiliki dampak buruk terhadap masyarakat. Teknologi ini bisa membuat foto, audio, video hoax yang cukup meyakinkan untuk melakukan hoax dan penipuan.
Salah satu korban yang terkenal adalah seorang gamers populer Twitch, QTCinderella, yang mengungkapkan kemarahannya saat mengetahui dirinya menjadi sasaran predator yang memasukkan wajahnya ke dalam video dewasa di situs-situs porno.
Dalam sebuah sesi live streaming, dia membahas betapa marah dan terluka dirinya karena menjadi target pembuatan porno deepfake. Teknologi deepfake yang awalnya hanya ditujukan untuk hiburan kini menjadi ancaman baru bagi privasi dan martabat korban.
Deepfake sudah lama digunakan untuk tujuan pornografi, di mana wajah artis terkenal dipalsukan dan dipasangkan pada video porno. Ini merupakan bentuk eksploitasi atau merugikan bagi korban. Membuat dan menyebarluaskan pornografi deepfake jelas melanggar hak privasi dan memicu perdebatan moral dan hukum.
Tak hanya itu, penciptaan pornografi deepfake juga memberikan ancaman serius bagi reputasi dan karier para korban, terutama bagi para perempuan. Deepfake juga membuka peluang baru bagi para predator untuk membuat dan menyebar konten porno palsu yang merugikan, membahayakan, dan merugikan bagi korban.
Oleh karena itu, penting bagi masyarakat, pemerintah, dan industri untuk bekerja sama mengatasi ancaman ini dan melindungi hak privasi dan martabat setiap individu.
Sejarah Singkat Deepfake
Deepfake sendiri adalah video palsu yang dibuat menggunakan kecerdasan buatan. Hal Ini membuat penggunanya bisa sesuka hati mengganti wajah dan suara seseorang dengan yang lain.
Teknologi ini pertama kali muncul pada tahun 2017 di forum reddit diposting oleh seorang user anonim. User tersebut memposting algoritma yang memanfaatkan algoritma kecerdasan buatan yang ada untuk membuat video palsu yang tampak realistis. Pengguna lain kemudian membagikan kode tersebut di GitHub, sebuah layanan pembagian kode utama, yang akhirnya menjadi perangkat lunak gratis dan tersedia secara publik. Sejak saat itu, mudah ditemukan aplikasi atau software yang memanfaatkan fungsi deepfake di internet.
Meskipun deepfake memiliki beberapa penggunaan yang positif, seperti dalam hiburan dan pendidikan, namun deepfake juga memiliki ancaman serius. Salah satunya adalah penggunaan untuk membuat video porno palsu menggunakan penampilan orang lain tanpa persetujuan. Sampai saat ini terdapat sekitar 14 situs pornografi yang menggunakan deepfake untuk menampilkan wajah artis dan publik figur tanpa persetujuan mereka.
Penggunaan deepfake dalam pornografi menyebar sangat cepat hingga ke artis Hollywood dan menjadi masalah di kehidupan sehari-hari, dengan target paling mungkin seperti korban orang-orang terdekat di sekitar predator dan anak-anak.
Untuk mengatasi masalah ini, Rancangan Undang-Undang anti-deepfake dikembangkan, termasuk AB (Assembly Bill) 1280 di California yang ditujukan untuk membatasi produksi deepfake untuk tujuan pornografi dengan membuat sanksi pidana bagi mereka yang membuat dan membagikannya.
Risiko Lain Deepfake
Mengutip dari www.american.edu, selain pornografi, deepfake juga memberi ancaman lain di dunia maya. Penjahat cyber dapat menggunakan teknologi deepfake untuk melakukan penipuan online. Misalnya, skema terbaru menggunakan suara yang diterapkan oleh AI yang cocok dengan suara petinggi perusahaan. Atau seperti video Elon Musk yang pernah direkayasa untuk menjual uang kripto. Pada akhirnya tujuan dari semua itu sama, orang-orang akan tertipu akibat deepfake.
Sebagai contoh lain mari kita lihat apa yang terjadi pada awal masa invasi Rusia ke Ukraina. Seseorang dari Rusia menyebarluaskan video deepfake yang menunjukkan Presiden Ukraina Volodymyr Zelensky mengatakan pada militernya untuk bertahan. Media sosial segera menghapus video tersebut dari publikasi. Namun, dampak langsungnya tidak diketahui. Setidaknya, itu ikut membuat salah informasi yang disebar di seluruh Ukraina saat Rusia menginvasi negara tersebut. Ini bukti bahwa ancaman deepfake juga mengganggu keamanan nasional.
Kondisi di Beberapa Platform dan Negara
Deepfake dianggap sebagai ancaman besar karena memungkinkan manipulasi video dan suara, yang dapat mempengaruhi opini dan memicu kerugian besar. Oleh karena itu, Google mengambil tindakan proaktif untuk mencegah penyalahgunaan teknologi deepfake melalui platform Google Colaboratory.
Dalam upaya ini, Google memperbarui syarat dan ketentuannya untuk melarang proyek deepfake pada platform tersebut. Ini merupakan tindakan preventif untuk memastikan bahwa collab tidak digunakan untuk tujuan yang bertentangan dengan prinsip AI Google. Dikutip dari techcrunch.com, juru bicara Google mengatakan, “Kami berusaha untuk memantau aktivitas yang dilarang di Collab dan memberikan akses pengguna kami pada sumber daya berharga.”
Dengan demikian, pembatasan pada deepfake adalah bagian dari upaya Google untuk melindungi publik dan memastikan integritas informasi.
Selain Google, Facebook telah lebih dulu mengumumkan bahwa mereka akan menghapus video yang dimodifikasi dengan teknologi kecerdasan buatan, yang dikenal sebagai deepfake, dari platform mereka. Dikutip dari BBC.com, Perusahaan media sosial itu mengatakan bahwa video-video ini mendistorsi kenyataan dan menjadi tantangan besar bagi industri teknologi.
Selain perusahaan teknologi, deepfake juga telah menjadi isu yang penting terkait privasi dan perlindungan identitas di Tiongkok.
Awal tahun ini, Beijing mengumumkan aturan tentang “technology deep synthesis”. Aturan tersebut berlaku sejak 10 Januari 2023. Beberapa poin utama aturan tersebut antara lain adalah: pengguna harus memberikan persetujuan jika gambar mereka akan digunakan dalam teknologi deep synthesis. Layanan deep synthesis tidak boleh menyebarluaskan berita palsu menggunakan teknologi. Layanan deepfake harus memverifikasi identitas asli pengguna.
Konten sintetis harus memiliki pemberitahuan agar pengguna mengetahui bahwa gambar atau video telah dimodifikasi dengan teknologi. Konten yang melanggar undang-undang yang ada dilarang, serta konten yang membahayakan keamanan nasional dan kepentingan, merusak citra nasional atau mengganggu perekonomian.
Pengguna Internet Harus Cerdas Dalam Menyikapi Deepfake
Deepfake merupakan teknologi yang sangat membahayakan dan dapat menimbulkan masalah serius bagi publik. Oleh karena itu, penting untuk memperkenalkan regulasi dan peraturan yang kuat untuk mencegah penyalahgunaan deepfake. Regulasi ini harus mencakup aspek seperti persetujuan pengguna jika wajah mereka digunakan dalam teknologi deepfake, serta larangan penyebaran berita palsu menggunakan deepfake.
Layanan deepfake juga harus memastikan identitas asli penggunanya sebelum membiarkan mereka menggunakan teknologi ini. Pemerintah juga harus memastikan bahwa konten yang dibuat dengan teknologi deepfake tidak melanggar hukum.
Namun, pemerintah saja tidak cukup. Pengguna internet juga harus memainkan peran dalam mencegah penyalahgunaan deepfake. Kita harus cerdas dalam mempercayai apa yang kita lihat dan bertindak dengan hati-hati untuk mencegah tersebarnya informasi yang tidak benar.
Kita harus bersatu dalam mengatasi masalah penyalahgunaan deepfake dan memastikan bahwa teknologi ini tidak digunakan untuk hal-hal yang merugikan. Jika kita bekerja bersama dan memastikan bahwa regulasi yang tepat diterapkan, kita dapat mencegah penyalahgunaan deepfake dan memastikan bahwa teknologi ini digunakan untuk kebaikan semua orang.
