Kasus ini terjadi ketika pemerintah di seluruh dunia bergulat dengan ledakan industri AI, yang memiliki dampak luas mulai dari hak cipta dan kekayaan intelektual hingga keamanan nasional, privasi pribadi, dan konten eksplisit.
Saat ini, banyak pihak yang berlomba-lomba untuk mengatur teknologi tersebut. Terutama karena kasus-kasus seperti hukuman di Korea Selatan menyoroti bagaimana AI dapat digunakan untuk melanggar otonomi dan keselamatan tubuh seseorang, terutama bagi perempuan dan anak di bawah umur.
Baca Juga:
Bantu Rusia, Terungkap Kim Jong Un Kirim Tentara ke Ukraina
Awal bulan ini, polisi di Spanyol melancarkan penyelidikan setelah gambar gadis di bawah umur diubah dengan AI untuk melepaskan pakaian mereka dan dikirim ke seluruh kota.
Ibu gadis tersebut mengatakan kepada saluran televisi Canal Extremadura, dalam satu kasus, seorang anak laki-laki mencoba memeras salah satu gadis tersebut dengan menggunakan gambar telanjang gadis tersebut yang telah dimanipulasi.
Selama bertahun-tahun, deepfake-video palsu yang sangat meyakinkan yang dibuat menggunakan AI telah digunakan untuk menampilkan wajah perempuan dalam video pornografi yang agresif, tanpa persetujuan mereka.
Baca Juga:
Pengusaha WN Korsel Ditangkap KLHK Sulbar Soal Tambang Pasir: CV Wahab Tola Sah Punya IUP dan SHM
Video-video tersebut sering kali terlihat sangat nyata sehingga sulit bagi korban perempuan untuk menyangkal bahwa itu bukanlah video sebenarnya.
Masalah ini menjadi perhatian publik yang lebih luas pada bulan Februari tahun ini ketika terungkap bahwa seorang streamer video game pria terkenal telah mengakses video deepfake dari beberapa rekan streaming wanitanya.
“Sejak awal, orang yang membuat deepfake menggunakannya untuk membuat pornografi wanita tanpa persetujuan mereka,” jelas Samantha Cole, reporter Vice’s Motherboard, yang telah melacak deepfake sejak awal, kepada CNN pada saat itu.
