WahanaNews.co | Seorang pria di Korea Selatan (Korsel) menyalahgunakan penggunaan kecerdasan buatan dengan menghasilkan gambar-gambar seksual terhadap anak-anak.
Akibatnya pemerintah setempat menjatuhinya dengan hukuman penjara.
Baca Juga:
Bantu Rusia, Terungkap Kim Jong Un Kirim Tentara ke Ukraina
Ini menjadi kasus pertama dalam jenis itu di Korsel ketika pengadilan di seluruh dunia menghadapi penggunaan teknologi baru dalam menciptakan konten seksual yang kasar.
Menurut Pengadilan Distrik Busan dan Kantor Jaksa Penuntut Umum distrik tersebut, pria yang tidak disebutkan namanya itu dijatuhi hukuman dua setengah tahun penjara pada bulan ini.
Dikutip dari CNN, kantor kejaksaan mengatakan pria berusia 40-an tahun itu telah membuat sekitar 360 gambar yang dihasilkan AI pada April lalu.
Baca Juga:
Pengusaha WN Korsel Ditangkap KLHK Sulbar Soal Tambang Pasir: CV Wahab Tola Sah Punya IUP dan SHM
Gambar-gambar tersebut tidak didistribusikan dan telah disita oleh polisi.
Jaksa berpendapat dalam kasus ini bahwa definisi materi yang eksploitatif secara seksual harus mencakup deskripsi perilaku seksual “manusia virtual” dan bukan hanya penampilan anak-anak yang sebenarnya.
Kantor kejaksaan mengatakan keputusan tersebut menunjukkan bahwa konten pelecehan seksual dapat mencakup gambar yang dibuat dengan teknologi “tingkat tinggi” yang cukup realistis untuk terlihat seperti anak-anak dan anak di bawah umur.
Kasus ini terjadi ketika pemerintah di seluruh dunia bergulat dengan ledakan industri AI, yang memiliki dampak luas mulai dari hak cipta dan kekayaan intelektual hingga keamanan nasional, privasi pribadi, dan konten eksplisit.
Saat ini, banyak pihak yang berlomba-lomba untuk mengatur teknologi tersebut. Terutama karena kasus-kasus seperti hukuman di Korea Selatan menyoroti bagaimana AI dapat digunakan untuk melanggar otonomi dan keselamatan tubuh seseorang, terutama bagi perempuan dan anak di bawah umur.
Awal bulan ini, polisi di Spanyol melancarkan penyelidikan setelah gambar gadis di bawah umur diubah dengan AI untuk melepaskan pakaian mereka dan dikirim ke seluruh kota.
Ibu gadis tersebut mengatakan kepada saluran televisi Canal Extremadura, dalam satu kasus, seorang anak laki-laki mencoba memeras salah satu gadis tersebut dengan menggunakan gambar telanjang gadis tersebut yang telah dimanipulasi.
Selama bertahun-tahun, deepfake-video palsu yang sangat meyakinkan yang dibuat menggunakan AI telah digunakan untuk menampilkan wajah perempuan dalam video pornografi yang agresif, tanpa persetujuan mereka.
Video-video tersebut sering kali terlihat sangat nyata sehingga sulit bagi korban perempuan untuk menyangkal bahwa itu bukanlah video sebenarnya.
Masalah ini menjadi perhatian publik yang lebih luas pada bulan Februari tahun ini ketika terungkap bahwa seorang streamer video game pria terkenal telah mengakses video deepfake dari beberapa rekan streaming wanitanya.
“Sejak awal, orang yang membuat deepfake menggunakannya untuk membuat pornografi wanita tanpa persetujuan mereka,” jelas Samantha Cole, reporter Vice’s Motherboard, yang telah melacak deepfake sejak awal, kepada CNN pada saat itu.
Platform streaming, Twitch, menanggapi kontroversi tersebut dengan memperketat kebijakannya, menyebut video seksual deepfake tersebut “melanggar secara pribadi dan sangat menjengkelkan.”
Platform besar lainnya juga memperbarui aturan mereka, dengan TikTok menambahkan pembatasan lebih lanjut dalam berbagi deepfake AI pada Maret lalu.
Uni Eropa (UE) menjadi salah satu negara pertama di dunia yang menetapkan peraturan tentang bagaimana perusahaan dapat menggunakan AI pada Juni lalu, diikuti oleh Tiongkok pada Juli lalu.
Dan pada awal September ini, beberapa pemimpin teknologi terbesar di Amerika Serikat-termasuk Bill Gates, Elon Musk, dan Mark Zuckerberg-berkumpul di Washington saat Senat bersiap untuk merancang undang-undang tentang AI.
[Redaktur: Zahara Sitio]
