WAHANANEWS.CO, Jakarta – Deepfake menggunakan AI untuk menghasilkan video atau audio yang benar-benar baru, dengan tujuan akhir untuk menggambarkan sesuatu yang sebenarnya tidak terjadi pada kenyataannya.
Kasus penipuan dan pemerasan menggunakan teknologi kecerdasan buatan (AI) deepfake semakin marak belakangan ini.
Baca Juga:
Pesan Paus Fransiskus Soal Ancaman AI Buat Umat Manusia
Apa sebenarnya deepfake dan bagaimana cara mengatasinya?
Istilah "deepfake" berasal dari teknologi yang mendasarinya, yakni algoritma pembelajaran mendalam, yang memungkinkan mesin belajar sendiri untuk memecahkan masalah dengan kumpulan data yang besar dan dapat digunakan untuk membuat konten palsu dari orang sungguhan.
"Deepfake adalah rekaman yang dihasilkan oleh komputer yang telah dilatih melalui gambar-gambar yang tak terhitung jumlahnya," kata Cristina Lopez, seorang analis senior di Graphika, sebuah perusahaan yang meneliti aliran informasi di jaringan digital, mengutip Business Insider, melansir CNN Indonesia, Selasa (29/4/2024).
Baca Juga:
Elon Musk Jual X ke Perusahaan AI Milik Sendiri Rp546 Triliun, Apa Maksudnya?
Sementara itu, menurut Britannica, istilah deepfake menggabungkan kata deep, yang diambil dari teknologi deep-learning AI atau sebuah jenis pembelajaran mesin yang melibatkan beberapa tingkat pemrosesan, dan fake, yang merujuk pada konten tidak nyata.
Istilah ini mulai digunakan untuk media sintetis pada tahun 2017 ketika seorang moderator Reddit membuat subreddit yang disebut "deepfakes" dan mulai memposting video yang menggunakan teknologi penukaran wajah untuk menyisipkan kemiripan selebritas ke dalam video porno yang sudah ada.
Deepfake dibuat dengan menggunakan dua algoritma pembelajaran mendalam AI yang berbeda: satu algoritme yang menciptakan replika terbaik dari gambar atau video asli dan algoritma lainnya mendeteksi apakah replika tersebut palsu dan, jika ya, akan melaporkan perbedaannya dengan yang asli.
Algoritma pertama menghasilkan gambar sintetis dan menerima umpan balik dari algoritma kedua, lalu menyesuaikannya agar terlihat lebih nyata. Proses ini diulang sebanyak yang diperlukan hingga algoritma kedua tidak mendeteksi gambar palsu.
Dalam video deepfake, suara orang tertentu dapat direplikasi dengan memberikan data audio asli dari orang tersebut kepada model AI, sehingga melatihnya untuk menirunya.
Seringkali, video deepfake diproduksi dengan melakukan overdubbing rekaman seseorang dengan audio baru dari AI yang menirukan suara orang tersebut.
Deepfake, lebih sering dikaitkan dengan motif jahat, termasuk menciptakan informasi yang salah dan menimbulkan kebingungan tentang hal-hal yang penting secara politik.
Penipuan hingga pelecehan seksual
Kepolisian Inggris memperingatkan kecerdasan buatan semakin sering digunakan untuk berbagai kejahatan seperti penipuan, pelecehan seksual, hingga eksploitasi anak.
Alex Murray, Kepala Polisi Nasional bidang AI, mengungkapkan aksesibilitas teknologi yang semakin mudah menjadi faktor utama peningkatan penggunanya oleh pelaku kriminal.
"Kita tahu dari sejarah kepolisian bahwa penjahat itu kreatif dan akan menggunakan apa pun untuk melakukan kejahatan. Mereka sekarang menggunakan AI untuk melakukan kejahatan," kata Murray, mengutip The Guardian beberapa waktu lalu.
Kejahatan ini bisa terjadi dalam skala internasional maupun di tingkat individu.
Salah satu kejahatan AI yang berkembang pesat adalah penggunaan teknologi deepfake untuk melakukan penipuan berskala besar. Murray mengungkapkan contoh kasus penipuan menggunakan video deepfake untuk menyamar sebagai eksekutif perusahaan.
Penggunaan AI yang paling mengkhawatirkan adalah untuk menciptakan konten pelecehan anak. Teknologi generatif AI memungkinkan pelaku membuat ribuan gambar dan video pelecehan seksual anak secara sintetik, yang semuanya ilegal.
Kecanggihan deepfake membuat mata biasa sulit membedakan mana konten asli atau palsu. Namun, para peneliti Facebook mengatakan mereka telah mengembangkan kecerdasan buatan yang dapat mengidentifikasi deepfake dan melacak asal konten tersebut dengan menggunakan reverse engineering atau rekayasa balik.
"Metode kami akan memfasilitasi pendeteksian dan penelusuran deepfake dalam pengaturan dunia nyata, di mana gambar deepfake itu sendiri seringkali merupakan satu-satunya informasi yang dapat dianalisis," tulis ilmuwan riset untuk Facebook Xi Yin dan Tal Hassner, seperti dikutip NPR, beberapa waktu lalu.
Perangkat lunak baru Facebook menjalankan gambar deepfake melalui jaringannya. Kemudian program AI mereka mencari sidik jari yang tertinggal dalam proses pembuatan yang digunakan untuk mengubah gambar digital.
"Dalam fotografi digital, sidik jari digunakan untuk mengidentifikasi kamera digital yang digunakan untuk menghasilkan gambar," jelas para peneliti.
Sidik jari itu juga merupakan pola unik yang sama-sama dapat digunakan untuk mengidentifikasi model generatif dari mana gambar itu berasal.
Sejumlah peneliti dari Massachusetts Institute of Technology (MIT) juga membuat eksperimen yang memungkinkan orang-orang untuk mengenal deepfake lebih dekat. Eksperimen bernama Detect Fakes ini menampilkan sejumlah konten teks, audio, dan video, lalu menguji seberapa mampu pengguna membedakan konten asli dan palsu.
Dlansir dari situs MIT, berikut beberapa tips untuk membedakan konten yang telah dimanipulasi deep fake:
1. Perhatikan wajah. Manipulasi deepfake kelas atas hampir selalu merupakan transformasi wajah.
2. Perhatikan bagian pipi dan dahi. Apakah kulit tampak terlalu halus atau terlalu keriput? Apakah usia kulit sama dengan usia rambut dan mata? Deepfake sering tidak kongruen pada beberapa dimensi.
3. Perhatikan mata dan alis. Apakah bayangan muncul di tempat yang seharusnya? Deepfake sering gagal untuk sepenuhnya memberikan efek alami dari sebuah adegan.
4. Perhatikan kacamata. Apakah ada silau? Apakah ada terlalu banyak silau? Apakah sudut silau berubah saat orang tersebut bergerak? Sekali lagi, deepfake sering gagal untuk sepenuhnya mewakili efek fisika alami terutama pencahayaan.
5. Perhatikan rambut di wajah (kumis dan janggut) atau kekurangannya. Apakah rambut wajah ini terlihat nyata? Deepfake mungkin menambah atau menghapus kumis, cambang, atau janggut. Tapi, deepfake sering gagal membuat transformasi rambut wajah terlihat alami.
6. Perhatikan tahi lalat di wajah. Apakah tahi lalat terlihat nyata?
7. Perhatikan kedipan. Apakah orang tersebut berkedip cukup atau terlalu banyak?
8. Perhatikan ukuran dan warna bibir. Apakah ukuran dan warnanya cocok dengan bagian lain wajah orang tersebut?
[Redaktur: Alpredo Gultom]
