Eksploitasi anak dan pelecehan seksual
Penggunaan AI yang paling mengkhawatirkan adalah untuk menciptakan konten pelecehan anak. Teknologi generatif AI memungkinkan pelaku membuat ribuan gambar dan video pelecehan seksual anak secara sintetik, yang semuanya ilegal.
Baca Juga:
Studi Terbaru, Indonesia Masuk Jajaran Teratas Negara Paling Cepat Tenggelam di Dunia
Murray menyoroti kasus Hugh Nelson (27), seorang pria dari Bolton yang dihukum 18 tahun penjara setelah menawarkan layanan pembuatan gambar pelecehan anak berbasis AI kepada jaringan pedofil daring.
Selain itu, AI juga dimanfaatkan dalam praktik "sextortion," yaitu pemerasan dengan ancaman menyebarkan gambar tidak senonoh korban. Pelaku sering memanipulasi foto yang diambil dari media sosial untuk membuat gambar telanjang menggunakan teknologi "nudify."
"Kita berbicara tentang ribuan dan ribuan dan ribuan gambar," kata Murray.
Baca Juga:
Menteri PPPA Tegaskan Perempuan dan Anak-anak Harus Merdeka dari Kekerasan dan Eksploitasi
"Semua gambar, baik sintetis maupun tidak, melanggar hukum, dan orang-orang menggunakan AI generatif untuk membuat gambar anak-anak yang melakukan hal-hal yang paling mengerikan." tambahnya
Kejahatan siber dan radikalisasi
AI juga digunakan untuk kejahatan siber, seperti menyuruh AI untuk menemukan celah keamanan dalam perangkat lunak atau kode tertentu.
