Eksploitasi anak dan pelecehan seksual
Penggunaan AI yang paling mengkhawatirkan adalah untuk menciptakan konten pelecehan anak. Teknologi generatif AI memungkinkan pelaku membuat ribuan gambar dan video pelecehan seksual anak secara sintetik, yang semuanya ilegal.
Baca Juga:
Menteri PPPA Tegaskan Perempuan dan Anak-anak Harus Merdeka dari Kekerasan dan Eksploitasi
Murray menyoroti kasus Hugh Nelson (27), seorang pria dari Bolton yang dihukum 18 tahun penjara setelah menawarkan layanan pembuatan gambar pelecehan anak berbasis AI kepada jaringan pedofil daring.
Selain itu, AI juga dimanfaatkan dalam praktik "sextortion," yaitu pemerasan dengan ancaman menyebarkan gambar tidak senonoh korban. Pelaku sering memanipulasi foto yang diambil dari media sosial untuk membuat gambar telanjang menggunakan teknologi "nudify."
"Kita berbicara tentang ribuan dan ribuan dan ribuan gambar," kata Murray.
Baca Juga:
Terungkap, Open BO Anak 'Premium Palace' Dikendalikan dari Lapas
"Semua gambar, baik sintetis maupun tidak, melanggar hukum, dan orang-orang menggunakan AI generatif untuk membuat gambar anak-anak yang melakukan hal-hal yang paling mengerikan." tambahnya
Kejahatan siber dan radikalisasi
AI juga digunakan untuk kejahatan siber, seperti menyuruh AI untuk menemukan celah keamanan dalam perangkat lunak atau kode tertentu.
