-Alat 'sextortion' yang digunakan terhadap selebritas semakin menyasar anak-anak.
-Aplikasi "nudify" — alat AI yang secara digital melucuti pakaian atau menghasilkan gambar seksual.
AS, Suarathailand- Setelah seorang remaja di Kentucky bunuh diri tahun ini, orang tuanya mendapati ia menerima pesan teks ancaman yang menuntut USD3.000 untuk menyembunyikan foto telanjangnya yang dihasilkan AI.
Tragedi ini menggarisbawahi bagaimana penipuan sextortion yang menargetkan anak-anak semakin berkembang di seluruh dunia, terutama dengan maraknya aplikasi "nudify" — alat AI yang secara digital melucuti pakaian atau menghasilkan gambar seksual.
Elijah Heacock, 16 tahun, hanyalah satu dari ribuan anak di bawah umur Amerika yang menjadi sasaran pemerasan digital semacam itu, yang telah memicu seruan untuk tindakan lebih lanjut dari platform teknologi dan regulator.
Orang tuanya mengatakan kepada media AS bahwa pesan teks tersebut memerintahkannya untuk membayar atau foto telanjang yang tampaknya dihasilkan AI akan dikirimkan kepada keluarga dan teman-temannya.
"Orang-orang yang mengincar anak-anak kita sangat terorganisir," kata John Burnett, ayah anak laki-laki itu, dalam sebuah wawancara CBS News.
"Mereka memiliki dana yang cukup besar, dan mereka gigih. Mereka tidak perlu foto-foto itu asli, mereka bisa menciptakan apa pun yang mereka inginkan, lalu menggunakannya untuk memeras anak tersebut."
Penyelidik AS sedang menyelidiki kasus ini, yang muncul ketika aplikasi pornografi telanjang—yang mulai populer dengan menyasar selebritas—semakin sering digunakan sebagai senjata untuk melawan anak-anak.
FBI telah melaporkan "peningkatan yang mengerikan" dalam kasus pemerasan seksual yang menargetkan anak di bawah umur di AS, dengan korban biasanya laki-laki berusia antara 14 dan 17 tahun. Ancaman tersebut telah menyebabkan "jumlah bunuh diri yang mengkhawatirkan," demikian peringatan badan tersebut.
Instrumen Kekerasan
Dalam survei terbaru, Thorn, sebuah lembaga nirlaba yang berfokus pada pencegahan eksploitasi anak daring, menemukan bahwa enam persen remaja Amerika telah menjadi korban langsung dari video porno deepfake.
"Laporan tentang konten palsu dan deepfake—banyak di antaranya dihasilkan menggunakan layanan 'nudifikasi' ini—tampaknya berkaitan erat dengan laporan pemerasan seksual finansial, atau pemerasan dengan gambar eksplisit seksual," kata lembaga pengawas Inggris, Internet Watch Foundation (IWF), dalam sebuah laporan tahun lalu.
"Para pelaku tidak perlu lagi mengambil gambar intim dari anak-anak karena gambar yang cukup meyakinkan untuk berbahaya—bahkan mungkin sama berbahayanya dengan gambar asli dalam beberapa kasus—dapat diproduksi menggunakan AI generatif."
IWF mengidentifikasi satu "panduan pedofil" yang dikembangkan oleh para predator yang secara eksplisit mendorong para pelaku untuk menggunakan alat nudifikasi guna menghasilkan materi untuk memeras anak-anak. Penulis panduan tersebut mengklaim telah berhasil memeras beberapa gadis berusia 13 tahun.
Alat-alat tersebut merupakan bisnis yang menguntungkan.
Analisis baru terhadap 85 situs web yang menjual layanan nudifikasi menemukan bahwa secara kolektif, nilai layanan-layanan tersebut mungkin mencapai $36 juta per tahun.
Analisis dari Indicator, sebuah publikasi AS yang menyelidiki penipuan digital, memperkirakan bahwa 18 situs menghasilkan antara $2,6 juta dan copy $8,4 juta selama enam bulan hingga Mei.
Sebagian besar situs mengandalkan infrastruktur teknologi dari Google, Amazon, dan Cloudflare untuk beroperasi, dan tetap menguntungkan meskipun ada tindakan keras dari platform dan regulator, kata Indicator.
‘Whack-a-mole’
Proliferasi perangkat AI telah menyebabkan bentuk-bentuk baru pelecehan yang berdampak pada anak-anak, termasuk skandal pornografi di universitas dan sekolah di seluruh dunia, di mana remaja menciptakan gambar-gambar seksual dari teman sekelas mereka sendiri.
Survei Save the Children baru-baru ini menemukan bahwa satu dari lima anak muda di Spanyol telah menjadi korban deepfake foto telanjang, dengan gambar-gambar tersebut dibagikan secara daring tanpa persetujuan mereka.
Awal tahun ini, jaksa penuntut Spanyol mengatakan mereka sedang menyelidiki tiga anak di bawah umur di kota Puertollano karena diduga menargetkan teman sekelas dan guru mereka dengan konten pornografi yang dihasilkan AI dan mendistribusikannya di sekolah mereka.
Di Inggris Raya, pemerintah tahun ini menetapkan pembuatan deepfake yang eksplisit secara seksual sebagai tindak pidana, dengan pelakunya menghadapi hukuman penjara hingga dua tahun.
Dan pada bulan Mei, Presiden AS Donald Trump menandatangani Undang-Undang "Take It Down" yang bipartisan, yang mengkriminalisasi publikasi gambar intim tanpa persetujuan, sekaligus mewajibkan penghapusannya dari platform daring.
Meta juga baru-baru ini mengumumkan akan mengajukan gugatan terhadap perusahaan Hong Kong di balik aplikasi nudify bernama Crush AI, yang disebut berulang kali menghindari aturan raksasa teknologi tersebut untuk memasang iklan di platformnya.
Namun terlepas dari langkah-langkah tersebut, para peneliti mengatakan situs-situs nudifikasi AI tetap tangguh.
"Hingga saat ini, perang melawan nudifier AI telah menjadi permainan pukul tikus tanah," kata Indicator, menyebut aplikasi dan situs tersebut sebagai "musuh yang gigih dan jahat".
