Investigasi AFP menemukan lebih dari 50 tokoh masyarakat salah dikaitkan dengan Allen, mulai dari aktor Tom Hanks dan Sydney Sweeney hingga musisi Chris Brown dan Taylor Swift.
AS, Suarathailand- Facebook telah dibanjiri dengan pemalsuan AI yang menciptakan rincian biografi dan koneksi selebriti untuk pria yang dituduh mencoba membunuh Donald Trump di pesta pers di Washington pada hari Sabtu.
Trump dan pejabat senior pemerintahan dievakuasi dari jamuan makan malam Asosiasi Koresponden Gedung Putih ketika suara tembakan terdengar dari lantai di atas ruang dansa, tempat tersangka berusaha berlari melewati petugas keamanan.
Dalam beberapa jam setelah pihak berwenang mengidentifikasi tersangka sebagai Cole Tomas Allen, 31, dari California, gambar yang dihasilkan AI yang menggambarkan dia berada di samping banyak selebritas yang tersebar di Facebook dalam postingan yang mengatakan bahwa dia adalah "mantan pengemudi", "asisten", atau "anggota kru produksi".
Investigasi AFP menemukan lebih dari 50 tokoh masyarakat salah dikaitkan dengan Allen, mulai dari aktor Tom Hanks dan Sydney Sweeney hingga musisi Chris Brown dan Taylor Swift.
Politisi termasuk mantan presiden AS Barack Obama dan Presiden Kanada Pierre Poilievre juga terlibat secara salah, begitu pula Paus Leo XIV dan pembawa berita NBC News Savannah Guthrie.
Pemalsuan tersebut mencerminkan ekosistem online yang dipenuhi dengan konten yang dikenal sebagai "AI slop". Dulunya sebagian besar berfokus pada selebriti, konten generatif dengan cepat berkembang untuk menggambarkan individu seperti Allen, yang kehadiran online-nya terbatas.
“Dua tahun yang lalu, Anda mungkin tidak akan bisa membuat gambar dirinya seperti itu, karena kita hanya bisa membuat foto palsu yang menarik dari selebriti yang memiliki jejak digital besar yang sistem AI-nya telah dilatih,” kata Hany Farid dari University of California, Berkeley, yang juga merupakan chief science officer di GetReal Security. “Sekarang, yang kubutuhkan hanyalah satu gambar dirimu.”
Aaron Parnas, seorang jurnalis independen yang kemiripannya muncul di postingan berkemampuan AI yang mengklaim Allen bekerja untuknya, memohon di Facebook agar orang-orang melaporkan gambar yang "sepenuhnya palsu".
“Ini sangat berbahaya,” kata Parnas kepada para pengikutnya.
- 'Dirancang untuk viralitas' -
Serangkaian postingan terpisah secara keliru mengklaim bahwa Allen telah menjadi staf di lebih dari 40 tim olahraga profesional dan perguruan tinggi yang berbeda, dengan visual yang dihasilkan AI membuatnya siap untuk tim di NFL, NHL, NBA, WNBA, dan NASCAR.
Banyak rendering yang muncul berdasarkan gambar dari postingan perusahaan bimbingan belajar yang mengakui Allen sebagai "guru bulan ini" pada bulan Desember 2024.
Format berbasis template ini menyerupai keluaran pabrik konten yang memproduksi secara massal cerita clickbait yang dibuat-buat, kata pakar literasi digital Mike Caulfield.
“Ini sangat mirip dengan perilaku peternakan konten, hanya saja dengan AI,” kata Caulfield kepada AFP.
Kemajuan terbaru dalam teknologi AI telah membuat kepalsuan visual menjadi lebih mudah dibuat dan lebih meyakinkan, dan kesalahan yang pernah terjadi seperti tangan dengan enam jari semakin jarang terjadi.
“AI mempermudah pengambilan foto yang ada dan mengganti pakaian, lingkungan, atau menukar wajah orang lain,” kata Jen Golbeck, profesor di Fakultas Informasi Universitas Maryland. "Begitu seseorang mendapat ide, mereka bisa mewujudkannya menjadi kenyataan visual."
“Lima tahun yang lalu, bukanlah hal yang aneh melihat orang-orang melakukan photoshop secara manual pada gambar seperti yang kita lihat, tapi jumlahnya tidak akan pernah sebesar ini.”
Para peneliti menyatakan kekhawatirannya mengenai jumlah yang dikenakan pada pengguna media sosial, yang mungkin bosan menentukan apa yang nyata.
AFP mendokumentasikan ledakan pemalsuan serupa setelah peristiwa besar lainnya, termasuk penangkapan pemimpin Venezuela Nicolas Maduro di AS pada bulan Januari dan pembunuhan Charlie Kirk tahun lalu.
“Hal-hal ini dirancang untuk viralitas, dan tentu saja algoritma menangkapnya,” kata Farid, dari GetReal Security. “Ini sangat menguntungkan.”
"Setiap kali ada peristiwa dunia, kita dibanjiri dengan omong kosong semacam ini. Saya rasa hal itu tidak akan hilang."
