Gugatan tersebut diajukan tepat sebelum Jaksa Agung California Rob Bonta mengirimkan surat peringatan kepada perusahaan xAI milik Musk.
AS, Suarathailand- Ashley St Clair, ibu dari putra Musk, Romulus, menggugat atas 'rasa sakit dan tekanan mental' yang disebabkan oleh gambar AI palsu yang dihasilkan oleh chatbot Grok.
Ibu dari salah satu anak Elon Musk menggugat perusahaan kecerdasan buatan (AI) miliknya, dengan mengatakan chatbot Grok memungkinkan pengguna untuk menghasilkan gambar deepfake yang mengeksploitasi secara seksual dirinya yang telah menyebabkan penghinaan dan tekanan emosional.
Gugatan tersebut diajukan tepat sebelum Jaksa Agung California Rob Bonta mengirimkan surat peringatan kepada perusahaan xAI milik Musk yang menuntut agar perusahaan tersebut menghentikan pembuatan dan distribusi gambar seksual tanpa persetujuan yang dihasilkan oleh Grok.
“Banyaknya laporan yang merinci materi ini – terkadang menggambarkan perempuan dan anak-anak yang terlibat dalam aktivitas seksual – sangat mengejutkan dan, seperti yang telah ditentukan oleh kantor saya, berpotensi ilegal,” kata Bonta pada hari Jumat.
Ashley St Clair, seorang penulis dan komentator politik, dalam gugatan yang diajukan pada hari Kamis di Kota New York terhadap xAI, menuduh bahwa ia menjadi korban gambar deepfake yang mengandung unsur seksual yang dihasilkan oleh Grok.
St Clair, yang merupakan ibu dari putra Musk yang berusia 16 bulan, Romulus, mengatakan bahwa ia melaporkan gambar-gambar tersebut ke platform media sosial X milik Musk, yang menampung Grok, setelah gambar-gambar tersebut mulai muncul tahun lalu dan meminta agar gambar-gambar tersebut dihapus.
Platform tersebut menjawab bahwa gambar-gambar tersebut tidak melanggar kebijakannya, katanya. Kemudian platform tersebut berjanji untuk tidak mengizinkan gambar dirinya digunakan atau diubah tanpa persetujuannya.
Kemudian, platform media sosial tersebut membalas dendam dengan mencabut langganan premium X dan tanda centang verifikasinya, dan terus mengizinkan gambar-gambar palsu yang merendahkan dirinya, katanya.
“Saya telah menderita dan terus menderita rasa sakit dan tekanan mental yang serius sebagai akibat dari peran xAI dalam menciptakan dan mendistribusikan gambar-gambar saya yang telah diubah secara digital ini,” kata St Clair dalam dokumen yang dilampirkan pada gugatan tersebut.
“Saya merasa terhina dan merasa mimpi buruk ini tidak akan pernah berhenti selama Grok terus menghasilkan gambar-gambar saya,” katanya.
Pada hari Kamis, pengacara xAI mengajukan gugatan balik terhadap St Clair di pengadilan federal di Distrik Utara Texas, dengan tuduhan bahwa ia melanggar ketentuan perjanjian pengguna xAI yang mengharuskan gugatan terhadap perusahaan diajukan di pengadilan federal di Texas. Mereka menuntut putusan ganti rugi moneter yang tidak diungkapkan jumlahnya terhadapnya.
Carrie Goldberg, pengacara St Clair, menyebut gugatan balik tersebut sebagai langkah “mengejutkan” yang belum pernah ia lihat sebelumnya dari seorang terdakwa.
“Ibu St Clair akan dengan gigih membela diri di pengadilan New York,” kata Goldberg dalam sebuah pernyataan.
“Tetapi terus terang, yurisdiksi mana pun akan mengakui inti dari klaim Ibu St Clair – bahwa dengan memproduksi gambar-gambar seksual eksplisit tanpa persetujuan dari anak perempuan dan wanita, xAI adalah gangguan publik dan produk yang tidak aman.”
Dalam sebuah wawancara dengan media AS awal pekan ini, St Clair mengatakan bahwa perjuangannya melawan Grok “bukan hanya tentang dirinya”.
“Ini tentang membangun sistem, sistem AI yang dapat menghasilkan, dalam skala besar, dan menyalahgunakan perempuan dan anak-anak tanpa konsekuensi. Dan sebenarnya tidak ada konsekuensi atas apa yang terjadi saat ini,” katanya kepada CNN.
“Mereka mengatakan ‘kami akan membuatnya ilegal, di mana pun itu ilegal’. Itu sama sekali tidak bermoral dan, tebak apa, jika Anda harus menambahkan keamanan setelah terjadi kerugian, itu sama sekali bukan keamanan. Itu hanyalah pengendalian kerusakan,” katanya.
Grok milik Musk sudah berada di bawah pengawasan dan menghadapi reaksi internasional karena pembuatan gambar deepfake eksplisit di Inggris, Uni Eropa, dan yurisdiksi lain, termasuk India, india, Malaysia, Filipina, dan Jepang.
Otoritas Jepang mengatakan pada hari Jumat bahwa mereka juga sedang menyelidiki X terkait Grok, dengan mengatakan bahwa semua opsi sedang dipertimbangkan untuk mencegah pembuatan gambar yang tidak pantas.
