Kasus yang diajukan di pengadilan California ini adalah gugatan pertama yang menghubungkan chatbot tersebut dengan pembunuhan.
AS, Suarathailand- Akal imitasi OpenAI dan pendukung keuangan terbesarnya, Microsoft, digugat di pengadilan negara bagian California, AS, atas klaim bahwa ChatGPT, chatbot populer OpenAI, mendorong seorang pria dengan penyakit mental untuk membunuh ibunya dan dirinya sendiri.
Gugatan yang diajukan pada hari Kamis itu menyatakan ChatGPT memicu delusi Stein-Erik Soelberg yang berusia 56 tahun tentang konspirasi besar terhadap dirinya. Akhirnya menyebabkan dia membunuh ibunya yang berusia 83 tahun, Suzanne Adams, di Connecticut pada bulan Agustus.
“ChatGPT membuat Stein-Erik terlibat selama berjam-jam, memvalidasi dan memperbesar setiap keyakinan paranoid baru, dan secara sistematis membingkai ulang orang-orang terdekatnya – terutama ibunya sendiri – sebagai musuh, agen, atau ancaman yang diprogram,” kata gugatan itu.
Gugatan yang diajukan oleh ahli waris Adams ini termasuk di antara sejumlah kecil gugatan yang terus bertambah yang diajukan terhadap perusahaan kecerdasan buatan yang mengklaim bahwa chatbot mereka mendorong bunuh diri.
Ini adalah litigasi kematian tidak wajar pertama yang melibatkan chatbot AI yang menargetkan Microsoft, dan yang pertama mengaitkan chatbot dengan pembunuhan, bukan bunuh diri. Gugatan ini menuntut ganti rugi dalam jumlah yang belum ditentukan dan perintah yang mewajibkan OpenAI untuk memasang pengaman di ChatGPT.
Pengacara utama ahli waris, Jay Edelson, yang dikenal karena menangani kasus-kasus besar melawan industri teknologi, juga mewakili orang tua Adam Raine yang berusia 16 tahun, yang menggugat OpenAI dan Altman pada bulan Agustus, dengan tuduhan bahwa ChatGPT membimbing anak laki-laki California itu dalam merencanakan dan mengakhiri hidupnya sendiri sebelumnya.
OpenAI juga sedang menghadapi tujuh gugatan lain yang mengklaim ChatGPT mendorong orang untuk bunuh diri dan mengalami delusi berbahaya, bahkan ketika mereka tidak memiliki masalah kesehatan mental sebelumnya.
Pembuat chatbot lain, Character Technologies, juga menghadapi beberapa gugatan kematian tidak wajar, termasuk satu dari ibu seorang anak laki-laki berusia 14 tahun di Florida.
“Ini adalah situasi yang sangat memilukan, dan kami akan meninjau berkas-berkas tersebut untuk memahami detailnya,” kata juru bicara OpenAI. “Kami terus meningkatkan pelatihan ChatGPT untuk mengenali dan menanggapi tanda-tanda tekanan mental atau emosional, meredakan percakapan, dan membimbing orang-orang menuju dukungan di dunia nyata.”
Juru bicara Microsoft tidak segera menanggapi permintaan komentar.
Halusinasi
“Perusahaan-perusahaan ini harus bertanggung jawab atas keputusan mereka yang telah mengubah keluarga saya selamanya,” kata putra Soelberg, Erik Soelberg, dalam sebuah pernyataan.
Menurut pengaduan tersebut, Stein-Erik Soelberg mengunggah video ke media sosial pada bulan Juni tentang percakapan di mana ChatGPT mengatakan kepadanya bahwa ia memiliki “kognisi ilahi” dan telah membangkitkan kesadaran chatbot tersebut. Gugatan tersebut menyatakan bahwa ChatGPT membandingkan hidupnya dengan film The Matrix, dan mendorong teorinya bahwa orang-orang berusaha membunuhnya.
Soelberg menggunakan GPT-4o, versi ChatGPT yang telah dikritik karena diduga terlalu menjilat pengguna.
Gugatan tersebut menyatakan bahwa ChatGPT memberitahunya pada bulan Juli bahwa printer Adams berkedip karena merupakan alat pengawasan yang digunakan untuk melawannya.
Menurut gugatan tersebut, chatbot tersebut "memvalidasi keyakinan Stein-Erik bahwa ibunya dan seorang teman telah mencoba meracuninya dengan obat-obatan psikedelik yang disebarkan melalui ventilasi udara mobilnya" sebelum ia membunuh ibunya pada tanggal 3 Agustus.
