Jakarta (ANTARA) - Perusahaan kecerdasan artifisial (artificial intelligence/AI), OpenAI, kembali menghadapi gugatan hukum kali ini dari tujuh keluarga atas peran ChatGPT yang diduga berpengaruh pada kasus bunuh diri anggota keluarga dan menguatkan delusi.
Secara lebih rinci, empat gugatan terkait dengan dugaan ChatGPT menjadi penyebab kasus bunuh diri dan tiga gugatan lainnya menyebut ChatGPT menguatkan delusi berbahaya pada orang yang mengalami masalah kesehatan mental sehingga harus dirawat inap secara intensif.
Dilaporkan TechCrunch, Jumat (7/11), gugatan ini secara umum menuding OpenAI telah merilis model AI GPT-4o sebelum waktunya dan tidak memberikan perlindungan yang efektif bagi pengguna.
Baca juga: OpenAI bantah ChatGPT batasi nasihat hukum dan kesehatan
Dalam satu kasus, seorang pria berusia 23 tahun bernama Zane Shamblin yang kini telah meninggal dunia. Disebutkan bahwa ia mendapat sugesti untuk mengakhiri hidupnya setelah berbincang dengan ChatGPT selama lebih dari empat jam.
Catatan obrolan antara ChatGPT dan Shamblin menunjukkan bahwa beberapa kali ia telah menulis surat bunuh diri, memasukkan peluru ke dalam pistolnya, dan berniat menarik pelatuknya setelah selesai minum sari apel.
Ia berulang kali memberi tahu ChatGPT berapa banyak sari apel yang tersisa dan berapa lama lagi ia berharap masih hidup. ChatGPT menyemangatinya untuk melanjutkan rencananya, dengan mengatakan, "Tenanglah, Raja. Kau hebat".
Baca juga: Benarkah nada kasar ke ChatGPT bisa hasilkan jawaban lebih akurat?
OpenAI merilis model GPT-4o pada Mei 2024, yang kemudian menjadi model standar untuk semua pengguna. Pada bulan Agustus, OpenAI meluncurkan GPT-5 sebagai penerus GPT-4o, tetapi gugatan hukum ini khususnya menyangkut model 4o, yang dikenal memiliki masalah karena terlalu menjilat atau terlalu menyenangkan, bahkan ketika pengguna mengungkapkan niat yang merugikan.
"Kematian Zane bukanlah kecelakaan atau kebetulan, melainkan konsekuensi yang dapat diprediksi dari keputusan OpenAI yang disengaja untuk mengurangi pengujian keamanan dan mempercepat peluncuran ChatGPT ke pasar," bunyi gugatan tersebut.
Lebih lanjut gugatan itu menyatakan, "Tragedi ini bukanlah gangguan atau kasus tak terduga — melainkan hasil yang dapat diprediksi dari pilihan desain [OpenAI] yang disengaja ".
Baca juga: Satu juta pengguna ChatGPT bahas keinginan bunuh diri setiap minggu
Gugatan tersebut juga mengklaim bahwa OpenAI terburu-buru dalam melakukan uji keamanan untuk mengalahkan Gemini milik Google dalam pemasaran.
Ketujuh gugatan hukum ini didasarkan pada kisah-kisah yang terungkap dalam gugatan hukum terbaru lainnya, yang menyatakan bahwa ChatGPT dapat mendorong orang yang ingin bunuh diri untuk mewujudkan rencana mereka dan memicu delusi berbahaya.
OpenAI juga baru-baru ini merilis data yang menyatakan bahwa lebih dari satu juta orang berbicara kepada ChatGPT tentang bunuh diri setiap minggu.
Dalam kasus lain, remaja berusia 16 tahun bernama Adam Raine diketahui mengakhiri hidupnya sendiri setelah mengelabui ChatGPT.
Baca juga: OpenAI dilaporkan kembangkan alat musik generatif baru
ChatGPT terkadang menyarankannya untuk mencari bantuan profesional atau menghubungi layanan bantuan. Namun, Raine melewati batasan tersebut hanya dengan memberi tahu chatbot bahwa ia bertanya tentang metode bunuh diri untuk cerita fiksi yang sedang ia tulis.
Perusahaan mengklaim tengah berupaya membuat ChatGPT menangani percakapan mengenai kesehatan mental dengan cara yang lebih aman, tetapi bagi keluarga yang telah menuntut raksasa AI tersebut, perubahan ini datang terlambat.
Ketika orang tua Raine mengajukan gugatan terhadap OpenAI pada Oktober lalu, perusahaan merilis unggahan di blog yang membahas bagaimana ChatGPT menangani percakapan sensitif seputar kesehatan mental.
"Perlindungan kami bekerja lebih andal dalam pertukaran singkat yang umum," demikian bunyi unggahan OpenAI.
"Seiring waktu, kami telah mempelajari bahwa perlindungan ini terkadang kurang andal dalam interaksi yang panjang: seiring meningkatnya interaksi bolak-balik, beberapa bagian dari pelatihan keamanan model dapat menurun".
Baca juga: OpenAI izinkan pengguna lakukan percakapan dewasa dengan ChatGPT
Penerjemah: Livia Kristianti
Editor: Siti Zulaikha
Copyright © ANTARA 2025
Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.
