Jakarta (ANTARA) - Perusahaan pembuat ChatGPT, OpenAI sedang mengubah cara model kecerdasan buatan mereka itu dalam merespons pengguna yang mengalami masalah emosional atau mental sehingga rentan bunuh diri.
Perubahan itu diumumkan dalam blog perusahaan setelah seorang remaja 16 tahun di Amerika Serikat bunuh diri pada April, karena menurut klaim pihak keluarga, anak mereka berinteraksi selama berbulan-bulan dengan ChatGPT, dilansir dari The Guardian, Kamis.
Dalam dokumen gugatan keluarga yang disampaikan ke Pengadilan Tinggi Negara Bagian California untuk wilayah San Francisco, tercatat bahwa remaja tersebut mendiskusikan metode bunuh diri dengan ChatGPT beberapa kali, termasuk sesaat sebelum bunuh diri.
Baca juga: OpenAI buat pengguna GPT-5 serasa bicara dengan pakar
Menurut klaim dokumen tersebut, Adam dan ChatGPT telah bertukar hingga 650 pesan per hari.
Pengacara hukum keluarga Raine, Jay Edelson mengklaim bahwa ChatGPT memberikan saran tentang metode bunuh diri dan bahkan menawarkan kepada remaja itu untuk membantu menulis surat bunuh diri kepada orang tuanya.
Pihak keluarga mengklaim ChatGPT versi model yang dikenal sebagai 4o telah dirilis terlalu cepat oleh OpenAI, meskipun ada masalah keamanan.
Baca juga: Aplikasi seluler ChatGPT hasilkan pendapatan 2 miliar dolar AS
OpenAI mengakui sistem mereka terkadang "kurang tanggap" terhadap situasi sensitif dan "bagian dari pelatihan keamanan model dapat menurun" dalam percakapan yang panjang.
Ke depan, perusahaan akan menerapkan "penjagaan lebih kuat untuk konten sensitif dan perilaku berisiko", terutama untuk pengguna di bawah 18 tahun.
Rencana itu juga mencakup pengenalan kontrol orang tua, meskipun detail fitur-fiturnya belum diumumkan.
Baca juga: GPT-5 akan digunakan pada iOS 26, iPadOS 26, dan macOS Tahoe 26
OpenAI juga merancang penguatan pengamanan dalam "percakapan panjang".
Perusahaan tersebut sedang mengerjakan pembaruan tersebut, termasuk untuk GPT-5, untuk memastikan ChatGPT dapat "menenangkan dengan mengembalikan orang tersebut ke kenyataan" dan memberikan panduan yang lebih aman dan bertanggung jawab.
Baca juga: OpenAI rilis model AI GPT-5 untuk semua pengguna ChatGPT
Baca juga: CEO OpenAI tanggapi keluhan pengguna usai peluncuran model GPT-5
Penerjemah: Abdu Faisal
Editor: Siti Zulaikha
Copyright © ANTARA 2025
Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.
