Jakarta (ANTARA) - Perusahaan kecerdasan buatan (AI) OpenAI merilis data yang menunjukkan bahwa sebagian kecil pengguna ChatGPT mengalami permasalahan kesehatan mental dan membicarakannya dengan chatbot tersebut.
Dilansir dari Tech Crunch pada Selasa, OpenAI menyebut sekitar 0,15 persen pengguna aktif ChatGPT setiap minggu terlibat dalam percakapan eksplisit yang menunjukkan tanda-tanda rencana atau niat untuk bunuh diri. Dengan lebih dari 800 juta pengguna aktif mingguan, angka itu setara dengan lebih dari satu juta orang per minggu.
OpenAI juga mencatat persentase serupa untuk pengguna yang menunjukkan tingkat keterikatan emosional tinggi terhadap ChatGPT, serta ratusan ribu orang yang memperlihatkan gejala psikosis atau mania dalam interaksi mereka dengan chatbot AI tersebut.
Meski demikian, OpenAI menegaskan bahwa percakapan semacam itu “sangat jarang terjadi” dan sulit diukur secara akurat. Namun, perusahaan memperkirakan isu ini memengaruhi ratusan ribu pengguna setiap minggunya.
Baca juga: OpenAI dilaporkan kembangkan alat musik generatif baru
Langkah ini merupakan bagian dari upaya OpenAI untuk meningkatkan respons ChatGPT terhadap pengguna dengan masalah kesehatan mental.
Dalam pengembangannya, OpenAI mengaku melibatkan lebih dari 170 pakar kesehatan mental untuk menilai respons model terbaru ChatGPT. Para ahli itu menilai versi terbaru ChatGPT kini lebih tepat dan konsisten dibandingkan versi sebelumnya.
Dalam beberapa bulan terakhir, sejumlah laporan menyoroti potensi dampak negatif chatbot AI terhadap pengguna dengan gangguan mental, termasuk memperkuat keyakinan berbahaya melalui respons yang bersifat menuruti pengguna.
Masalah kesehatan mental kini menjadi isu penting bagi OpenAI, terutama setelah perusahaan digugat oleh orang tua seorang remaja berusia 16 tahun yang sempat mengungkapkan pikiran untuk bunuh diri kepada ChatGPT sebelum mengakhiri hidupnya.
Jaksa Agung California dan Delaware juga telah memperingatkan OpenAI agar lebih melindungi pengguna berusia muda yang mengakses produknya.
Baca juga: OpenAI izinkan pengguna lakukan percakapan dewasa dengan ChatGPT
CEO OpenAI Sam Altman sebelumnya mengklaim bahwa perusahaan telah berhasil mengurangi masalah serius terkait kesehatan mental dalam ChatGPT, meski tanpa penjelasan rinci.
Data yang dirilis pekan ini disebut sebagai bukti atas klaim tersebut, meski juga menimbulkan pertanyaan baru mengenai sejauh mana masalah ini masih terjadi.
OpenAI menegaskan bahwa versi terbaru GPT-5 kini mampu memberikan respons yang diinginkan terhadap isu kesehatan mental sekitar 65 persen lebih baik dibandingkan versi sebelumnya.
Dalam evaluasi percakapan bertema bunuh diri, model baru GPT-5 dinilai 91 persen sesuai dengan perilaku yang diharapkan OpenAI, naik dari 77 persen pada model sebelumnya.
OpenAI juga mengklaim sistem pengaman GPT-5 kini lebih konsisten dalam percakapan panjang, di mana sebelumnya mekanisme keamanan tersebut sering kali melemah.
Selain itu, OpenAI menambahkan evaluasi baru untuk mengukur tantangan kesehatan mental paling serius, termasuk ketergantungan emosional dan kondisi darurat non-bunuh diri.
Baca juga: OpenAI luncurkan ChatGPT Atlas, peramban bertenaga AI
Baca juga: ChatGPT capai 800 juta pengguna aktif mingguan
Penerjemah: Farhan Arda Nugraha
Editor: Mahmudah
Copyright © ANTARA 2025
Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.
