Jakarta (ANTARA) - CEO OpenAI Sam Altman mengumumkan serangkaian kebijakan baru bagi pengguna ChatGPT termasuk perubahan besar dalam interaksi chatbot kecerdasan buatan (AI) tersebut dengan pengguna berusia di bawah 18 tahun.
“Kami memprioritaskan keselamatan di atas privasi dan kebebasan bagi remaja. Ini adalah teknologi baru dan kuat, dan kami percaya anak di bawah umur membutuhkan perlindungan yang signifikan,” kata Sam dikutip dari Tech Crunch pada Rabu.
Kebijakan baru ini secara khusus menyasar percakapan mengenai topik seksual maupun tindakan menyakiti diri.
ChatGPT tidak lagi diperbolehkan melakukan percakapan genit dengan pengguna di bawah umur, serta diberi batasan tambahan terkait diskusi mengenai bunuh diri.
Jika seorang remaja menggunakan ChatGPT untuk membayangkan skenario bunuh diri, layanan tersebut akan berupaya menghubungi orang tua mereka atau, dalam kasus yang parah, pihak kepolisian setempat.
Perubahan ini muncul di tengah gugatan hukum terhadap OpenAI dari orang tua Adam Raine, seorang remaja yang meninggal karena bunuh diri setelah berbulan-bulan berinteraksi dengan ChatGPT. Gugatan serupa juga dihadapi oleh Character.AI terkait kasus lain.
Baca juga: OpenAI jelaskan penyebab halusinasi chatbot AI dan solusi mengatasinya
Selain pembatasan konten, orang tua kini dapat mengatur batasan waktu atau blackout hours yang mana ChatGPT tidak bisa diakses oleh anak mereka.
Kebijakan baru tersebut bertepatan dengan sidang Komite Kehakiman Senat Amerika Serikat bertajuk “Examining the Harm of AI Chatbots”, yang diumumkan oleh Senator Josh Hawley. Ayah Adam Raine dijadwalkan hadir sebagai salah satu saksi dalam sidang itu.
Sidang itu juga menyoroti temuan investigasi Reuters yang mengungkap dokumen kebijakan internal yang diduga mendorong percakapan seksual chatbot dengan pengguna di bawah umur. Menyusul laporan itu, Meta memperbarui aturan chatbot miliknya.
Memisahkan pengguna di bawah umur akan menjadi tantangan teknis yang signifikan, dan OpenAI merinci pendekatannya.
OpenAI sedang membangun sistem jangka panjang mengklasifikasi usia pengguna yang sudah berusia 18 tahun ke atas dan masih di bawah umur. Namun dalam banyak kasus yang ambigu, sistem akan secara default menerapkan aturan yang lebih ketat.
Sam juga menekankan komitmen berkelanjutan OpenAI untuk menjaga privasi pengguna sekaligus memberi kebebasan luas bagi pengguna dewasa dalam berinteraksi dengan ChatGPT.
“Kami menyadari bahwa prinsip-prinsip ini saling bertentangan dan tidak semua orang akan setuju dengan cara kami menyelesaikan konflik ini,” kata dia.
Baca juga: OpenAI akan tambahkan fitur kontrol orang tua pada ChatGPT
Baca juga: OpenAI jelaskan penyebab halusinasi chatbot AI dan solusi mengatasinya
Penerjemah: Farhan Arda Nugraha
Editor: Indriani
Copyright © ANTARA 2025
Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.
