Jakarta (ANTARA) - Meta mengumumkan penerapan aturan keamanan dengan mengubah cara melatih produk kecerdasan buatannya (AI) guna memprioritaskan keselamatan remaja dalam menggunakan chatbot.
Melansir laporan TechCrunch, Minggu, perusahaan saat ini akan melatih chatbot untuk tidak lagi berinteraksi dalam percakapan terkait topik sensitif seperti melukai diri sendiri, bunuh diri, gangguan makan, atau percakapan romantis yang berpotensi tidak pantas dan membatasi akses hanya pada sejumlah karakter AI tertentu untuk pengguna di bawah umur.
“Saat kami terus menyempurnakan sistem kami, kami menambahkan lebih banyak pembatasan sebagai langkah pencegahan tambahan, termasuk melatih AI kami untuk tidak membahas topik-topik ini dengan remaja, tetapi mengarahkan mereka ke sumber daya ahli,” kata juru bicara Meta Stephanie Otway.
Baca juga: Meta diwartakan hentikan perekrutan tenaga ahli untuk divisi AI
Meta mengatakan perubahan ini bersifat sementara dan akan merilis pembaruan keselamatan yang lebih kuat dan tahan lama bagi pengguna di bawah umur di masa mendatang.
“Pembaruan ini sudah berlangsung, dan kami akan terus menyesuaikan pendekatan kami untuk membantu memastikan remaja memiliki pengalaman yang aman dan sesuai dengan usia dengan AI,” katanya.
Stephanie Otway mengatakan bahwa chatbot perusahaan sebelumnya dapat berbicara dengan remaja tentang semua topik ini dengan cara yang dianggap tepat oleh perusahaan. Namun, sekarang Meta menyadari bahwa ini adalah sebuah kesalahan.
Baca juga: Meta hadirkan fitur AI sulih suara lintas bahasa di Reels
“Seiring pertumbuhan komunitas kami dan berkembangnya teknologi, kami terus belajar tentang bagaimana remaja berinteraksi dengan alat-alat ini dan memperkuat perlindungan kami sesuai kebutuhan,” ujar Otway.
Tak hanya pembaruan pelatihan, Meta juga akan membatasi akses remaja terhadap karakter AI tertentu yang berpotensi melakukan percakapan yang tidak pantas. Sebagai gantinya, pengguna remaja hanya akan memiliki akses ke karakter AI yang mendorong pendidikan dan kreativitas.
Adapun penerapan aturan ini menyusul laporan investigasi terhadap Meta terkait kurangnya perlindungan AI terhadap anak di bawah umur.
Baca juga: Meta restrukturisasi divisi AI jadi empat kelompok baru
Perubahan kebijakan diumumkan hanya dua minggu setelah investigasi dari Reuters menemukan dokumen kebijakan Meta internal yang tampaknya mengizinkan chatbot perusahaan terlibat dalam percakapan seksual dengan pengguna di bawah umur.
Meta menyatakan bahwa dokumen tersebut tidak konsisten dengan kebijakan umum mereka dan sejak itu telah diubah, namun laporan tersebut telah memicu kontroversi berkepanjangan mengenai risiko keselamatan anak.
Baca juga: Meta tingkatkan anggaran infrastruktur AI dua kali lipat pada 2025
Baca juga: Senat AS selidiki Meta terkait dugaan bahaya chatbot AI terhadap anak
Penerjemah: Sri Dewi Larasati
Editor: Siti Zulaikha
Copyright © ANTARA 2025
Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.
