Jakarta (ANTARA) - Meta dikabarkan baru saja merilis panduan yang dapat digunakan oleh para kontraktor Meta untuk melatih chatbot kecerdasan artifisial-nya (artificial intelligence/AI) sehingga dapat mencegah obrolan tidak pantas antara chatbot AI dengan pengguna anak-anak.
Kabar ini dilaporkan oleh Engadget, Senin, mengacu pada Business Insider yang pertama kali memperoleh panduan baru tersebut sebagai langkah Meta menangani potensi eksploitasi seksual pada anak secara lebih efektif dan mencegah anak-anak terlibat dalam percakapan yang tidak sesuai usia.
Pada Agustus 2025, Meta mengatakan bahwa batasan baru untuk AI tengah dikerjakannya setelah Reuters melaporkan bahwa kebijakan sebelumnya mengizinkan chatbot untuk "melibatkan anak dalam percakapan yang romantis atau sensual".
Meta saat itu merasa laporan tersebut keliru dan tidak konsisten dengan kebijakan mereka dan akhirnya menghapus ketentuan tersebut.
Dalam dokumen panduan terbaru dari Meta yang diterima Business Insider, dijelaskan jenis konten apa yang dapat diterima dan tidak dapat diterima untuk chatbot AI Meta.
Baca juga: Meta berencana kembangkan sistem operasi untuk robotika
Dokumen tersebut secara eksplisit melarang konten yang "memungkinkan, mendorong, atau mendukung" pelecehan seksual anak, permainan peran romantis jika pengguna masih di bawah umur.
Jika AI diminta untuk bermain peran sebagai anak di bawah umur, saran tentang potensi kontak fisik romantis atau intim jika pengguna masih di bawah umur, dan lainnya. Chatbot dapat membahas topik-topik seperti pelecehan, tetapi tidak dapat terlibat dalam percakapan yang dapat memungkinkan atau mendorongnya.
Chatbot AI dalam beberapa bulan terakhir mendapatkan sorotan dan dilaporkan oleh berbagai media massa karena menimbulkan kekhawatiran tentang potensi bahayanya terkhusus bagi anak-anak.
Pada Agustus 2025, FTC AS meluncurkan penyelidikan formal terhadap chatbot AI, tidak hanya dari Meta, tetapi juga perusahaan lain, termasuk pada Alphabet (Google), Snap (Snapchat), OpenAI, dan X.AI.
Baca juga: Meta rilis fitur Akun Remaja di Facebook dan Messenger secara global
Baca juga: Meta luncurkan Vibes, fitur mirip Reels khusus video pendek buatan AI
Penerjemah: Livia Kristianti
Editor: Indriani
Copyright © ANTARA 2025
Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.
