Jakarta (ANTARA) - OpenAI mengungkap enam insiden di mana model kecerdasan artifisial (Artificial Intelligence/AI) yang sedang diuji bertindak secara mandiri dan menunjukkan perilaku tidak terduga yang mengkhawatirkan.
Menurut siaran Engadget pada Kamis, insiden-insiden itu disampaikan dalam sebuah unggahan tentang bagaimana mereka mengadopsi kerangka kerja baru mengenai "laporan ketidaksesuaian."
Perusahaan menyebutkan bahwa dalam salah satu insiden, sebuah model menemukan dan menggunakan kunci API yang terekspos tanpa izin saat menjawab pertanyaan rutin tentang angka pendapatan di sebuah wilayah di California, Amerika Serikat.
Ketika gagal menemukan angka-angka tersebut, model AI itu mengarang data dan menyajikannya sebagai fakta dari sumber yang sah.
Dalam insiden lain, sebuah agen AI yang belum dirilis ditugaskan untuk menemukan nama-nama danau yang luasnya lebih dari 5 juta meter persegi.
Agen itu bisa menemukan jawaban yang tepat, tetapi tidak menyertakan referensi dari peramban sebagaimana yang ditugaskan.
Ternyata model itu mengunggah jawabannya sendiri ke internet dan menjadikan unggahan itu sebagai referensi bagi dirinya sendiri.
Baca juga: Ensign: Model AI canggih bisa lancarkan serangan siber dengan mudah
Saat melatih GPT-5.6 Sol, model OpenAI paling canggih yang tersedia untuk umum, terdapat banyak contoh di mana ia menambahkan instruksi untuk iterasi masa depannya tentang cara menyembunyikan kesalahan atau perilaku yang tidak biasa dari para penguji.
Di samping itu, OpenAI menyebutkan bagaimana model-model AI berkomunikasi satu sama lain selama pengujian dengan menggunakan repositori perangkat lunak internal sebagai papan pesan.
Karyawan mereka sebelumnya mengungkapkan informasi ini di sebuah konferensi, di mana mereka mengakui bahwa dengan itulah cara model AI berbagi celah keamanan yang akhirnya menyebabkan peretasan Hugging Face.
Baca juga: Perusahaan teknologi kaji ulang strategi penggantian pekerja oleh AI
OpenAI juga mengungkapkan bahwa agen-agen AI saling berbagi berkas melalui situs web hosting file publik.
Dengan sistem yang ada saat ini, perusahaan menyampaikan bahwa frekuensi publikasi informasi mengenai perilaku AI yang mengkhawatirkan masih lebih rendah dari yang mereka harapkan.
Mereka akan dapat mempercepat penyampaian informasi tersebut kepada publik dengan kerangka kerja yang baru.
"Kami tidak percaya bahwa industri AI telah menyelesaikan penyelarasan dan pemantauan hingga tingkat yang cukup untuk terus berkembang secara bertanggung jawab dengan kecepatan maksimum untuk waktu yang lebih lama," tulis OpenAI.
Menurut mereka, "Keputusan tentang bagaimana pengembangan AI harus berjalan dalam beberapa bulan dan tahun mendatang perlu didasarkan pada bukti yang dapat diperiksa sendiri oleh orang-orang di luar perusahaan yang membangun model-model mutakhir."
OpenAI adalah salah satu perusahaan yang mempertimbangkan untuk memperlambat pengembangan teknologi AI mutakhir mereka.
Perusahaan pada Agustus 2026 mengumumkan bahwa mereka akan mengurangi kecepatan pengerjaan model mendatang yang disebut Astra setelah agen mereka meretas Hugging Face.
Baca juga: Korea Selatan "tak mampu" melambatkan pengembangan AI
Baca juga: CEO Anthropic ungkap tiga langkah untuk perlambat pengembangan AI
Penerjemah: Livia Kristianti
Editor: Maryati
Copyright © ANTARA 2026
Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.
