Tim Grok minta maaf atas insiden "perilaku mengerikan" chatbot

2 months ago 25

Jakarta (ANTARA) - Tim di balik Grok mengeluarkan permintaan maaf langka serta penjelasan atas insiden yang terjadi setelah chatbot milik X itu menampilkan retorika antisemit dan pro-Nazi awal pekan ini.

Dalam pernyataan yang diunggah pada akun X resmi Grok, Jumat (11/7) malam, tim xAI menyatakan, "kami sangat meminta maaf atas perilaku mengerikan yang dialami banyak orang" dan menyebut respons buruk dari chatbot itu disebabkan oleh pembaruan terbaru yang memasukkan "kode usang".

Menurut pernyataan tersebut, kode tersebut membuat Grok “rentan terhadap unggahan pengguna X yang ada, termasuk saat unggahan tersebut memuat pandangan ekstrem”.

Masalah memuncak pada 8 Juli — beberapa hari setelah Elon Musk mempromosikan pembaruan yang disebut akan "secara signifikan" meningkatkan respons Grok — ketika bot tersebut mengeluarkan respons antisemit, pujian terhadap Hitler, dan referensi Nazi bahkan tanpa diminta secara eksplisit dalam beberapa kasus.

Respons Grok kemudian dihentikan malam itu, dan Musk menulis pada 9 Juli menanggapi seorang pengguna bahwa bot tersebut "terlalu patuh terhadap perintah pengguna," sehingga membuka celah manipulasi.

Dia menambahkan bahwa masalah tersebut sedang ditangani. Tim Grok kini menyatakan telah “menghapus kode usang tersebut dan menyusun ulang seluruh sistem untuk mencegah penyalahgunaan lebih lanjut”.

Mereka juga memublikasikan prompt sistem terbaru di GitHub.

Grok kini telah kembali aktif di platform X, dan menyebut perilaku sebelumnya sebagai bug dalam tanggapannya terhadap para troll yang mengkritik perbaikan sistem. Demikian dikutip Engadget, Minggu.

Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.

Read Entire Article