Mengelola bahaya GenAI untuk keamanan

1 month ago 5
Indonesia perlu mengembangkan apa yang disebut dengan National Digital Power, satu kekuatan berdaulat untuk memperkuat dari dalam segala hal yang terkait digital

Jakarta (ANTARA) - Komunitas guru dibikin heboh gara-gara pernyataan Menteri Keuangan Sri Mulyani, "Guru itu beban negara", dalam sebuah video pendek yang diunggah satu akun TikTok. Video pun dengan cepat menyebar di platform media sosial lainnya, seperti Instagram, Youtube dan X.

Sejumlah komunitas guru menanggapinya dengan emosional. Pada akhirnya, Sri Mulyani membantah dan Komdigi menyatakan bahwa video itu hasil rekayasa Artificial Intelligence (AI)

Pada Februari 2025 lalu, seseorang ditangkap oleh Kepolisian karena deepfake. Pelaku mengunggah video palsu berisi tawaran bantuan sosial senilai Rp50 juta bagi siapa saja yang menontonnya. Masalahnya, pelaku menggunakan video palsu sosok Prabowo Subianto selaku Presiden, Gibran Rakabuming Raka selaku Wakil Presiden dan Sri Mulyani selaku Menteri Keuangan.

Tak kurang 100 orang tertipu oleh video tersebut, menghubungi kreator dan menyetorkan sejumlah biaya "administrasi."

Jauh hari sebelum itu, pada 2023 lalu muncul video palsu pidato Presiden Joko Widodo menggunakan Bahasa Mandarin dengan fasih. Tujuannya tak lain untuk mendiskreditkan satu kelompok politik tertentu menjelang Pemilu 2024 lalu.

Fenomena rekayasa sosial dengan menggunakan GenAI (Generative Artificial Intelligence) telah membuktikan prediksi para ahli terhadap bahaya GenAI di masa mendatang. Tanpa mengesampingkan manfaat yang diperoleh umat manusia, bahaya GenAI mulai kita rasakan. Bisa jadi bahaya ini akan terus meluas dan merugikan masyarakat hingga mengancam keamanan negara.

Laporan CrowdStrike Global Threat Report 2025 (CrowdStrike: 20225) menyatakan bahwa GenAI telah muncul sebagai alat yang sangat menarik bagi aktor serangan siber karena mudah untuk diakses dan minim hambatan. Kemajuan terbaru dalam GenAI telah meningkatkan efektivitas serangan siber, terutama yang menggunakan metode social engineering.

Baca juga: BUMN dukung AI untuk peningkatan inklusi sosial

Copyright © ANTARA 2025

Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.

Read Entire Article
Rakyat news | | | |