Hikmah dari Insiden Garuda Pancasila BRIN, AI Masih Perlu Kontrol Manusia

- Insiden salahnya gambar Garuda Pancasila di akun media sosial BRIN seolah menunjukkan bahwa Artificial intelligence atau AI belum dapat diandalkan sepenuhnya tanpa kontrol penuh manusia, setidaknya sampai saat ini.

Ada hikmah yang bisa dipetik dari peristiwa yang lantas diklarifikasi Badan Riset dan Inovasi Nasional tersebut.

Agar kondisi ini tidak menjadi dilema sehari-hari dalam menggunakan AI, tata kelola penggunaan AI di lingkup pemerintah perlu ada.

Analis senior Drone Emprit, Rizal Nova Mujahid, menilai pengaturan tata kelola merupakan sebuah cara membatasi penggunaan akal imitasi di lingkungan pemerintah, tanpa harus anti terhadap perkembangan teknologi.

Penggunaan AI di lingkup institusi negara tidak perlu “diharamkan” namun dikontrol penggunaannya.

"Sebaiknya bukan larangan total. Lebih ke SOP dan aturan soal tata kelola dan transparansi karena pemerintah punya kewajiban menyajikan informasi publik yang akurat," kata Rizal saat dihubungi Kompas.com, Selasa (2/6/2026).

Menurut Rizal, kasus BRIN menjadi contoh penggunaan AI yang salah ketika tidak ada prosedur standar dan kurangnya pengecekan manusianya kurang.

"Jadi, DPR dan pemerintah harus membuat aturan ketat. Jika instansi negara menggunakan AI untuk komunikasi publik, maka harus ada label transparan dan harus diverifikasi manusia dulu," ucap Rizal.

Pentingnya verifikasi manusia

Senada, Wakil Ketua Komisi I DPR RI Sukamta menilai, AI memang tidak boleh serta-merta digunakan tanpa filter.

Kasus kesalahan lambang Garuda Pancasila yang diunggah BRIN maupun deepfake yang sukses menampilkan wajah pejabat menunjukkan bahwa AI tidak boleh digunakan tanpa verifikasi manusia.

Menurutnya, manusia tetap menjadi pemegang keputusan akhir dari setiap publikasi yang disebarluaskan. Artinya setiap produk komunikasi publik, dokumen resmi, materi edukasi, maupun konten yang dibuat dengan bantuan AI harus melalui proses pengecekan dan validasi oleh pejabat yang bertanggung jawab.

"Prinsip yang perlu dipegang adalah human in command, yaitu keputusan akhir dan tanggung jawab tetap berada pada manusia, bukan pada sistem AI," jelas Sukamta.

KOMPAS.com / IRFAN KAMIL Wakil Ketua Komisi I DPR RI Sukamta saat ditemui di Kompleks Parlemen, Senayan, Jakarta.

Roadmap dan literasi digital

Rizal dari Drone Emprit berpandangan, perbaikan tata kelola dapat diatur dalam peta jalan (roadmap) AI Nasional yang dibentuk oleh Kementerian Komunikasi dan Digital (Komdigi).

Roadmap tidak hanya fokus pada Reformasi birokrasi di setiap Kementerian/lembaga, namun mengatur batas etis penggunaan.

Termasuk di dalamnya, larangan menggunakan AI untuk memanipulasi fakta atau mengubah simbol negara seperti kasus BRIN.

"Roadmap tidak hanya membicarakan efisiensi atau keinginan menjadi pemimpin transformasi digital. Harus ada aturan jelas soal batas etis, pedoman penggunaan AI, dan cara menangani konten/dokumen pemerintah yang dibuat dengan AI," jelas Rizal.

Pada intinya, tata kelola AI pemerintah harus berbasis etika, transparansi, tanggung jawab, dan berpihak pada kepentingan publik.

Wakil Ketua Komisi I DPR RI Dave Fikarno Laksono beranggapan, kecerdasan buatan menuntut kewaspadaan terhadap risiko kesalahan yang dapat terjadi, meski membawa peluang besar bagi efisiensi birokrasi dan pelayanan masyarakat.

Ia sependapat, penyusunan peta jalan AI nasional menjadi sangat relevan.

Harapannya, roadmap tidak hanya mengarahkan strategi pengembangan AI secara nasional, tetapi juga memberikan pedoman yang jelas bagi instansi pemerintah dalam mengadopsi teknologi tersebut.

"Mekanisme pengawasan, penanganan kesalahan, serta perlindungan masyarakat dari dampak negatif harus menjadi bagian integral dari roadmap agar pemanfaatan AI berjalan seimbang antara inovasi dan keamanan," tegas Dave.

Di sisi lain, perlu ada literasi digital yang makin masif kepada publik di tengah perkembangan teknologi.

Tidak dapat dipungkiri, literasi digital masyarakat Indonesia bervariasi di setiap provinsi. Ada yang meningkat signifikan, ada pula yang stagnan.

"Fokusnya harus ke edukasi dan literasi publik supaya orang makin kritis dan nggak gampang terpancing konten manipulatif," jelas Rizal.

Perbaiki kondisi sosial

Lebih jauh, roadmap maupun aturan yang lebih kuat seperti Rancangan Undang-Undang (RUU) dinilai tidak cukup dalam upaya pembatasan.

Pemerintah kata Rizal, perlu memperbaiki kondisi sosial masyarakat, mengingat roadmap hanya dokumen panduan.

Ia lantas mencontohkan penggunaan deepfake terhadap pejabat publik, eks Menteri Keuangan Sri Mulyani Indrawati, yang memicu amarah.

Padahal Sri Mulyani juga merupakan korban dari deepfake. Dalam video yang beredar, ia seolah mengatakan bahwa guru adalah beban negara.

Menurutnya, deepfake Sri Mulyani viral bukan hanya karena kecanggihan teknologi, tetapi karena publik sedang kesal dengan isu di dunia nyata, yakni ketimpangan anggaran pendidikan dengan gaji pejabat negara.

"Misinformasi mudah menyebar ketika publik merasa diabaikan. Jadi, memperbaiki kondisi sosial itu justru harus menjadi prioritas, disusul dengan memberantas hoaks. Jawab permaslahan utamanya, jawab akar keresahan publik," tegas Rizal.

Di sisi lain, pemerintah perlu mendorong platform dan pembuat teknologi agar watermark akal imitasi sulit dihapus.

"Meski dalam kasus Sri Mulyani, watermark Veo malah dipotong oleh penyebarnya" tegas Rizal.

Tag: #hikmah #dari #insiden #garuda #pancasila #brin #masih #perlu #kontrol #manusia