Komdigi Sebut X Pastikan Grok Tak Digunakan untuk Konten Porno

Kementerian Komunikasi dan Digital (Komdigi) menyebutkan, platform X telah memastikan bahwa fitur kecerdasan artifisial (AI) Grok tidak bisa digunakan untuk membuat konten-konten pornografi.

Direktur Jenderal Pengawasan Ruang Digital Kementerian Komdigi Alexander Sabar menyebutkan, X komitmennya untuk mematuhi ketentuan hukum yang berlaku di Indonesia, serta meningkatkan perlindungan terhadap perempuan dan anak-anak di platformnya.

“X menegaskan akan memastikan fitur AI Grok tidak dapat digunakan untuk menghasilkan konten bermuatan pornografi, serta akan melakukan penindakan terhadap akun-akun yang terbukti melanggar kebijakan dan peraturan perundang-undangan,” kata Alexander, Selasa (13/1/2026), dikutip dari Antara.

Adapun komitmen ini disampaikan saat X memenuhi undangan klarifikasi oleh Kementerian Komdigi.

Alexander melanjutkan, Kementerian Komdigi akan terus mengawasi dan mengevaluas komitmen platform X tersebut untuk memastikan perlindungan ruang digital berjalan secara nyata dan berkelanjutan.

Ia menyampaikan langkah tindakan Komdigi dalam menangani platform yang membuat dan menyebarkan konten pornografi menggunakan AI, termasuk menegaskan bahwa setiap Penyelenggara Sistem Elektronik (PSE) wajib mematuhi seluruh ketentuan peraturan perundang-undangan yang berlaku di Indonesia.

Ketentuan yang wajib dipatuhi PSE termasuk kewajiban pendaftaran, kepatuhan terhadap moderasi konten, serta respons cepat atas perintah pemutusan akses terhadap konten yang dilarang.

“Apabila ditemukan pelanggaran atau ketidakpatuhan, Komdigi memiliki kewenangan untuk menjatuhkan sanksi administratif hingga pemutusan akses layanan,” ujar Alexander.

Kementerian Komdigi juga secara aktif melakukan pengawasan serta berkoordinasi dengan aparat penegak hukum guna memastikan teknologi AI tidak disalahgunakan.

“Apabila penyedia layanan maupun pengguna terbukti memproduksi dan/atau menyebarkan konten pornografi dapat dikenakan sanksi administratif dan/atau pidana sesuai dengan ketentuan hukum yang berlaku,” tutur dia.

Grok diblokir

Sebelumnya, Kementerian Komdigi memutus akses sementara terhadap aplikasi chatbot berbasis kecerdasan artifisial (AI) Grok dalam menjaga ruang digital yang aman dan beretika.

Hal ini lantaran praktik deepfake bermuatan seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara.

"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid.

Seperti diketahui, Grok mengundang kritik keras berbagai kalangan dari seluruh dunia karena memungkinkan pengguna untuk membuat gambar yang berbau pornografi.

Tag:  #komdigi #sebut #pastikan #grok #digunakan #untuk #konten #porno