Setelah Indonesia Blokir Grok AI, X Setop Fitur untuk Bikin Deepfake Asusila

Ringkasan berita:

• X menghentikan fitur Grok untuk membuat deepfake asusila, termasuk edit foto orang jadi berpakaian terbuka, menyusul penyelidikan hukum dan pemblokiran Grok di sejumlah negara.
• Indonesia menjadi negara pertama yang memblokir Grok AI secara sementara sejak 10 Januari 2026 demi mencegah penyebaran konten pornografi palsu berbasis AI, lalu disusul Malaysia.
• Sejumlah negara lain ikut memberi tekanan hukum ke X, termasuk AS, India, Perancis, dan Inggris yang menilai fitur Grok berpotensi melanggar hukum soal konten ilegal dan eksploitasi seksual.

- Tak lama setelah aplikasi Grok AI diblokir oleh pemerintah Indonesia, X (dulu Twitter) akhirnya menyetop chatbot berbasis kecerdasan buatan (AI) Grok untuk menghasilkan (generate) konten deepfake bermuatan asusila.

X, media sosial yang menjadi salah satu platform tempat pengguna mengakses Grok, mengumumkan penyetopan fitur sunting foto tersebut dalam sebuah pernyataan resmi.

"Kami telah menerapkan teknologi yang mencegah akun Grok dimanfaatkan untuk pengeditan gambar orang menjadi berpakaian terbuka seperti bikini," demikian keterangan X/Twitter yang diunggah melalui akun keamanan @Safety.

Media sosial milik Elon Musk ini juga menegaskan bahwa pencabutan fitur itu berlaku sepenuhnya, untuk semua pengguna termasuk pelanggan X Premium.

Sebelumnya, fitur pembuatan gambar tak senonoh di Grok sempat dibatasi hanya untuk pelanggan berbayar, dari semula untuk semua pengguna termasuk pengguna X gratis.

Meski demikian, Grok masih bisa dipakai untuk menyunting foto dalam batas wajar, khususnya untuk pengguna X/Twitter berbayar.

Keputusan ini diumumkan X/Twitter beberapa jam setelah jaksa penuntut utama California menyatakan bahwa pihaknya sedang menyelidiki penyebaran konten AI asusila yang memanfaatkan foto orang tanpa izin menjadi foto asusila.

Sejumlah negara seperti Indonesia dan Malaysia bahkan telah memblokir Grok, untuk mencegah dampak deepfake lebih lanjut.

https://t.co/awlfMjX6FS

— Safety (@Safety) January 14, 2026

Indonesia negara pertama yang blokir Grok AI

Indonesia menjadi negarap pertama yang memblokir aplikasi Grok AI. Aplikasi Grok AI tidak bisa diakses di Indonesia sejak 10 Januari 2026.

Keputusan ini diumumkan oleh Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid dalam sebuah pernyataan. Kendati demikian, pemblokiran ini hanya bersifat sementara.

"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok," kata Menkomdigi dalam keterangan resmi yang diterima KompasTekno, Sabtu (10/1/2026).

Setelah Indonesia, Malaysia juga memblokir Grok AI. Pemblokiran aplikasi Grok AI di Negeri Jiran diumumkan oleh Komisi Komunikasi dan Multimedia Malaysia (MCMC). Sama seperti Indonesia, pemblokiran ini juga bersifat sementara.

Peyalahgunaan Grok AI untuk generate konten tak senonoh juga mendapat kecaman dari berbagai negara. India menjadi salah satu negara awal yang memprotes penyalahgunaan ini.

Reuters Ilustrasi Grok AI. Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok.

Pemerintah India saat itu mengeluarkan perintah bahwa X harus mengambil tindakan untuk membatasi Grok agar tidak menghasilkan konten pornografi, vulgar, eksplisit, tak senonoh, pedofilia, dan konten lain yang dilarang oleh hukum.

Selain India, otoritas Perancis juga menyatakan bahwa mereka mengambil langkah serupa. Menurut laporan Politico, kantor jaksa Paris menyelidiki maraknya deepfake bermuatan seksual di X.

Sementara itu, kantor urusan digital Perancis menyebutkan bahwa tiga menteri telah melaporkan "konten yang melanggar hukum" kepada kejaksaan, serta ke sebuah plaform pengawasan online milik pemerintah untuk memastikan "konten tersebut segera dihapus".

Pemerintah Indonesia justru mengambil langkah cepat dengan membatasi akses Grok dengan memblokir aplikasi ini. Indonesia menjadi negara pertama yang melakukan langkah ini.

Kecaman juga datang dari Negeri Paman Sam. Di Amerika Serikat (AS), lembaga National Center on Sexual Exploitation (NCOSE) mendesak Departemen Kehakiman dan Komisi Perdagangan Federal (FTC) untuk menyelidiki platform X berdasarkan aturan materi eksploitasi seksual anak (CSAM) serta undang-undang "Take It Down Act".

Tekanan serupa juga menguat di Britania Raya. Menteri Teknologi Inggris, Liz Kendall menyatakan siap mendukung pemblokiran total platform X apabila regulator komunikasi Ofcom menyimpulkan adanya pelanggaran terhadap "Online Safety Act".

Kendall menyebut keputusan regulator tersebut diperkirakan akan keluar dalam beberapa hari ke depan, dan akan menjadi penentu langkah lanjutan pemerintah Inggris terhadap Grok AI dan X.

Tag:  #setelah #indonesia #blokir #grok #setop #fitur #untuk #bikin #deepfake #asusila