Gara-gara Konten Asusila, Grok AI Dibatasi Elon Musk hingga Diblokir Komdigi

Ringkasan Berita: 

• Chatbot kecerdasan buatan Grok AI buatan perusahaan xAI milik Elon Musk menjadi sorotan global sejak akhir Desember 2025 setelah disalahgunakan untuk merekayasa foto orang asli menjadi konten asusila. Penyalahgunaan ini mencakup pornografi dan kekerasan berbasis deepfake, dengan sasaran acak mulai dari figur publik hingga pengguna biasa, termasuk perempuan dan anak di bawah umur. Integrasi Grok langsung ke platform X membuat sebaran konten ilegal tersebut semakin luas.
• Menanggapi hal itu, Elon Musk dan tim keamanan X menegaskan sanksi keras bagi pengguna yang membuat atau memicu konten ilegal melalui Grok, mulai dari penghapusan konten hingga pemblokiran akun permanen dan kerja sama dengan penegak hukum. Namun, langkah xAI membatasi fitur pembuatan dan penyuntingan gambar Grok hanya untuk pengguna berbayar X Premium menuai kritik, karena dinilai tidak menyentuh akar masalah dan hanya memindahkan akses ke layanan berbayar.
• Di Indonesia, pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah tegas dengan memblokir sementara akses Grok AI. Pemblokiran dilakukan karena Grok dinilai berpotensi melanggar privasi dan hak atas citra diri melalui pembuatan konten pornografi palsu berbasis AI. Komdigi menegaskan bahwa penyalahgunaan teknologi semacam ini dapat dikenai sanksi administratif hingga pidana sesuai ketentuan hukum yang berlaku.

- Chatbot kecerdasan buatan Grok AI buatan perusahaan xAI milik Elon Musk tengah menjadi sorotan global setelah disalahgunakan untuk membuat konten asusila berbasis rekayasa foto.

Terintegrasi langsung dengan platform X, Grok ramai digunakan sebagian pengguna untuk memanipulasi foto orang lain tanpa izin, termasuk mengubahnya menjadi konten tak senonoh.
Praktik ini menuai kecaman luas karena sasarannya acak, mulai dari figur publik hingga pengguna biasa, bahkan melibatkan perempuan dan anak di bawah umur.

Isu tersebut mencuat sejak akhir Desember 2025 dan memicu perhatian serius di berbagai negara. Seiring meningkatnya tekanan publik dan temuan pelanggaran etika penggunaan AI, respons pun datang dari dua arah.

Elon Musk selaku pemilik xAI dan platform X mulai membatasi fitur Grok, sementara di Indonesia pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah tegas dengan memblokir sementara akses chatbot tersebut.

Elon Musk dan tim keamanan X ancam sanksi tegas

Merespons maraknya penyalahgunaan tersebut, Elon Musk mengecam keras pengguna yang memanfaatkan Grok untuk membuat konten ilegal.

Ia menegaskan bahwa siapa pun yang menggunakan Grok untuk menghasilkan konten melanggar hukum akan menghadapi konsekuensi serius.

Pernyataan ini diperkuat oleh akun keamanan resmi X yang menyebutkan bahwa platform akan menghapus konten ilegal, menangguhkan akun secara permanen, serta bekerja sama dengan aparat penegak hukum, terutama untuk kasus yang melibatkan pelecehan seksual dan eksploitasi anak.

Kontroversi Grok AI tak hanya memicu reaksi internal, tetapi juga tekanan dari berbagai negara. Pemerintah India meminta X segera membatasi Grok agar tidak menghasilkan konten pornografi, vulgar, dan pedofilia, serta mengancam pencabutan perlindungan hukum (safe harbor) jika tidak patuh.

Langkah serupa juga ditempuh Prancis yang membuka penyelidikan atas maraknya deepfake bermuatan seksual di X.

Sementara itu, Malaysia menyatakan akan menyelidiki pengguna yang diduga menyalahgunakan AI untuk memanipulasi foto perempuan dan anak di bawah umur menjadi konten tak senonoh.

xAI batasi fitur edit gambar Grok

Di tengah tekanan global, xAI mengambil langkah awal dengan membatasi fitur pembuatan dan penyuntingan gambar Grok hanya untuk pelanggan berbayar X Premium. Kebijakan ini membuat pengguna gratis tidak lagi bisa langsung meminta Grok membuat gambar melalui mention di X.

Namun, pembatasan tersebut tidak berlaku sepenuhnya. Dalam praktiknya, pengguna masih bisa mengakses fitur pembuatan gambar melalui tab Grok di X atau aplikasi Grok yang berdiri sendiri.

Kebijakan pembatasan fitur Grok menuai kritik dari berbagai pihak, termasuk pejabat di Inggris, Uni Eropa, dan Amerika Serikat. Mereka menilai langkah tersebut tidak menyentuh akar masalah, melainkan hanya memindahkan akses ke layanan berbayar.

Sejumlah pejabat menegaskan bahwa persoalan utama bukan soal siapa yang bisa mengakses fitur, melainkan lemahnya sistem pencegahan terhadap produksi dan distribusi konten ilegal berbasis AI.

Komdigi blokir sementara Grok AI di Indonesia

Di Indonesia, pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah tegas dengan memblokir sementara akses Grok AI.

Pemutusan akses dilakukan menyusul temuan bahwa Grok disalahgunakan untuk membuat konten asusila berupa rekayasa foto (deepfake) tanpa izin.

Pemblokiran bersifat sementara dan belum merata. Berdasarkan pantauan, sebagian akses Grok masih bisa digunakan melalui jalur tertentu sambil menunggu klarifikasi dan perbaikan sistem dari pihak X.

Komdigi menegaskan bahwa manipulasi foto pribadi bukan hanya soal kesusilaan, tetapi juga pelanggaran serius terhadap privasi dan hak atas citra diri.

Pemerintah mengingatkan bahwa penyalahgunaan AI untuk membuat dan menyebarkan konten pornografi dapat dikenai sanksi administratif hingga pidana sesuai ketentuan KUHP baru yang berlaku sejak Januari 2026.

Pemerintah juga menekankan bahwa ruang digital bukan ruang tanpa hukum. Setiap penyelenggara sistem elektronik wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana eksploitasi seksual, pelanggaran privasi, maupun perusakan martabat seseorang.

Dapatkan update berita teknologi dan gadget pilihan setiap hari. Mari bergabung di Kanal WhatsApp KompasTekno.

Caranya klik link https://whatsapp.com/channel/0029VaCVYKk89ine5YSjZh1a. Anda harus install aplikasi WhatsApp terlebih dulu di ponsel.

Tag:  #gara #gara #konten #asusila #grok #dibatasi #elon #musk #hingga #diblokir #komdigi