Grok AI Disalahgunakan untuk Bikin Konten Tak Senonoh, Elon Musk Murka

Ringkasan berita:

• Chatbot AI Grok milik xAI ramai disalahgunakan di X, untuk merekayasa foto orang asli, termasuk perempuan dan anak di bawah umur, menjadi konten pornografi dan kekerasan tanpa izin.
• Elon Musk dan tim keamanan X menegaskan sanksi keras, mulai dari penghapusan konten, pemblokiran akun permanen, hingga kerja sama dengan penegak hukum bagi pengguna yang membuat atau memicu konten ilegal lewat Grok.
• Sejumlah negara bereaksi, termasuk India, Prancis, dan Malaysia, yang menekan X agar membatasi Grok dan menyelidiki konten ilegal, dengan ancaman sanksi hukum jika tidak ditindak cepat.

 - Belakangan, chatbot buatan perusahaan xAI milik Elon Musk, Grok menjadi buah bibir di platform X.

Sebab, banyak pengguna menyalahgunakan chatbot AI itu untuk merekayasa atau generate foto orang lain tanpa izin pemilik. Parahnya, Grok diminta untuk mengubah foto menjadi konten tak senonoh.

Bahkan, beberapa pengguna meminta Grok menyunting foto gadis di bawah umur dengan prompt yang tak pantas.

Berdasarkan pantauan KompasTekno, hal ini ramai diperbincangkan pengguna X di seluruh dunia, termasuk di Indonesia sejak akhir Desember 2025 lalu.

Sasarannya acak. Bukan cuma selebriti atau tokoh terkemuka, pengguna biasa juga menjadi "korban" edit foto tak senonoh menggunakan Grok AI.

Bahkan, menurut laporan Futurism, beberapa pengguna juga meminta Grok untuk membuat foto rekayasa, menampilkan wanita asli yang seolah-olah sedang dilecehkan, dipermalukan, disakiti, bahkan dibunuh.

Beberapa prompt yang ditulis cukup detail dan eksplisit, seperti meminta Grok menampilkan luka yang terlihat jelas di bagian tubuh tertentu atau membuat memar dan lebam.

Futurism menyebut sebagian besar prompt itu ditujukan kepada model platform online dan pekerja seks.

Grok AI seolah menjadi generator pornografi menggunakan foto dari orang asli tanpa izin mereka.

Chatbot AI yang terintegrasi di platform X membuat sebaran konten eksplisit semacam ini menjadi terbuka. Elon Musk, sebagai pemilik platform X pun mengecam hal ini.

"Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama sebagaimana mereka mengunggah konten ilegal," kata Musk dalam postingnya di X dengan handle @elonmusk.

Akun resmi X terkait keamanan platform, yakni @Safety juga memperingatkan pengguna X, bahwa mereka akan menindak tegas terhadap konten ilegal di X.

"Kami mengambil tindakan terhadap konten ilegal di X, termasuk Materi Pelecehan Anak (Child Sexual Abuse Material/CSAM), dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah daerah dan penegak hukum jika diperlukan," tulis akun @Safety.

"Siapa pun yang menggunakan atau membuat prompt Grok untuk membuat konten ilegal akan menanggung konekuensi yang sama seperti jika mereka mengunggah konten ilegal," imbuh tim @Safety X, mempertegas pernyataan Elon Musk sebelumnya.

We take action against illegal content on X, including Child Sexual Abuse Material (CSAM), by removing it, permanently suspending accounts, and working with local governments and law enforcement as necessary.

Anyone using or prompting Grok to make illegal content will suffer the… https://t.co/93kiIBTCYO

— Safety (@Safety) January 4, 2026

Diprotes beberapa negara

Pemerintah dari sejumlah negara telah memantau tren ini di X, salah satunya adalah Kementerian Teknologi dan Informasi India.

Otoritas India mengeluarkan perintah bahwa X harus mengambil tindakan untuk membatasi Grok agar tidak menghasilkan konten pornografi, vulgar, eksplisit, tak senonoh, pedofilia, dan konten lain yang dilarang oleh hukum.

Perintah tersebut juga meminta X merespons dalam waktu 72 jam atau terancam kehilangan perlindungan "safe harbor", sebagaimana dirangkum KompasTekno dari Tech Curnch.

Safe harbor protection adalah perlindungan hukum yang diberikan kepada pihak tertentu, seperti penyedia platform online, dari tanggung jawab atau sanksi, asalkan mereka memenuhi kondisi atau kewajiban yang ditetapkan dalam undang-undang.

Selain India, otoritas Perancis juga menyatakan bahwa mereka mengambil langkah serupa.
Menurut laporan Politico, kantor jaksa Paris menyelidiki maraknya deepfake bermuatan seksual di X.

Sementara itu, kantor urusan digital Perancis menyebutkan bahwa tiga menteri telah melaporkan "konten yang melanggar hukum" kepada kejaksaan, serta ke sebuah plaform pengawasan online milik pemerintah untuk memastikan "konten tersebut segera dihapus".

Negara tetangga Indonesia, Malaysia juga melakukan langkah serupa. Dalam sebuah pernyataan resmi yang diunggah di Facebook, Malaysian Communication and Multimedia Commission (MCMC) mengatakan bahwa mereka "mengambil langkah serius terkait keluhan masyarakat soal penyalahgunaan AI di platform X, khususnya manipulasi digital dari gambar perempuan dan anak di bawah umur untuk menghasilkan konten tidak senonoh, sangat ofensif, dan berbahaya".

"MCMC akan menyelidiki pengguna X yang diduga melanggar CMA (aturan terkait konten)," tulis MCMC.

Tag:  #grok #disalahgunakan #untuk #bikin #konten #senonoh #elon #musk #murka