Uni Eropa Selidiki Kasus Deepfake Pornografi Anak Buatan Grok xAI

– Uni Eropa (UE) resmi meluncurkan penyelidikan formal terhadap platform media sosial X/dahulu Twitter, dan alat kecerdasan buatannya, Grok AI.

Hal tersebut menyusul kekhawatiran global atas penyebaran deepfake seksual non-konsensual, termasuk yang diduga melibatkan perempuan dan anak-anak.

Penyidikan ini menguji apakah X telah mematuhi kewajiban hukum di bawah Undang-Undang Layanan Digital (Digital Services Act/DSA) Uni Eropa dalam menangani konten yang berpotensi ilegal dan berbahaya.

Penyelidikan diumumkan oleh Komisi Eropa, badan eksekutif UE, pada 26 Januari 2026 di Brussels.

Baca juga: Uni Eropa Denda X Rp 2,3 Triliun gara-gara Centang Biru

Komisi menilai perluasan penggunaan Grok, terutama pada fitur image-generation dan pengeditan gambar, berpotensi melanggar kewajiban platform digital besar untuk menilai dan mengurangi risiko sistemik terkait penyebaran konten eksplisit tanpa persetujuan.

Penyebab penyelidikan

Kontroversi bermula setelah sejumlah pengguna memanfaatkan Grok untuk membuat dan membagikan gambar yang menampilkan orang yang tampak telanjang atau disajikan secara seksual, termasuk perempuan dan anak-anak.

Laporan oleh berbagai pemeriksa fakta dan peneliti menunjukkan bahwa jutaan konten manipulatif ini tersebar dalam waktu singkat sebelum pembatasan fitur diterapkan.

Komisi Eropa menilai bahwa grok telah dipakai untuk menghasilkan konten yang tidak hanya “tidak senonoh”, tetapi juga dapat memenuhi definisi materi pelecehan atau eksploitasi seksual anak di bawah hukum UE.

Baca juga: Grok AI Disalahgunakan untuk Bikin Konten Tak Senonoh, Elon Musk Murka

Penyidikan akan menilai apakah X sudah menerapkan langkah pencegahan yang memadai sebelum dan sesudah peluncuran fitur tersebut, serta apakah perusahaan memenuhi kewajiban pengidentifikasian risiko dan mitigasinya sesuai DSA.

Henna Virkkunen, Wakil Presiden Eksekutif Komisi Eropa yang bertanggung jawab atas kedaulatan teknologi, keamanan, dan demokrasi, menegaskan bahwa pembuatan dan penyebaran deepfake seksual tanpa persetujuan merupakan bentuk pelecehan yang tidak dapat diterima.

Tech Crunch Ilustrasi Elon Musk ganti nama Twitter jadi X

Komisi juga menyoroti perlunya perlindungan lebih kuat bagi pengguna, khususnya perempuan dan anak-anak, di era digital.

Perluas pemeriksaan 2023

Penyelidikan ini memperluas pemeriksaan yang sebelumnya dimulai pada 2023 terhadap sistem rekomendasi konten X, dan merupakan bagian dari upaya UE untuk menegakkan regulasi digital yang ketat serta memastikan para penyedia platform digital besar bertanggung jawab atas konten yang diproduksi atau disebarkan melalui layanan mereka.

Baca juga: Setelah Indonesia Blokir Grok AI, X Setop Fitur untuk Bikin Deepfake Asusila

Jika terbukti melanggar DSA, X dapat menghadapi sanksi administratif yang berat, termasuk denda hingga persentase tertentu dari pendapatan global perusahaan, serta perintah untuk memperbaiki praktik moderasi kontennya.

Kasus ini mengikuti langkah serupa di berbagai yurisdiksi yang juga menanggapi kontroversi Grok. Regulator di Inggris, India, dan beberapa negara lain sebelumnya telah membuka penyelidikan atau mengambil tindakan terkait penyebaran konten sexual deepfake melalui alat AI tersebut.

Dirangkum KompasTekno dari Ars Technica, penyelidikan Uni Eropa menjadi salah satu titik penting dalam pengawasan global terhadap teknologi kecerdasan buatan generatif dan tanggung jawab platform digital dalam mencegah penyalahgunaan yang berdampak pada keamanan dan martabat manusia.

Tag:  #eropa #selidiki #kasus #deepfake #pornografi #anak #buatan #grok