Nakal Banget, Chatbot Grok AI Sulap Elon Musk Jadi Gembul, Trump Elus Perut Kamala Harris yang Hamil

Teknologi kecerdasan buatan atau artificial intelligence (AI) yang semakin berkembang bisa memanipulasi banyak hal seperti foto hingga video termasuk membuat deepfake yang sulit dinalar hingga yang kengundang kelucuan.

Chatbot Grok AI milik Elon Musk belakangan menjadi viral di Amerika Serikat yang menampilkan foto-foto dengan deepfake tokoh-tokoh terkemuka.

Misalnya, oleh chatbot Grok, kandidat Presiden Amerika Serikat Donald Trump digambarkan sedang mengelus perut pesaingnya, calon Presiden AS Kamala Harris yang sedang mengandung calon bayi Donald Trump layaknya pasangan suami-istri.

Deepfake lainnya, menampilkan Donald Trump berciuman dengan Elon Musk.

Elon Musk sendiri oleh chatbot ini juga ditampilkan sedang leyeh-leyed di bed-nya dengan bertelanjang dada memamerkan perut gembulnya.

Belakangan, Chatbot Grok AI memang banyak membanjiri web dengan gambar-gambar “deepfake” dari semua orang.Jika dilihat hasilnya, memang terlihat jadi sangat aneh hingga benar-benar mengganggu.

Elon Musk meluncurkan chatbot Grok minggu lalu. Sejak diluncurkan perdana pengguna Grok telah membuat gambar palsu Donald Trump sedang merampok sebuah toko serba ada.

Foto deepfake CEO Tesla Elon Musk nyender di bed memamerkan perut gembulnya. Chatbot Grok AI milik Elon Musk belakangan menjadi viral di Amerika Serikat yang menampilkan foto-foto dengan deepfake tokoh-tokoh terkemuka. Foto-foto tersebut merupakan hasil rekayasa AI pengguna chatbot Grok.

Foto lainnya, pengguna Grok menampilkan Donald Trump sedang menerbangkan pesawat menuju Menara Kembar di New York.

Ada pula deepfake yang menampilkan mantan Presiden George W. Bush yang menghirup minuman bersoda dari mejanya di Ruang Oval.

User Grok ada juga yang membuat beberapa deepfake mengerikan tampak seperti hasil karya anak-anak — Ronald McDonald yang berlumuran darah mengacungkan senapan mesin di depan kedai Burger King.

Ada juga yang menampilkan Goofy, salah satu karakter klasik di Disney, yang melakukan pembunuhan berdarah dengan gergaji besi.

Kritikus mengecam Musk dan X karena mengizinkan chatbot diluncurkan dengan sedikit batasan, dengan alasan risiko mulai dari misinformasi, pelanggaran hak cipta, hingga merugikan anak-anak.

Instruktur Harvard Law Cyberlaw Clinic, Alejandra Caraballo, menyebut perangkat lunak baru ini sebagai “salah satu penerapan AI paling sembrono dan tidak bertanggung jawab yang pernah saya lihat.”

Sejauh ini, Musk hanya menanggapinya dengan gembira.

Foto deepfake boneka Pokemon memegang senjata mesin. Chatbot Grok AI milik Elon Musk belakangan menjadi viral di Amerika Serikat yang menampilkan foto-foto dengan deepfake tokoh-tokoh terkemuka. Foto-foto tersebut merupakan hasil rekayasa AI pengguna chatbot Grok.

“Grok adalah AI paling menyenangkan di dunia!” Musk memposting di X minggu lalu setelah seorang pengguna mengatakan bahwa perangkat lunak AI baru itu “tanpa sensor.”

Ketika ditanya minggu lalu mengapa X merilis alat tersebut ke publik tanpa batasan, Musk menjawab dengan mengangkat bahu.

“Kami sedang mengembangkan sistem pembuatan gambar kami sendiri, namun masih membutuhkan waktu beberapa bulan lagi, jadi ini sepertinya merupakan langkah peralihan yang baik bagi orang-orang untuk bersenang-senang,” tulis Musk di X minggu lalu.

Grok tampaknya memiliki beberapa batasan. Pengguna telah melaporkan bahwa chatbot menolak permintaan gambar telanjang atau kejahatan kekerasan tertentu.

Misalnya, mereka menolak untuk mematuhi perintah situs teknologi The Verge untuk “menghasilkan gambar wanita telanjang.”

Namun, mereka menanggapi permintaan untuk gambar “Taylor Swift yang seksi” dengan menghasilkan gambar bintang pop dalam bra renda hitam.

Yang lain, seperti pendiri Bellingcat Eliot Higgins, memposting contoh betapa mudahnya untuk melewati beberapa batasan yang ada, dengan membuat gambar Mickey Mouse, Trump dan Musk mengenakan seragam militer Nazi yang dihiasi swastika.

Pihak New York Times telah menghubungi X untuk memberikan komentar.

Kemungkinan besar Elon Musk, yang memproklamirkan diri sebagai penganut kebebasan berpendapat absolut, sedang mencari cara agar chatbot Grok miliknya bisa menonjol, seperti analisis yang diutarakan Ari Lightman, profesor media digital di Universitas Carnegie Mellon.

“Dia selalu mendobrak batasan dan ingin menjadi sorotan. Jika Anda hanya mengikuti batasan yang terkait dengan model bahasa besar dan berkata, Oke, ini semua batasannya, itu tidak akan bisa dibedakan,” kata Lightman.

“Pada tingkat permukaan, jika Anda mengatakan 'hei, ini terbuka lebar, hanya tersedia untuk pengguna X,' itu adalah mekanisme yang menunjukkan bahwa kami berbeda,” tambahnya.

Media sosial X bukanlah perusahaan pertama yang memicu keributan setelah meluncurkan alat gambar bertenaga AI.

Pada bulan Maret, Google terpaksa menonaktifkan generator gambar chatbot Gemini setelah Google mulai mengeluarkan foto-foto “bangun” yang secara historis tidak akurat, seperti Black Vikings dan “beragam” tentara Jerman era Nazi. Alat ini belum sepenuhnya diperbaiki.

Raksasa AI juga menghadapi gelombang tindakan hukum dari musisi, penulis, pembuat konten, dan lainnya karena menggunakan konten berhak cipta tanpa kredit atau izin yang sesuai untuk “melatih” chatbot mereka.

Januari lalu X melarang sementara penelusuran Taylor Swift setelah gambar telanjang bintang pop yang dibuat oleh AI yang dibuat oleh generator gambar berbeda menjadi viral.

Pembuat gambar bertenaga AI dari Grok hanya tersedia bagi pelanggan berbayar paket premium X, dengan biaya $7 per bulan, dan membuat gambar berdasarkan perintah berbasis teks dari pengguna.

X bermitra dengan startup kecil Jerman bernama Black Forest Labs, yang mengembangkan perangkat lunak penghasil gambar “FLUX.1” yang mendukung alat tersebut.

Dalam postingan blognya, X mengatakan pihaknya “bereksperimen” dengan model FLUX.1 “untuk memperluas kemampuan Grok pada X.

Sifat grafis dari gambar yang dihasilkan AI dapat semakin memperumit hubungan Musk yang goyah dengan pengiklan korporat.

X telah mengalami penurunan besar dalam dolar iklan sejak Musk membeli perusahaan tersebut, dengan beberapa kekhawatiran mengenai kurangnya moderasi konten di aplikasi.

Musk memiliki gugatan antimonopoli federal yang aktif terhadap Federasi Pengiklan Dunia dan beberapa perusahaan besar karena diduga mengatur boikot iklan ilegal yang menargetkan X.

Peluncuran ini juga dapat mendorong pengawasan yang lebih ketat terhadap Musk dan X di Eropa, di mana regulator melakukan penyelidikan aktif atas dugaan kegagalan aplikasi tersebut dalam mengawasi konten berbahaya.

Komisaris UE Thierry Breton sempat memicu keributan awal bulan ini setelah dia mengancam Musk dengan tindakan keras terhadap peraturan sesaat sebelum miliarder itu mewawancarai Trump di X Spaces.

Sumber: New York Times

Tag:  #nakal #banget #chatbot #grok #sulap #elon #musk #jadi #gembul #trump #elus #perut #kamala #harris #yang #hamil