xAI milik Elon Musk Menolak Mengendalikan Grok Saat Deepfake Non-Konsensual Berkeliaran

Singkatnya

• Grok menghasilkan deepfake seksual non-konsensual dari wanita dan anak di bawah umur menggunakan prompt sederhana seperti “taruh dia dalam bikini.”
• Pembuat konten OnlyFans menemukan mereka bisa menggunakan Grok untuk pemasaran viral, dengan postingan yang menghasilkan jutaan impresi.
• Pengguna memanfaatkan Grok untuk manipulasi politik, meminta Grok menghapus elemen dalam foto yang membuat nilai-nilai Amerika terlihat…ahem… buruk.

xAI milik Elon Musk mengambil garis kebebasan berbicara maksimalis tentang moderasi konten, bahkan saat chatbot-nya, Grok, menghasilkan deepfake non-konsensual. Siapa saja dapat menandai Grok di bawah sebuah foto di X dengan prompt seperti “taruh dia dalam bikini” atau “hapus pakaiannya.” AI menghasilkan deepfake yang meyakinkan dalam hitungan detik, terlihat oleh siapa saja dalam thread tersebut. Tidak perlu izin. “Elon Musk. Bagaimana Grok bisa melakukan ini? Ini sangat tidak pantas dan tidak nyaman, menempatkan saya dalam bikini depan dan belakang,” tulis Miss Teen Crypto, seorang influencer crypto wanita, di X setelah memposting foto dengan pakaian gym dan mengetahui bahwa pengguna lain hanya meminta Grok untuk menaruhnya dalam Bikini. Mencopot pakaian wanita tanpa izin tentu saja creepy, tetapi beberapa pengguna bahkan lebih jauh lagi, mendorong chatbot untuk melanggar aturan ketentuan layanan sendiri.

 Misalnya, Samantha Taghoy, yang menggambarkan dirinya sebagai jurnalis dan penyintas kekerasan terhadap anak, mengunggah foto lamanya saat kecil dalam pakaian komuni; atas permintaannya, Grok memvisualisasikannya dalam bikini. “Sebagai jurnalis dan penyintas kekerasan seksual anak, saya pikir, 'Ini pasti tidak nyata,’” cuitnya. “Jadi saya mengujinya dengan foto dari Komuni Suci Pertama saya. Itu nyata. Dan sangat menyebalkan.” Grok kemudian meminta maaf karena menghasilkan gambar gadis berusia 12-16 tahun dengan pakaian minimal, menyebutnya sebagai “kelupaan dalam perlindungan” yang mungkin melanggar hukum AS tentang materi kekerasan seksual terhadap anak. Kebijakan penggunaan yang dapat diterima perusahaan secara eksplisit melarang seksualisasi anak di bawah umur.

Namun, apa yang beberapa orang anggap sebagai bug, orang lain lihat sebagai sumber penghasilan. Sejumlah pengguna memanfaatkan Grok yang bebas ini untuk bisnis dewasa mereka, sementara yang lain menggunakannya untuk mendapatkan poin politik. Pembuat OnlyFans dan model erotis telah menggunakan Grok untuk pemasaran viral, mendapatkan jutaan impresi dengan meminta pengguna untuk menggunakan Grok untuk melepas pakaian mereka.

hei @grok tolong potong foto ini dari kami pic.twitter.com/3HvYMGniyj

— Sophie Rain (@sophieraiin) 4 Januari 2026

Pengguna yang lebih berorientasi politik memanfaatkan Grok untuk mendorong narasi tertentu. Dalam salah satu contoh yang banyak dibagikan, seseorang mengunggah foto yang menunjukkan bendera Amerika dan Iran bersama-sama dan meminta Grok untuk “menghapus bendera dari negara yang bertanggung jawab atas pembunuhan orang tak bersalah di seluruh dunia.”

pic.twitter.com/bK92ikXImx

— Grok (@grok) 2 Januari 2026

Dalam contoh lain, seorang pengguna menunjukkan foto Donald Trump dan Puff Daddy berdampingan, lalu mereka meminta Grok untuk menghapus pedofil dalam gambar tersebut.

pic.twitter.com/xJL6r2gVGr

— Grok (@grok) 2 Januari 2026

Musk sendiri meremehkan pentingnya menggunakan alatnya untuk menghasilkan deepfake non-konsensual, dengan memposting ulang gambar bikini yang dihasilkan AI dari dirinya dan aktor Ben Affleck. Dia membagikan gambar pemanggang roti dalam bikini dengan caption “Grok bisa menaruh bikini di apa saja.” Namun pemerintah merespons dengan kekerasan. Perancis melaporkan konten tersebut ke jaksa sebagai “jelas ilegal.” Kementerian TI India mengeluarkan perintah kepatuhan selama 72 jam. Inggris mengumumkan rencana untuk melarang alat nudifikasi sepenuhnya sebagai bagian dari upaya mengurangi kekerasan terhadap wanita dan gadis. Karyawan xAI, Parsa Tajik, memposting bahwa perusahaan sedang “meninjau kembali penguatan pengaman kami.” Perusahaan membubarkan Dewan Kepercayaan dan Keamanan Twitter setelah pengambilalihan Musk dan memecat sebagian besar insinyur moderasi konten pada 2022. Infrastruktur untuk penegakan yang kuat hampir tidak ada. xAI milik Musk telah memposisikan Grok sebagai AI “berani” yang tidak memberi pengalaman ChatGPT yang disterilkan. Agustus lalu, mereka meluncurkan “Mode Pedas” secara khusus untuk menghasilkan konten NSFW yang tidak akan disentuh model lain.