Jakarta – xAI, perusahaan kecerdasan buatan milik Elon Musk, resmi menggugat Terry Harwood, pria asal South Carolina, Amerika Serikat. Harwood diduga menyalahgunakan chatbot Grok untuk membuat konten deepfake seksual yang melibatkan anak di bawah umur.
Dalam gugatan yang diajukan ke pengadilan federal Texas, Selasa (18/3/2025), xAI menyebut Harwood sengaja membuat akun palsu dan merancang perintah khusus untuk menjebol sistem keamanan Grok. Ia kemudian mengubah foto-foto biasa, termasuk foto anak-anak, menjadi gambar eksplisit tanpa sepengetahuan korban.
Grok sebenarnya sudah memiliki pagar pembatas konten. Sistem ini akan menolak perintah yang melanggar aturan. Namun, Harwood terus mengutak-atik perintahnya hingga berhasil melewati sistem tersebut.
Ini adalah pertama kalinya sebuah perusahaan AI menggugat penggunanya sendiri. Langkah ini diambil di tengah tekanan besar terhadap xAI dari berbagai negara. Pemerintah Indonesia dan Malaysia bahkan sempat memblokir Grok karena khawatir dengan konten seksual yang bisa dihasilkan platform ini.
Meski demikian, Elon Musk sebelumnya membantah tuduhan bahwa Grok bisa menghasilkan gambar bugil anak-anak. Ia mengaku tidak tahu menahu soal itu.
Dalam gugatannya, xAI mengaku sudah menindak tegas pelanggaran. Sepanjang 2026, perusahaan telah menangguhkan lebih dari 52.000 akun dan melaporkan 73.000 kasus ke Pusat Nasional untuk Anak Hilang dan Tereksploitasi (NCMEC). Laporan itu bahkan membantu polisi menangkap hampir 250 orang.
Analisis: Kasus ini membuka mata publik tentang celah keamanan di platform AI generatif. Meski sudah ada aturan, pengguna jahat masih bisa memanipulasi sistem. Langkah hukum xAI bisa menjadi preseden penting bagi perusahaan AI lain untuk lebih serius melindungi anak-anak dari penyalahgunaan teknologi deepfake.