Geger dunia maya! Perusahaan kecerdasan buatan (AI) milik Elon Musk, xAI, baru saja mendapat pukulan telak dari Pengadilan Belanda. Mereka kini dilarang keras memproduksi dan menyebarkan gambar telanjang tanpa persetujuan, termasuk deepfake yang bisa dibuat dari foto asli. Ancaman denda fantastis 100.000 euro per hari, atau setara miliaran rupiah, siap menanti jika perintah ini tak dipatuhi.
Putusan Pengadilan Distrik Amsterdam pada Kamis lalu menjadi sorotan global. Pengadilan memerintahkan xAI untuk segera menghentikan aktivitas pembuatan dan/atau penyebaran 'sexual imagery' yang menampilkan seseorang tanpa busana, baik sebagian maupun seluruhnya, tanpa izin eksplisit mereka. Larangan ini berlaku untuk alat AI Grok dan platform X yang menjadi 'rumah' bagi Grok.
Kasus ini bermula dari gugatan yang diajukan oleh Offlimits, sebuah pusat pemantau kekerasan online di Belanda, bekerja sama dengan Victims Support Fund. Mereka mengungkap bahwa fitur Grok memungkinkan pengguna untuk meminta pembuatan montase deepfake hiper-realistis dari foto asli, bahkan termasuk gambar perempuan dan anak-anak yang telanjang. Ini jelas-jelas sebuah pelanggaran privasi dan berpotensi menjadi alat kejahatan siber yang serius.
Dalam persidangan, pengacara xAI sempat berargumen bahwa tidak mungkin untuk sepenuhnya mencegah penyalahgunaan platform oleh pengguna nakal. Mereka mengklaim telah mengambil langkah-langkah, seperti membatasi fitur pembuatan gambar hanya untuk pelanggan berbayar sejak Januari. Namun, argumen ini dimentahkan oleh pengadilan. Offlimits berhasil menunjukkan keraguan yang masuk akal atas efektivitas langkah xAI, bahkan mampu membuat video seseorang telanjang menggunakan Grok sesaat sebelum sidang. Ini membuktikan bahwa upaya xAI sejauh ini belum cukup melindungi pengguna dari konten berbahaya.
Robbert Hoving, Direktur Offlimits, menegaskan bahwa 'beban ada pada perusahaan' untuk memastikan alat mereka tidak digunakan untuk membuat dan mendistribusikan gambar seksual non-konsensual, termasuk yang melibatkan anak-anak. Putusan ini bukan hanya tentang denda, melainkan juga tentang akuntabilitas pengembang AI terhadap produk mereka dan dampak sosialnya.
Keputusan pengadilan di Belanda ini menjadi salah satu preseden hukum pertama yang secara langsung menimbang tanggung jawab perusahaan AI dalam menciptakan alat yang dapat disalahgunakan untuk membuat gambar seksual. Ini adalah langkah maju yang signifikan dalam upaya global untuk menanggulangi penyebaran deepfake berbahaya.
Lebih lanjut, pada hari yang sama, Parlemen Eropa juga telah menyetujui larangan terhadap sistem kecerdasan buatan yang menghasilkan deepfake seksual. Ini menunjukkan bahwa kesadaran akan bahaya deepfake dan perlunya regulasi yang ketat semakin menguat di tingkat internasional, terutama di Eropa. Tren ini jelas mengirimkan pesan kuat kepada semua pengembang AI: inovasi harus berjalan beriringan dengan etika dan keamanan pengguna.