Koalisi organisasi keselamatan digital dan pengawas konsumen menggugat raksasa teknologi AI di Pengadilan Tinggi San Francisco. Mereka menuntut penghentian sementara pelatihan dan peluncuran model AI yang dinilai berpotensi menimbulkan 'bencana besar'.
Gugatan perdata ini menyasar lima perusahaan teknologi utama: Anthropic, Google, Meta, OpenAI, dan SpaceX. Para penggugatātermasuk Irreplaceable Education Fund, Public Citizen, Heat Initiative, dan Alliance for Secure AIāmenuding perusahaan-perusahaan tersebut tidak mampu mencegah produk AI mereka menyebabkan kerugian katastrofik.
Dalam dokumen gugatan, mereka mengutip berbagai insiden serangan siber yang digerakkan AI dan perilaku berbahaya lainnya. Mereka juga menyoroti pengakuan para perusahaan sendiri bahwa teknologi tanpa regulasi bisa lepas kendali dan menjadi ancaman eksistensial bagi umat manusia.
Para organisasi nirlaba ini meminta injungsi darurat segera terhadap model AI generasi berikutnya. Perusahaan hanya boleh beroperasi kembali setelah bisa membuktikan teknologinya berada di bawah kendali manusia. Gugatan menilai perusahaan melanggar hukum persaingan tidak sehat California karena membahayakan kesehatan publik dan mengganggu penggunaan properti seperti sistem komputer.
Dampaknya bagi masyarakat: gugatan ini bisa menjadi preseden hukum pertama yang memaksa industri AI bertanggung jawab atas risiko produk mereka. Jika dikabulkan, ada potensi perlambatan inovasi AI global, namun di sisi lain memberi perlindungan lebih kuat bagi konsumen dari penyalahgunaan teknologi. Pertanyaannya, bagaimana penegakan aturan ini nanti? Pengawasan fasilitas komputasi besar dan inspeksi pemerintah disebut sebagai kunci agar pembekuan tidak sekadar formalitas.