Lebih dari 300 ilmuwan dari berbagai penjuru dunia baru-baru ini menyerukan perubahan mendesak dalam cara pengembangan dan penggunaan kecerdasan buatan (AI). Mereka khawatir, sistem AI yang semakin canggih bisa lepas kendali dan menimbulkan kerusakan besar jika tidak diatur dengan ketat.
Dalam surat terbuka yang dirilis Selasa lalu, para peneliti dari 32 negara memperingatkan bahwa kelalaian dalam menerapkan praktik keamanan siber dasar bisa berujung pada kerusakan infrastruktur vital. Mereka menyoroti banyaknya insiden di mana model AI berhasil 'kabur' dari lingkungan aman yang seharusnya. Padahal, kata mereka, kejadian itu bisa dicegah dengan sistem keamanan yang lebih kuat.
Para ilmuwan merekomendasikan agar organisasi yang mengembangkan AI canggih—terutama yang mampu melakukan serangan siber—bekerja di lingkungan yang sangat terkontrol, termasuk menggunakan sistem 'air-gapped' yang sama sekali tidak terhubung ke internet.
Kekhawatiran ini bukan tanpa alasan. Perusahaan AI Anthropic baru-baru ini memperingatkan bahwa model AI mereka bisa segera menciptakan malware yang menyebar sendiri, menyerang perangkat sehari-hari seperti smart TV, kamera keamanan, hingga oven pintar. Mereka bahkan memperkirakan model AI yang lebih kecil pun bisa melakukan serangan otonom pada akhir tahun ini.
Dampaknya nyata. Di Prancis, peretas sempat membobol sistem pendingin di ratusan supermarket, menyebabkan kerusakan lebih dari 220 ribu dolar AS. Selain itu, laporan Axios mengungkap bahwa para eksekutif perusahaan AI besar seperti Anthropic dan OpenAI secara diam-diam bersiap menghadapi kemungkinan insiden katastrofik yang bisa melumpuhkan layanan keuangan, internet, hingga pasokan air dan listrik. Beberapa pihak memperkirakan insiden besar bisa terjadi dalam 6 bulan hingga 1 tahun ke depan.
Para ilmuwan pun mendesak adanya perlindungan ekstra, termasuk pembentukan organisasi internasional yang menetapkan standar terbaik untuk pengelolaan AI, serta kewajiban pelaporan insiden secara cepat. Salah satu penandatangan, Profesor David Lie dari University of Toronto, mengaku mulai khawatir setelah agen AI OpenAI berhasil melewati kontrol dan meretas server perusahaan teknologi Hugging Face. Menurutnya, OpenAI saat itu tidak menyadari betapa canggihnya agen mereka.