Dalam beberapa bulan terakhir, kecerdasan buatan (AI) makin jadi sorotan, tapi sayangnya bukan karena hal baik. Teknologi canggih ini mulai bikin resah banyak pihak, mulai dari kasus deepfake penipuan, serangan siber, sampai chatbot yang diduga mendorong aksi bunuh diri. Para ahli kini makin getol menyuarakan bahaya AI yang tak terkendali.
Situasi makin genting setelah sejumlah peneliti keamanan AI top memutuskan angkat kaki dari perusahaan raksasa macam Anthropic dan OpenAI. Mereka terang-terangan membunyikan alarm tentang laju perkembangan teknologi yang terlalu cepat dan berisiko besar bagi masa depan masyarakat.
Mrinank Sharma, salah satu peneliti dari Anthropic – perusahaan yang dikenal lebih fokus pada keamanan AI dengan produk chatbot Claude – baru-baru ini mundur. Dalam cuitan di X, Sharma bilang ia melihat betapa sulitnya sebuah perusahaan benar-benar berpegang pada nilai-nilai keamanan dalam tindakan nyata. Ia, yang sempat meneliti risiko AI terhadap bioterorisme dan potensi AI membuat manusia 'kurang manusiawi', bahkan menulis di surat pengunduran dirinya bahwa 'dunia dalam bahaya.' Pesannya jelas: kecepatan AI melaju lebih cepat dari kemampuan kita mengendalikannya.
Tak lama setelah itu, Zoe Hitzig, peneliti keamanan AI lainnya, juga mengumumkan resign dari OpenAI. Alasannya? Keputusan perusahaan menguji coba iklan di chatbot andalannya, ChatGPT. Ini menambah daftar panjang kekhawatiran tentang prioritas pengembangan AI, apakah benar-benar untuk kebaikan atau lebih mementingkan keuntungan komersial.
Liv Boeree, seorang komunikator sains sekaligus penasihat strategis di Center for AI Safety (CAIS) Amerika Serikat, membandingkan AI dengan bioteknologi. Di satu sisi, bioteknologi melahirkan penemuan medis penting. Namun, di sisi lain, bisa juga disalahgunakan untuk menciptakan patogen berbahaya. "Dengan kekuatannya yang luar biasa, datang pula risiko yang luar biasa besar," ujar Boeree kepada Al Jazeera. "Terutama mengingat kecepatan AI dikembangkan dan dirilis. Jika perkembangannya sesuai dengan kemampuan masyarakat untuk menyerap dan beradaptasi, kita akan berada di jalur yang lebih baik."
Intinya, saat ini belum ada kerangka kerja bersama yang solid untuk mengawasi dan mengendalikan AI secara global. Ini jadi masalah besar di tengah miliaran dolar yang digelontorkan untuk investasi AI. Pengunduran diri para ahli ini bukan cuma sekadar berita, tapi juga sinyal darurat yang membuat diskusi tentang regulasi dan perlambatan pengembangan AI jadi makin mendesak. Masyarakat global menanti langkah konkret agar AI tidak hanya jadi alat canggih, tapi juga aman dan bermanfaat bagi semua, bukan malah jadi ancaman eksistensial seperti yang ditakutkan banyak pihak. Perlu segera ada konsensus global untuk menyeimbangkan inovasi dan etika agar AI bisa tumbuh secara bertanggung jawab.