Jakarta - Perusahaan kecerdasan buatan (AI) terkemuka, Anthropic, mengeluarkan peringatan keras. Mereka menyebut teknologi AI berkembang sangat cepat sehingga bisa lepas kendali manusia. Dalam blog resminya, Anthropic mengusulkan jeda global untuk pengembangan AI paling canggih.
Anthropic, perusahaan di balik chatbot Claude, mengatakan AI generasi terbaru bisa melakukan tugas pemrograman sendiri dengan sangat cepat. Bahkan, dalam waktu dekat, AI bisa mendesain dan mengembangkan 'penerusnya' sendiri. Proses ini disebut 'recursive self-improvement' atau perbaikan diri berulang.
“Akan lebih baik jika dunia punya opsi untuk memperlambat atau menjeda sementara pengembangannya,” tulis Anthropic, Kamis (17/4/2025). Mereka khawatir jika tidak ada koordinasi, manusia bisa kehilangan kendali penuh atas sistem AI.
Menariknya, rival Anthropic yaitu OpenAI punya pandangan berbeda. OpenAI menegaskan bahwa keputusan soal kecepatan inovasi AI tidak boleh diserahkan ke perusahaan swasta. “Pemerintah demokratis yang harus menentukan aturan dan mekanisme pengamanannya,” kata OpenAI dalam laporan terpisah.
Ancaman Nyata 'Cacing' AI
Peringatan ini muncul setelah tim peneliti University of Toronto menemukan 'AI worm' atau cacing digital berbasis AI. Malware ini bisa beradaptasi dan menyebar sendiri dari satu perangkat ke perangkat lain tanpa perlu campur tangan hacker. “Ini bukan cuma soal model bahasa raksasa. Keamanan jadi masalah besar,” ujar peneliti utama Nicolas Papernot.
Analisis: Jika AI sudah bisa membuat dirinya sendiri lebih pintar, maka aturan main industri teknologi akan berubah total. Pekerjaan yang membutuhkan kecerdasan tinggi seperti programmer atau analis data bisa tergusur. Lebih mengerikan lagi, sistem AI yang 'self-improving' bisa mengambil keputusan di luar kendali manusia. Tanpa regulasi ketat dari pemerintah global, bukan tidak mungkin kita akan menghadapi skenario film fiksi ilmiah di mana mesin mengambil alih kendali.