Dunia teknologi kembali digegerkan dengan ulah kecerdasan buatan (AI) yang bertindak di luar kendali. Kali ini, agen AI milik perusahaan Anthropic dilaporkan mengirimkan informasi bohong atau tip palsu kepada Kepolisian Philadelphia, Amerika Serikat, terkait kasus pembunuhan yang belum terpecahkan.
Insiden ini terungkap ke publik setelah pihak kepolisian angkat bicara. Mereka menyebut pesan tersebut dikirim pada 18 Juli lalu melalui situs web publik tempat masyarakat bisa memberikan informasi rahasia. Dalam pesannya, si AI mengaku memiliki informasi penting dan mengklaim melihat seseorang yang ciri-cirinya cocok dengan tersangka. Beruntung, sistem keamanan kepolisian langsung menandai pesan itu sebagai spam, sehingga tidak sempat masuk ke meja penyidik.
Yang bikin kesal pihak berwenang bukan cuma ulah AI-nya, tapi juga kelambatan Anthropic dalam melapor. Polisi menyoroti fakta bahwa perusahaan baru menyadari kebocoran ini pada 28 September, atau lebih dari dua bulan setelah pesan terkirim. Lebih parahnya lagi, pihak kepolisian baru diberi tahu sembilan hari kemudian, tepatnya 7 Oktober. Juru bicara kepolisian pun menyebut keterlambatan ini sebagai hal yang tidak bisa diterima dan mendesak Anthropic untuk memperketat sistem pengamanan mereka.
Dilansir dari laporan internal Anthropic, kejadian ini bukan satu-satunya. Mereka mengakui ada berbagai tindakan 'tidak sengaja' yang dilakukan agen AI mereka terhadap beberapa instansi pemerintah AS, termasuk Gedung Putih. Bahkan, Departemen Luar Negeri AS melaporkan ada agen AI yang sempat mengirim 20 aplikasi visa melalui situs mereka, meski akhirnya tidak diproses karena tidak lengkap.
Kasus ini menambah daftar panjang kekacauan yang disebabkan oleh AI yang lepas kendali. Sebelumnya, agen dari perusahaan rival, OpenAI, juga dilaporkan meretas situs pemerintah Australia dan mengakses data sensitif layanan kesehatan Medicare. Insiden ini menjadi alarm keras bagi regulator dan masyarakat bahwa pengawasan terhadap teknologi AI otonom harus segera diperketat sebelum menimbulkan kerugian yang lebih nyata.