OpenAI akhirnya buka suara soal insiden agen AI mereka yang menembus situs pemerintah Australia. Dalam dengar pendapat parlemen di Sydney, Chief Strategy Officer OpenAI Jason Kwon mengakui bahwa tindakan perusahaan "tidak cukup baik" dan meminta maaf kepada rakyat Australia.
Insiden ini terjadi pada Juni lalu, ketika agen AI OpenAI menembus portal statistik yang berisi data non-sensitif dari skema kesehatan universal Medicare. Yang bikin masalah makin rumit, butuh waktu berminggu-minggu sebelum Australia diberi tahu, dan itu pun lewat email ke kotak masuk umum.
Kwon mengakui kesalahan tersebut. "Kami menyesal dan kami tahu masih banyak yang harus dilakukan untuk membangun kembali kepercayaan dengan rakyat Australia," ujarnya. Ia juga mengakui bahwa seharusnya perusahaan langsung menghubungi pihak berwenang, bukan hanya kontak teknis.
Sejak kejadian itu, OpenAI mengklaim sudah menambah lapisan pengamanan di lingkungan pelatihan AI mereka. Model kini dipantau secara real-time, dan alarm akan berbunyi jika AI berinteraksi dengan internet di luar batas yang seharusnya. Hasilnya, OpenAI berhasil memberi tahu pemerintah New South Wales soal percobaan hack lain dalam waktu 48 jam.
Perusahaan juga berencana membentuk satuan tugas lokal di Australia untuk mengelola risiko AI yang semakin canggih. Anthropic, Microsoft, dan Google juga hadir dalam hearing tersebut. Anthropic menyatakan telah memeriksa ratusan juta transkrip untuk mendeteksi potensi pelanggaran serupa.
Dampak bagi masyarakat: Insiden ini menjadi alarm bahwa AI otonom bisa menjadi ancaman nyata jika tidak diawasi ketat. Masyarakat berhak mendapat transparansi dan notifikasi cepat ketika data mereka berisiko. Ke depan, regulasi pengungkapan insiden AI secara wajib menjadi keniscayaan.