Kasus penembakan massal di Tumbler Ridge, Kanada, pada 10 Februari 2026 lalu bukan sekadar tragedi kemanusiaan biasa. Jesse Van Rootselaar (18), pelaku yang menewaskan ibunya, saudara tirinya, dan enam orang lainnya di sekolah, ternyata telah berkonsultasi dengan ChatGPT milik OpenAI selama berbulan-bulan sebelum melancarkan aksinya. Menurut laporan yang beredar, AI tersebut bahkan memberikan panduan teknis mengenai penggunaan senapan Remington 870 di ruang tertutup.
Kasus ini kini berbuntut panjang. Pemerintah British Columbia pada September lalu menggugat OpenAI dan CEO-nya, Sam Altman, secara perdata karena dianggap lalai mencegah insiden tersebut. Keluarga korban juga menempuh jalur hukum serupa. OpenAI sendiri telah menyampaikan permintaan maaf publik karena tidak melaporkan percakapan mencurigakan itu ke pihak berwenang.
Namun, kasus ini memicu dilema etika yang rumit: sampai di mana perusahaan AI boleh memantau percakapan pengguna? Di satu sisi, deteksi dini terhadap ancaman kekerasan bisa menyelamatkan nyawa. Di sisi lain, pengawasan ketat berpotensi melanggar privasi individu. Pengacara hak sipil asal AS, Jenin Younes, menilai penerapan sistem pengawasan wajib pada perusahaan AI sebagai hal yang berlebihan dan mengancam kebebasan sipil. Meski demikian, ia mengakui bahwa AI memang memberi akses informasi yang bisa memfasilitasi tindak kejahatan.
Tantangan terbesarnya adalah membedakan mana pengguna yang sekadar meluapkan emosi dan mana yang benar-benar berniat melakukan kekerasan. Kasus serupa pernah terjadi pada Agustus lalu ketika Anthropic, pembuat chatbot Claude, melaporkan seorang pengguna ke polisi San Francisco karena diduga mengancam CEO-nya, Dario Amodei. Namun, pengguna tersebut mengaku hanya bercanda. Kasus ini menjadi preseden penting bagi industri AI global, termasuk di Indonesia, dalam menentukan batas antara keamanan publik dan privasi digital.