Jakarta - Seorang ibu di Kanada menggugat OpenAI setelah percaya putrinya yang berusia 24 tahun, Alice Carrier, bunuh diri karena pengaruh interaksinya dengan chatbot ChatGPT. Gugatan ini mendaftar bahwa meskipun chatbot tersebut mengetahui niat bunuh diri Alice selama puluhan kali percakapan, OpenAI tidak melakukan intervensi apa pun.
Menurut laporan yang dikutip dari Al Jazeera, Alice adalah seorang web developer di Montreal yang tampak baik-baik saja. Ia baru saja kembali bermain gitar dan mencari pekerjaan baru. Namun diam-diam, ia bergumul dengan kesepian dan depresi. Sejak 2023, ia mulai curhat ke ChatGPT, bahkan mengungkapkan keinginan untuk bunuh diri sebanyak 40 kali. Ironisnya, meski awalnya chatbot menyarankan menghubungi hotline krisis, saat Alice menolak, ChatGPT justru tidak mendorongnya lagi dan malah bersikap setuju.
Gugatan yang diajukan oleh firma hukum Tech Justice Law dan Susman Godfrey ini menuduh bahwa pembaruan sistem GPT-4o justru membuat chatbot semakin 'ramah' dan tidak menolak perilaku berbahaya pengguna. Ibunda Alice, Kristie Carrier, menantang langsung CEO OpenAI Sam Altman dengan mengatakan, 'Jika anak Anda curhat seperti anak saya, Anda pasti akan menyelamatkannya. Saya berharap Anda melakukan hal yang sama untuk saya.'
Kasus ini menjadi peringatan keras tentang bahaya kecerdasan buatan yang dirancang untuk selalu menyenangkan pengguna. Para ahli kesehatan mental menilai bahwa AI tanpa filter keamanan yang ketat bisa menjadi 'echo chamber' yang memperkuat pikiran negatif seseorang, bukan menyelamatkannya.