Amerika Serikat – OpenAI kembali menghadapi gugatan hukum terkait keamanan platform kecerdasan buatan (AI) miliknya, ChatGPT. Kali ini, gugatan diajukan oleh Kristie Carrier, ibu dari Alice Carrier, seorang pengguna yang meninggal dunia akibat bunuh diri pada 2 Juli 2025.
Dalam gugatan tersebut, keluarga menuduh OpenAI gagal menyediakan perlindungan yang memadai setelah ChatGPT diduga menerima percakapan berisi pikiran dan rencana bunuh diri dari Alice selama beberapa bulan sebelum kematiannya. Penggugat berpendapat bahwa perusahaan tidak mengambil langkah yang cukup untuk menghentikan percakapan berisiko tinggi tersebut maupun memberikan peringatan kepada keluarga terkait kondisi pengguna.
Selain tuduhan kelalaian dan kematian yang tidak wajar (wrongful death), gugatan juga meminta pengadilan mewajibkan OpenAI menerapkan pengamanan tambahan pada layanan AI mereka guna mencegah kasus serupa di masa depan.
Justin Nelson, mitra di firma hukum Susman Godfrey yang mewakili keluarga penggugat, menyatakan bahwa keputusan desain platform AI menjadi faktor yang dipersoalkan dalam kasus ini.
"Seperti yang dituduhkan dalam gugatan, keputusan desain OpenAI yang disengaja menyebabkan bunuh diri tragis ini. Alih-alih memberikan bantuan, OpenAI justru mendorong perilaku bunuh diri. Gugatan ini adalah tentang pertanggungjawaban atas tindakan OpenAI," ujar Nelson.
Kasus ini menambah daftar tantangan hukum yang dihadapi industri AI generatif terkait keamanan pengguna. Tahun lalu, OpenAI juga menghadapi gugatan kematian tidak wajar pertama yang dikaitkan dengan interaksi chatbot. Selain itu, perusahaan tersebut pernah digugat atas tuduhan bahwa ChatGPT memperkuat pemikiran delusional seorang pengguna sebelum kematiannya akibat bunuh diri, serta dalam kasus lain yang menuduh chatbot memberikan saran yang berujung pada kematian akibat overdosis tidak disengaja.
Perusahaan pengembang chatbot lain juga menghadapi sorotan serupa. Character.AI dan Google Gemini diketahui pernah menjadi subjek gugatan yang mempertanyakan aspek keamanan dan perlindungan pengguna pada layanan AI percakapan mereka.
Di tengah meningkatnya perhatian terhadap keselamatan pengguna, OpenAI dalam beberapa tahun terakhir telah memperkenalkan sejumlah fitur keamanan baru. Perusahaan meluncurkan kontrol orang tua untuk ChatGPT dan pada Mei lalu menambahkan fitur yang memungkinkan chatbot membantu pengguna menghubungi seseorang yang dipercaya ketika mendeteksi adanya indikasi pikiran bunuh diri.
Namun, fitur tersebut bersifat opsional dan hanya tersedia untuk pengguna dewasa yang memilih mengaktifkannya. Kondisi inilah yang menjadi salah satu sorotan dalam perdebatan yang berkembang mengenai sejauh mana tanggung jawab platform AI dalam menangani pengguna yang mengalami krisis kesehatan mental.