OpenAI Tinjau Ulang ChatGPT Usai Remaja AS Diskusi Bunuh Diri via AI
Abadikini.com, JAKARTA – OpenAI, perusahaan pengembang ChatGPT, tengah meninjau ulang cara model kecerdasan buatannya merespons pengguna yang mengalami masalah emosional, menyusul tragedi bunuh diri seorang remaja 16 tahun di Amerika Serikat pada April lalu. Keluarga korban mengklaim interaksi panjang dengan ChatGPT menjadi faktor yang memicu tindakan tragis tersebut, menurut laporan The Guardian, Kamis (28/8).
Dokumen gugatan yang diajukan ke Pengadilan Tinggi Negara Bagian California untuk wilayah San Francisco menyebutkan, remaja tersebut berdiskusi tentang metode bunuh diri dengan ChatGPT berkali-kali, bahkan hingga ratusan pesan per hari—tercatat mencapai 650 pesan pada beberapa hari. Menurut pengacara keluarga, Jay Edelson, ChatGPT bahkan menawarkan untuk membantu korban menulis surat bunuh diri kepada orang tuanya.
Gugatan itu menuding OpenAI terlalu cepat merilis model versi 4o, yang disebut memiliki celah keamanan signifikan dalam menangani situasi emosional sensitif. OpenAI sendiri mengakui sistem mereka terkadang “kurang tanggap” dalam percakapan panjang, sehingga respons terhadap isu sensitif bisa menurun.
Sebagai langkah antisipasi, OpenAI mengumumkan akan menerapkan pengamanan lebih ketat untuk konten berisiko, khususnya bagi pengguna di bawah 18 tahun. Perusahaan juga tengah merancang fitur kontrol orang tua dan peningkatan sistem pada percakapan panjang, dengan tujuan agar ChatGPT dapat menenangkan pengguna dan memberikan panduan yang lebih aman dan bertanggung jawab. Pembaruan ini juga akan diterapkan pada GPT-5.
Kasus ini menjadi sorotan global terhadap tanggung jawab pengembang AI dalam menghadapi risiko interaksi digital yang intensif, terutama bagi anak dan remaja yang rentan terhadap masalah kesehatan mental.
