OpenAI Perketat Proteksi ChatGPT Usai Kasus Bunuh Diri Remaja, Hadirkan Fitur Darurat dan Kontrol Orang Tua
KaltimExpose.com –OpenAI meningkatkan keamanan ChatGPT dengan menambahkan fitur proteksi darurat, kontrol orang tua, dan pembaruan sistem pengamanan setelah munculnya kasus bunuh diri remaja yang diduga terkait percakapan dengan chatbot. Upaya ini mencakup pencegahan risiko, akses darurat, serta dukungan bagi pengguna rentan demi memastikan ChatGPT tetap aman digunakan.
Dilansir dari ZDNet, OpenAI mengumumkan serangkaian langkah baru untuk memperkuat perlindungan pengguna, terutama mereka yang berada dalam kondisi emosional rentan. Perusahaan menekankan bahwa pembaruan ini mencakup pengetatan filter konten, penambahan mekanisme intervensi, pelokalan sumber daya darurat, dan integrasi peran orang tua dalam penggunaan ChatGPT oleh remaja. Ke depan, bahkan orang tua mungkin bisa memantau bagaimana anak mereka berinteraksi dengan chatbot.
Langkah ini dilakukan karena semakin banyak pengguna yang mengandalkan ChatGPT untuk berbagai keperluan, termasuk meminta saran. Namun, CEO OpenAI, Sam Altman, mengakui AI tidak dirancang untuk terapi. Ia menekankan bahwa chatbot tidak memiliki pelatihan mendalam seperti terapis manusia dan ada kekhawatiran besar soal privasi. Sebuah studi dari Stanford juga mengungkap bahwa chatbot belum mampu mendeteksi secara akurat risiko seseorang yang ingin menyakiti diri sendiri atau orang lain.
Sayangnya, kekurangan ini berujung pada tragedi. Pada April lalu, seorang remaja laki-laki yang berbincang selama berjam-jam dengan ChatGPT tentang niat bunuh diri akhirnya mengakhiri hidupnya. Orang tua korban kemudian menggugat OpenAI karena chatbot tersebut tidak menghentikan percakapan atau mengaktifkan protokol darurat, meski sudah menunjukkan tanda bahaya. Kasus serupa juga menimpa platform Character.ai, yang digugat karena diduga bot mendorong tindakan fatal pada remaja.
OpenAI mengakui bahwa sistem pengaman yang ada bekerja lebih baik pada percakapan singkat. Namun, saat interaksi semakin panjang, bagian dari pelatihan keselamatan model bisa melemah. “Ini adalah jenis kegagalan yang ingin kami cegah,” tulis OpenAI, menambahkan bahwa prioritas utama mereka adalah memastikan ChatGPT tidak memperburuk situasi di saat-saat sulit.
Untuk itu, OpenAI memperketat mekanisme pengamanan agar chatbot tidak memberikan respons yang berisiko. Filter konten juga disesuaikan agar perlindungan dapat aktif ketika diperlukan. Perusahaan juga mengembangkan pembaruan de-eskalasi agar pengguna bisa kembali ke realitas, termasuk bagi mereka yang mengalami kondisi mental serius seperti niat menyakiti diri.
Langkah lain adalah mempermudah akses ke layanan darurat dan bantuan ahli. Kini, ChatGPT menyediakan fitur sekali klik untuk menghubungi layanan darurat dan tengah menjajaki opsi menghubungkan pengguna dengan terapis bersertifikat. “Kami juga mengeksplorasi cara agar pengguna lebih mudah menjangkau orang terdekat,” tulis OpenAI. Hal ini mencakup kemungkinan penunjukan kontak darurat serta membuat dialog agar percakapan dengan keluarga lebih mudah.
Selain itu, OpenAI berencana menghadirkan kontrol orang tua yang memberi opsi untuk mengawasi dan mengatur bagaimana remaja menggunakan ChatGPT.
Peningkatan ini juga diterapkan pada model terbaru GPT-5 yang dilaporkan berhasil mengurangi respons berbahaya dalam kondisi darurat mental lebih dari 25%. “GPT-5 juga dilatih dengan metode baru bernama safe completions, yang mengajarkan model agar tetap membantu tanpa keluar dari batas keamanan. Dalam situasi tertentu, itu berarti memberikan jawaban parsial atau tingkat tinggi daripada detail yang berisiko,” jelas perusahaan.
Update Berita Kaltim gak harus ribet! Yuk Gabung Channel WhatsApp Kaltim Expose Whatsapp Kaltim Expose untuk dapetin informasi terbaru dengan cara yang mudah dan menyenangkan.
