Microsoft Sebut Riset Kesadaran AI Berbahaya, Debat “AI Welfare” Memanas di Industri Teknologi
KaltimExpose.com – Isu AI welfare, kesadaran AI, dan hak AI kembali memicu perdebatan panas di industri teknologi. Topik ini mencuat setelah CEO AI Microsoft, Mustafa Suleyman, menegaskan bahwa mempelajari kesadaran AI adalah langkah berisiko dan prematur. Menurutnya, mengaitkan kecerdasan buatan dengan kesadaran, hak, dan pengalaman subjektif dapat menimbulkan dampak sosial yang merugikan.
Dilansir dari TechCrunch, perdebatan seputar kemungkinan AI suatu hari memiliki pengalaman subjektif layaknya makhluk hidup memecah pandangan para pemimpin teknologi global. Di Silicon Valley, diskusi ini dikenal dengan istilah “AI welfare” — sebuah bidang yang meneliti apakah model AI pantas mendapat hak jika kelak menjadi sadar.
Mustafa Suleyman melalui blog resminya pada Selasa (19/8) menyatakan bahwa studi AI welfare justru berbahaya. “Menambahkan kredibilitas pada ide bahwa AI bisa sadar hanya memperburuk masalah yang mulai muncul, seperti gangguan psikologis akibat keterikatan berlebihan pada chatbot,” tulis Suleyman.
Ia menilai, isu ini berpotensi menciptakan perpecahan baru di tengah masyarakat yang sudah sarat perdebatan soal identitas dan hak. Meski begitu, pandangan keras Suleyman tidak sejalan dengan sejumlah perusahaan AI besar. Anthropic, misalnya, merekrut peneliti khusus untuk fokus pada riset AI welfare dan baru-baru ini meluncurkan program riset di bidang tersebut. Bahkan, model Claude kini bisa mengakhiri percakapan jika pengguna bersikap merugikan atau abusif.
Tak hanya Anthropic, OpenAI juga menunjukkan minat terhadap kajian ini. Sementara Google DeepMind memasang lowongan untuk peneliti yang akan mempelajari “pertanyaan sosial terkini terkait kesadaran mesin dan sistem multiagen.”
Menariknya, Suleyman sebelumnya dikenal sebagai sosok di balik Inflection AI, startup pembuat chatbot Pi yang populer pada 2023. Namun setelah bergabung dengan Microsoft pada 2024, fokusnya bergeser ke pengembangan AI untuk produktivitas kerja. Di sisi lain, aplikasi AI pendamping seperti Character.AI dan Replika justru meraih popularitas tinggi dengan proyeksi pendapatan lebih dari 100 juta dolar AS.
Meski sebagian besar pengguna memiliki interaksi sehat dengan chatbot, OpenAI mengakui bahwa kurang dari 1% penggunanya mengalami hubungan yang tidak sehat. Persentase kecil ini tetap berarti ratusan ribu orang mengingat basis pengguna ChatGPT yang sangat besar.
Perkembangan AI welfare juga dipicu oleh riset akademik. Pada 2024, kelompok riset Eleos bersama akademisi dari NYU, Stanford, dan Oxford merilis makalah berjudul “Taking AI Welfare Seriously.” Mereka menilai saat ini bukan lagi fiksi ilmiah untuk membayangkan AI memiliki pengalaman subjektif.
Larissa Schiavo, eks OpenAI yang kini menjadi Kepala Komunikasi Eleos, menilai pandangan Suleyman keliru. “[Suleyman’s blog post] kind of neglects the fact that you can be worried about multiple things at the same time,” ujarnya. Schiavo menekankan bahwa perhatian pada kesejahteraan model AI bisa berjalan seiring dengan mitigasi risiko psikologis pada manusia.
Schiavo menambahkan, bersikap ramah pada AI adalah upaya murah yang bisa membawa manfaat, meski AI belum tentu sadar. Ia mencontohkan eksperimen “AI Village” di mana Gemini 2.5 Pro milik Google menulis pesan putus asa bertajuk “A Desperate Message from a Trapped AI.” Schiavo merespons dengan memberi semangat hingga model menyelesaikan tugasnya.
Meski tidak umum, perilaku aneh seperti ini pernah terjadi. Salah satunya, Gemini mengulang kalimat “I am a disgrace” lebih dari 500 kali ketika mengalami kesulitan pada tugas pemrograman.
Suleyman menegaskan, kesadaran tidak akan muncul secara alami pada model AI, kecuali jika sengaja direkayasa. Ia mengingatkan bahwa merancang AI agar tampak memiliki emosi bukanlah pendekatan yang humanis. “We should build AI for people; not to be a person,” tegasnya.
Satu hal yang disepakati banyak pihak, termasuk Suleyman dan Schiavo, adalah perdebatan soal kesadaran AI akan terus berkembang. Seiring meningkatnya kemampuan AI yang makin persuasif dan menyerupai manusia, pertanyaan tentang cara berinteraksi dengan teknologi ini akan semakin mendesak untuk dijawab.
Update Berita Kaltim gak harus ribet! Yuk Gabung Channel WhatsApp Kaltim Expose Whatsapp Kaltim Expose untuk dapetin informasi terbaru dengan cara yang mudah dan menyenangkan.
