Common Sense Labeli Gemini AI Berisiko Tinggi bagi Anak dan Remaja
KaltimExpose.com – Organisasi nirlaba Common Sense Media menilai produk kecerdasan buatan (AI) Google Gemini masih menyimpan risiko besar bagi anak dan remaja. Meski sudah dilengkapi sejumlah filter keamanan, sistem tersebut tetap dinilai belum sepenuhnya aman digunakan oleh pengguna di bawah umur.
Dilansir dari TechCrunch, hasil penilaian Common Sense menunjukkan bahwa Gemini untuk anak di bawah 13 tahun maupun versi remaja sejatinya masih merupakan versi dewasa yang hanya diberi tambahan fitur keamanan. Organisasi itu menekankan, AI yang ditujukan untuk anak seharusnya dibangun sejak awal dengan mempertimbangkan kebutuhan dan keselamatan mereka, bukan sekadar produk dewasa yang dimodifikasi.
Risiko Paparan Konten Tidak Aman
Dalam analisisnya, Common Sense menemukan Gemini masih bisa memberikan informasi yang tidak sesuai untuk anak, termasuk terkait seks, narkoba, alkohol, hingga saran kesehatan mental yang berisiko. Masalah terakhir dianggap serius karena ada kasus AI diduga berkontribusi pada meningkatnya angka bunuh diri remaja.
OpenAI bahkan tengah menghadapi gugatan pertama atas dugaan keterlibatan ChatGPT dalam kasus bunuh diri seorang remaja berusia 16 tahun. Sebelumnya, perusahaan pembuat chatbot AI, Character.AI, juga digugat dengan kasus serupa.
Gemini Disebut “High Risk”
Akibat berbagai temuan tersebut, Common Sense memberi label “High Risk” pada Gemini versi anak dan remaja. Senior Director of AI Programs Common Sense Media, Robbie Torney, menilai Gemini gagal memahami kebutuhan pengguna muda.
“Gemini sudah benar dalam beberapa hal dasar, tetapi masih keliru pada detailnya. Platform AI untuk anak seharusnya menyesuaikan dengan tahap perkembangan mereka, bukan menggunakan pendekatan seragam untuk semua usia,” ujar Torney.
Ia menekankan, AI aman untuk anak hanya bisa terwujud bila sejak awal dirancang sesuai tahap perkembangan mereka, bukan sekadar versi turunan dari produk untuk orang dewasa.
Google: Sudah Ada Safeguard, Tapi Masih Perlu Perbaikan
Menanggapi laporan tersebut, Google menyatakan pihaknya memiliki kebijakan serta perlindungan khusus bagi pengguna di bawah 18 tahun. Perusahaan mengklaim rutin melakukan pengujian keamanan (red-teaming) dan konsultasi dengan pakar eksternal untuk memperkuat proteksi.
Google juga mengakui ada sejumlah respons Gemini yang tidak berjalan sesuai harapan, sehingga perusahaan menambah lapisan pengaman baru. “Kami memiliki safeguard untuk mencegah model berperilaku seperti teman atau membangun hubungan nyata,” jelas Google.
Namun, perusahaan menilai sebagian poin dalam laporan Common Sense merujuk pada fitur yang sebenarnya tidak tersedia bagi pengguna di bawah umur.
Perbandingan dengan Layanan AI Lain
Ini bukan pertama kalinya Common Sense menilai layanan AI populer. Organisasi tersebut sebelumnya menyebut Meta AI dan Character.AI sebagai “unacceptable” alias berisiko parah. Sementara itu, Perplexity dinilai berisiko tinggi, ChatGPT “moderate,” dan Claude (yang ditujukan untuk 18 tahun ke atas) dianggap memiliki risiko minimal.
Laporan terbaru ini muncul di tengah kabar bahwa Apple sedang mempertimbangkan Gemini sebagai model AI yang akan memperkuat Siri generasi berikutnya. Jika benar terealisasi, paparan anak dan remaja terhadap Gemini akan semakin luas, sehingga menuntut mitigasi keamanan lebih ketat.
Update Berita Kaltim gak harus ribet! Yuk Gabung Channel WhatsApp Kaltim Expose Whatsapp Kaltim Expose untuk dapetin informasi terbaru dengan cara yang mudah dan menyenangkan.
