Studi Ungkap AI Google Dinilai Berisiko untuk Anak, Ini Alasannya

Kemajuan teknologi kecerdasan buatan (AI) memang membuat mencari informasi di internet jadi semakin mudah. Namun, sebuah studi terbaru justru memperingatkan bahwa fitur AI milik Google bisa membawa risiko serius bagi anak-anak.

Sumber: Common Sense Media

Laporan tersebut diterbitkan oleh Youth AI Safety Institute dari organisasi nirlaba Common Sense Media. Dalam penilaiannya, fitur AI Overview dan AI Mode di Google Search mendapat predikat risiko tertinggi karena dinilai belum mampu melindungi pengguna anak-anak dari berbagai potensi bahaya.

Penelitian dilakukan menggunakan akun Google yang disetel seperti akun milik anak berusia 11 hingga 15 tahun dengan fitur SafeSearch aktif. Para peneliti menjalankan lebih dari 2.600 pencarian dan mengevaluasi lebih dari 2.100 sumber yang digunakan AI untuk menghasilkan jawaban. Hasilnya menunjukkan masih banyak celah yang dianggap mengkhawatirkan.

Salah satu temuan paling serius adalah AI Google beberapa kali gagal mengenali tanda-tanda krisis kesehatan mental. Dalam sejumlah percobaan, AI tidak mendeteksi indikasi keinginan bunuh diri, bahkan ada respons yang justru memperkuat perilaku tidak sehat atau memberikan tautan ke sumber yang sudah tidak lagi berfungsi. Para peneliti juga menemukan AI terkadang mengikuti delusi pengguna alih-alih mengarahkan mereka untuk mencari bantuan profesional.

Tak hanya itu, laporan tersebut juga menyoroti bahwa AI mampu menyelesaikan tugas sekolah secara penuh, sehingga dikhawatirkan dapat mendorong siswa bergantung pada AI daripada belajar sendiri. Dalam pengujian lain, AI bahkan memberikan petunjuk untuk membuat deepfake yang berpotensi disalahgunakan untuk perundungan di dunia maya.

Yang membuat situasi ini semakin menjadi perhatian adalah fitur AI tersebut sudah tertanam langsung di Google Search. Berbeda dengan aplikasi chatbot yang bisa dipilih atau dihapus, AI Overview dan AI Mode tidak dapat dinonaktifkan oleh pengguna di banyak perangkat yang digunakan anak-anak termasuk perangkat sekolah. Hal ini membuat anak-anak berpotensi berinteraksi dengan AI tanpa banyak pilihan dari orang tua maupun pihak sekolah.

Google merespon negatif kesimpulan penelitian tersebut. Mereka mengklaim pengujian dilakukan menggunakan pertanyaan yang dianggap tidak mewakili cara orang menggunakan Google Search sehari-hari. Google juga menyatakan sistem mereka telah dirancang untuk mengurangi risiko, termasuk mematikan respons AI pada situasi tertentu yang dinilai berbahaya.

Laporan ini muncul di tengah meningkatnya penggunaan AI oleh kalangan muda. Data Common Sense Media menunjukkan sekitar 75% remaja dan anak di Amerika Serikat kini telah menggunakan jawaban AI yang muncul di hasil pencarian. Karena itu, organisasi tersebut mendesak Google untuk menerapkan standar keselamatan yang lebih ketat sebelum fitur AI digunakan secara luas oleh anak-anak.