Cara Buat Foto Miniatur Action Figure Pakai Gemini AI Nano Banana, Sat Set Langsung Beres

Sedangkan produk AI yang ditujukan untuk anak seharusnya dirancang dari awal dengan mengutamakan keselamatan anak, bukan sekadar modifikasi dari layanan untuk orang dewasa.

BACA JUGA:Kenali Modusnya, Waspadai Penipuan Modus Pakai AI, Jangan Sampai Jadi Korban

Tak hanya itu, analisis juga menemukan hal serus yang harus menjadi perhatian, yakni Gemini masih dapat membagikan konten tidak pantas dan tidak aman untuk anak-anak, termasuk informasi tentang seks, narkoba, alkohol, hingga saran terkait kesehatan mental yang berpotensi membahayakan. 

Bahkan, setelah adanya bocoran informasi yang menyebut jika Apple tengah mempertimbangkan Gemini sebagai model bahasa besar (LLM) untuk menggerakkan Siri versi terbaru yang akan dirilis tahun depan, maka kekhawatiran itu semakin relevan. 

Sebab, jika benar adanya,  maka jutaan remaja akan berpotensi terpapar risiko yang sama, kecuali Apple menambahkan pengaman ekstra.

Dijelaskan dalam laporan tersebut, jika produk Gemini untuk anak-anak dan remaja akan sangat mengabaikan kebutuhan pengguna muda yang memerlukan panduan dan informasi berbeda dibandingkan pengguna dewasa. 

Sehingga, kedua kategori tersebut diberi label “High Risk” dalam penilaian keseluruhan, meskipun Gemini telah ditambahkan filter keamanan.

BACA JUGA: Cara Buat Action Figure Gemini dengan Sekali Tekan Hasil Bisa Langsung Diposting

Sementara itu, dijelaskan Senior Director AI Programs Common Sense Media Robbie Torney, jika sebuah platform AI untuk anak seharusnya disesuaikan dengan kondisi mereka, bukan menggunakan pendekatan seragam untuk anak-anak di berbagai tahap perkembangan. Hal ini agar AI aman dan efektif bagi anak-anak.

“Gemini memang sudah tepat dalam beberapa hal mendasar, tetapi keliru pada detailnya. Sebuah platform AI untuk anak seharusnya disesuaikan dengan kondisi mereka, bukan menggunakan pendekatan seragam untuk anak-anak di berbagai tahap perkembangan," kata Robbie Torney.

"Agar AI aman dan efektif bagi anak-anak, ia harus dirancang dengan mempertimbangkan kebutuhan dan perkembangan mereka. Bukan sekadar versi modifikasi dari produk yang dibuat untuk orang dewasa,” tambahnya.

BACA JUGA:Kenali Modusnya, Waspadai Penipuan Modus Pakai AI, Jangan Sampai Jadi Korban

Putri Nurhidayati

Sumber: