Aktual.co.id – Seiring meningkatnya kekhawatiran dampak AI pada kaum muda, OpenAI telah memperkenalkan fitur “prediksi usia” ke dalam ChatGPT yang dirancang membantu mengidentifikasi anak di bawah umur dan menerapkan batasan konten yang wajar pada percakapan mereka.
OpenAI banyak dikritik dalam beberapa tahun terakhir karena dampak yang dapat ditimbulkan ChatGPT pada anak-anak.
Sejumlah kasus bunuh diri remaja telah dikaitkan dengan chatbot tersebut, dan, seperti vendor AI lainnya, OpenAI juga dikritik karena mengizinkan ChatGPT untuk membahas topik seksual pada pengguna muda.
April lalu, perusahaan tersebut mengatasi bug yang memungkinkan chatbot-nya menghasilkan konten erotis untuk pengguna yang berusia di bawah 18 tahun.
Perusahaan tersebut telah lama menangani masalah pengguna di bawah umur, dan fitur “prediksi usia” barunya hanya perlindungan yang sudah ada.
Fitur baru ini memanfaatkan algoritma AI yang menilai akun pengguna berdasarkan sinyal perilaku dan tingkat akun tertentu. “Dalam upaya mengidentifikasi pengguna muda”, kata OpenAI dalam sebuah unggahan blog pada hari Selasa.
“Sinyal tersebut mencakup hal-hal seperti usia yang dinyatakan pengguna, lamanya waktu akun tersebut telah ada, dan waktu tertentu dalam sehari ketika akun tersebut biasanya aktif,” kata perusahaan itu.
Perusahaan tersebut memiliki filter konten yang dirancang menyaring diskusi tentang seks, kekerasan, dan topik-topik yang berpotensi bermasalah bagi pengguna yang berusia di bawah 18 tahun.
Jika mekanisme prediksi usia mengidentifikasi sebuah akun sebagai akun di bawah usia 18 tahun, filter tersebut akan diterapkan secara otomatis.
Jika pengguna secara keliru ditetapkan sebagai di bawah umur, ada cara bagi mereka untuk mengaktifkan kembali akun “dewasa” mereka.
“Mereka dapat mengirimkan foto selfie ke Persona, mitra verifikasi identitas OpenAI,” kata OpenAI. (ndi/technocrunch)
