Juru bicara eSafety menyoroti kekhawatiran terhadap praktik perusahaan AI yang dinilai memanfaatkan manipulasi emosional dan antropomorfisme untuk menarik dan mempertahankan pengguna muda.
Di tengah ketatnya pengawasan ini, respons pelaku industri masih terpecah. Asisten pencarian berbasis chat besar seperti ChatGPT, Replika, dan Claude milik Anthropic dikabarkan telah mulai menerapkan sistem verifikasi usia. Character.AI bahkan telah menghentikan fitur obrolan terbuka bagi pengguna di bawah 18 tahun.
Namun, di kalangan chatbot pendamping, sekitar tiga perempatnya belum memiliki sistem penyaringan atau verifikasi usia yang berfungsi. Bahkan, sekitar satu per enam dari platform tersebut tidak mencantumkan alamat email publik untuk melaporkan dugaan pelanggaran, padahal hal itu merupakan kewajiban dalam aturan baru.
Grok, alat pencarian berbasis chat milik Elon Musk yang dikembangkan oleh xAI, disebut-sebut belum memiliki sistem verifikasi usia atau filter konten teks. xAI selaku perusahaan induk belum memberikan tanggapan atas permintaan komentar terkait kesiapan mereka.
Sementara itu, Google menolak berkomentar, dan Apple belum memberikan tanggapan langsung meski pekan lalu menyatakan akan menggunakan metode yang wajar untuk mencegah anak di bawah umur mengunduh aplikasi 18+ di Australia.
Lisa Given, Direktur Centre for Human-AI Information Environments di RMIT University, menilai temuan ini mencerminkan kelalaian industri.
"Sebagian besar alat ini dirancang tanpa mempertimbangkan potensi bahaya dan kebutuhan kontrol keselamatan. Rasanya masyarakat seperti menjadi bahan uji coba bagi perusahaan-perusahaan tersebut," ujarnya.
Jennifer Duxbury, kepala kebijakan kelompok industri internet DIGI yang terlibat dalam penyusunan kode AI, menegaskan bahwa meskipun eSafety tengah berupaya memberi pemberitahuan kepada layanan chatbot, setiap perusahaan yang beroperasi di Australia tetap bertanggung jawab penuh untuk memahami dan mematuhi kewajiban hukum mereka. (A58)
Komentar (0)
Seluruh isi komentar merupakan tanggung jawab masing-masing pengguna dan berada di luar tanggung jawab redaksi. Komentar yang melanggar hukum akan ditindak sesuai ketentuan peraturan perundang-undangan.