Character.AI Membatasi Obrolan Terbuka Untuk Pengguna Di Bawah 18 Tahun Dan Memperkenalkan Langkah-Langkah Keamanan

Secara Singkat

Character AI mengumumkan bahwa mereka akan melarang siapa pun di bawah 18 tahun untuk melakukan percakapan terbuka dengan chatbot AI mereka mulai akhir November, setelah tekanan hukum dari para pembuat undang-undang dan keluarga yang mengatakan bahwa platform tersebut menyebabkan kematian remaja.

Platform chatbot yang didukung AI, Character.AI mengumumkan bahwa pengguna di bawah usia 18 tahun tidak lagi dapat terlibat dalam percakapan terbuka dengan chatbot AI-nya, setelah kekhawatiran dari pembuat undang-undang dan keluarga mengenai potensi risiko platform tersebut terhadap remaja.

Perubahan dijadwalkan akan mulai berlaku pada 25 November. Sementara itu, platform berencana untuk memperkenalkan pengalaman yang dimodifikasi untuk pengguna di bawah usia 18 tahun yang memungkinkan mereka untuk melanjutkan kegiatan kreatif seperti memproduksi video, cerita, dan streaming interaktif dengan Karakter. Selama transisi ini, sesi obrolan untuk pengguna di bawah 18 tahun akan dibatasi hingga dua jam per hari, dengan pengurangan waktu lebih lanjut diharapkan dalam minggu-minggu menjelang implementasi penuh.

Selain itu, Character.AI akan menerapkan langkah-langkah verifikasi usia baru untuk memastikan bahwa pengguna disajikan dengan fitur yang sesuai dengan usia mereka. Perusahaan telah mengembangkan sistem jaminan usia internal dan akan mengintegrasikannya dengan alat pihak ketiga, termasuk Persona, untuk meningkatkan akurasi dan keandalan.

Platform juga mengumumkan penciptaan dan pendanaan AI Safety Lab, sebuah organisasi non-profit independen yang didedikasikan untuk meningkatkan keselarasan keselamatan dalam hiburan AI. Laboratorium ini akan fokus pada pengembangan pendekatan keselamatan yang inovatif, berkolaborasi dengan ahli eksternal, dan membagikan temuan penelitian. Character.AI bermaksud agar laboratorium ini memberikan tingkat perhatian yang sama berfokus pada keselamatan untuk hiburan AI seperti yang diterapkan pada aplikasi AI lainnya, dan berencana untuk melibatkan perusahaan teknologi, akademisi, peneliti, dan pembuat kebijakan dalam inisiatif ini.

Character.AI Memperbarui Platform Di Bawah 18 Tahun Untuk Meningkatkan Keamanan Remaja Di Tengah Kekhawatiran Regulasi

Character.AI telah mengumumkan perubahan pada platformnya untuk pengguna di bawah 18 tahun sebagai respons terhadap kekhawatiran yang berkembang tentang interaksi AI dengan remaja. Laporan dan penyelidikan terbaru dari regulator telah menyoroti potensi risiko yang terkait dengan percakapan AI yang terbuka, bahkan ketika kontrol konten diterapkan. Setelah meninjau umpan balik dari regulator, spesialis keselamatan, dan orang tua, perusahaan tersebut menentukan bahwa memodifikasi pengalaman untuk di bawah 18 tahun adalah perlu untuk melindungi pengguna muda dengan lebih baik.

Penyesuaian ini merupakan langkah signifikan untuk platform dan umumnya lebih berhati-hati dibandingkan dengan langkah-langkah yang diambil oleh layanan serupa. Tujuannya adalah untuk memprioritaskan keselamatan pengguna remaja sambil tetap menyediakan peluang untuk kreativitas, eksplorasi, dan keterlibatan. Character.AI berniat untuk terus bekerja sama dengan para ahli keselamatan, badan regulasi, dan pemangku kepentingan lainnya untuk memastikan bahwa perlindungan pengguna tetap menjadi fokus saat platform mengembangkan fitur baru yang mendorong ekspresi kreatif dan interaksi komunitas.

Character.AI adalah platform AI percakapan yang memungkinkan pengguna untuk berinteraksi dengan dan membuat karakter yang didorong oleh AI, atau persona bot, yang didukung oleh model bahasa besar.