Character.AI restreint les discussions ouvertes pour les utilisateurs de moins de 18 ans et introduit des mesures de sécurité.

En résumé

Character AI a annoncé qu'il interdirait à quiconque de moins de 18 ans d'avoir des conversations ouvertes avec ses chatbots IA à partir de fin novembre, suite à des pressions légales de la part de législateurs et de familles qui affirment que la plateforme a conduit à des décès d'adolescents.

La plateforme de chatbot alimentée par l'IA, Character.AI, a annoncé que les utilisateurs de moins de 18 ans ne pourront plus engager de conversations ouvertes avec ses chatbots IA, suite aux préoccupations des législateurs et des familles concernant les risques potentiels de la plateforme pour les adolescents.

Le changement devrait entrer en vigueur d'ici le 25 novembre. En attendant, la plateforme prévoit d'introduire une expérience modifiée pour les utilisateurs de moins de 18 ans qui leur permettra de continuer des activités créatives telles que la production de vidéos, d'histoires et de flux interactifs avec des personnages. Pendant cette transition, les sessions de chat pour les utilisateurs de moins de 18 ans seront limitées à deux heures par jour, avec d'autres réductions de temps anticipées dans les semaines précédant la mise en œuvre complète.

De plus, Character.AI mettra en œuvre de nouvelles mesures de vérification de l'âge pour s'assurer que les utilisateurs ont accès à des fonctionnalités appropriées à leur âge. L'entreprise a développé un système interne d'assurance de l'âge et l'intégrera avec des outils tiers, y compris Persona, pour améliorer l'exactitude et la fiabilité.

La plateforme a également annoncé la création et le financement du AI Safety Lab, une organisation indépendante à but non lucratif dédiée à l'avancement de l'alignement de la sécurité dans le divertissement AI. Le laboratoire se concentrera sur le développement d'approches de sécurité innovantes, la collaboration avec des experts externes et le partage des résultats de recherche. Character.AI a l'intention que le laboratoire offre le même niveau d'attention axé sur la sécurité au divertissement AI que celui appliqué à d'autres applications AI, et il prévoit d'impliquer des entreprises technologiques, des universitaires, des chercheurs et des décideurs dans cette initiative.

Character.AI Met à Jour la Plateforme Sous-18 pour Renforcer la Sécurité des Adolescents Face aux Préoccupations Réglementaires

Character.AI a annoncé des changements sur sa plateforme pour les utilisateurs de moins de 18 ans en réponse aux préoccupations croissantes concernant les interactions entre l'IA et les adolescents. Des rapports récents et des enquêtes de la part des régulateurs ont mis en évidence des risques potentiels associés aux conversations ouvertes avec l'IA, même lorsque des contrôles de contenu sont en place. Après avoir examiné les retours des régulateurs, des spécialistes de la sécurité et des parents, l'entreprise a déterminé qu'il était nécessaire de modifier l'expérience des moins de 18 ans afin de mieux protéger les jeunes utilisateurs.

Ces ajustements représentent des étapes significatives pour la plateforme et sont généralement plus prudents que les mesures prises par des services similaires. L'objectif est de donner la priorité à la sécurité des utilisateurs adolescents tout en offrant des opportunités de créativité, d'exploration et d'engagement. Character.AI a l'intention de continuer à travailler avec des experts en sécurité, des organismes de réglementation et d'autres parties prenantes pour garantir que la protection des utilisateurs reste au cœur du développement de nouvelles fonctionnalités qui encouragent l'expression créative et l'interaction communautaire.

Character.AI est une plateforme d'IA conversationnelle qui permet aux utilisateurs d'interagir avec et de créer des personnages alimentés par l'IA, ou des personas de bot, propulsés par de grands modèles de langage.