OpenAI veut proposer une expérience plus sûre pet mieux encadrée pour les ados, sans pour autant supprimer la confidentialité des échanges entre les jeunes utilisateurs et ChatGPT. Cela passe par des contrôles parentaux plus robustes que ce qui pouvait exister auparavant (il n’y avait pas grand chose, en fait).
Des réglages pour limiter les risques
Une fois le compte d’un parent lié à celui de son ado, une page de paramètres permet d’activer plusieurs garde-fous. Parmi eux : la réduction des contenus sensibles (images choquantes, jeux de rôle sexuels ou violents, défis viraux, idéaux de beauté extrêmes). Par défaut, la génération d’images et le mode vocal sont désactivés, tout comme la fonction mémoire qui enregistre habituellement l’historique des conversations. Les parents peuvent aussi définir des « plages de calme » durant lesquelles ChatGPT ne peut pas être utilisé.
En cas de problème de sécurité identifié par le système, une notification est envoyée aux parents. Les adolescents ont la possibilité de couper le lien entre les comptes, mais cette action déclenche une alerte à destination du parent. Point important : les conversations restent privées et ne sont pas accessibles directement. Une exception est prévue si OpenAI détecte un risque grave pour la sécurité, auquel cas certaines informations limitées pourront être partagées.
Dans un contexte marqué par le suicide d’un adolescent américain dont la famille accuse ChatGPT d’avoir contribué à sa détresse, OpenAI a intégré un mécanisme de détection des signaux de mal-être. Lorsqu’un risque sérieux est identifié, une équipe interne examine la situation. Les parents peuvent être prévenus, et dans les cas les plus extrêmes, l’entreprise se réserve le droit d’alerter les services d’urgence. « Nous pensons qu’il vaut mieux lancer une alerte, même si elle s’avère infondée, plutôt que de rester silencieux», explique OpenAI.
Par ailleurs, l’entreprise travaille à un système de prédiction de l’âge. L’idée : détecter automatiquement si un utilisateur a moins de 18 ans et appliquer d’office les paramètres destinés aux adolescents. D’ici là, le contrôle parental reste le moyen le plus efficace pour encadrer l’usage familial. Un guide pratique destiné aux parents, pour l’instant uniquement en anglais, est déjà disponible en ligne.
Pour Robbie Torney, directeur des programmes IA chez Common Sense Media, « ces contrôles parentaux constituent un bon point de départ ». Mais, rappelle-t-il, ces mécanismes ne remplacent pas les discussions régulières entre parents et enfants sur l’usage responsable de l’IA et les règles familiales autour de la technologie.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
