ChatGPT pour adolescents : voici la nouvelle version avec contrôle parental

OpenAI a lancé une version spécifique de son chatbot populaire destinée aux adolescents. Baptisée ChatGPT for Teens, cette version vise à offrir une expérience plus sûre et personnalisée aux utilisateurs âgés de 13 à 17 ans, grâce à des protections renforcées et une approche éducative. Ce nouveau mode s'active automatiquement lorsque le système détecte que l'interlocuteur a moins de 18 ans, sans aucune intervention de l'utilisateur ni de sa famille.

La détection repose sur l'analyse de plus de 2 000 signaux, tels que les heures de connexion, l'ancienneté du compte et les sujets de conversation. En cas de doute, le système active le mode de navigation le plus restrictif. Si un adulte est identifié par erreur comme mineur, il peut prouver son identité en prenant un selfie via le service Persona. L'entreprise affirme que cette version est conçue pour aider les jeunes à apprendre, à développer leur esprit critique et à utiliser l'IA avec assurance.

Une expérience conçue pour les enfants

Les restrictions de contenu sont au cœur de cette nouvelle version. Les sujets liés à l'automutilation, à la violence, aux troubles alimentaires et au contenu sexuel explicite sont automatiquement bloqués . De plus, le chatbot ne peut utiliser de langage romantique, créer de dépendance affective ni laisser entendre qu'il possède des sentiments ou une conscience. Il ne peut pas non plus se présenter comme l'« ami » de l'utilisateur ni employer de termes affectueux. Le mode vocal est également désactivé par défaut, une mesure visant à prévenir les interactions potentiellement inappropriées ou trop personnelles.

Article connexe:

Fonctionnalités de l'IA des personnages : définition, fonctionnement et utilisations créatives

Parmi les nouveautés, on trouve un système de rappel de pause. Après une utilisation prolongée, ChatGPT suggère à l'adolescent de faire une pause. Des avertissements concernant le téléchargement d'images sensibles ont également été ajoutés, afin que l'adolescent soit conscient de ce qu'il partage. Ces mesures sont complétées par l'option permettant de définir des « heures de silence » pendant lesquelles l'application est bloquée ; cette fonctionnalité peut être configurée par l'adolescent ou ses parents.

Sécurité et bien-être : restrictions et contrôles

Le contrôle parental est une autre fonctionnalité essentielle. Les parents ou tuteurs peuvent lier leur compte à celui de leur adolescent et recevoir des alertes en cas de situation à risque, comme un risque d'automutilation ou des pensées suicidaires. Ces alertes sont vérifiées par des modérateurs humains avant d'être envoyées, et les détails des conversations sont supprimés afin de protéger la vie privée . Toutefois, les adultes ne peuvent pas lire le contenu des discussions ; ils ne reçoivent de notifications que lorsqu'un danger réel est détecté.

OpenAI a ajouté une nouvelle catégorie d'alertes concernant les troubles alimentaires. L'objectif est de « garantir la sécurité même sans contrôle parental », explique Ann O'Leary, vice-présidente en charge des politiques globales. Les parents peuvent également définir des limites d'utilisation, comme bloquer l'accès à certaines heures ou désactiver la génération d'images.

Approche pédagogique : le mode d'étude

L'un des points forts est le mode étude, conçu pour que le chatbot agisse comme un tuteur particulier. Au lieu de donner la réponse directement, il propose des questions guidées, des explications étape par étape et des exercices pratiques . Il inclut également des quiz et des visualisations pédagogiques. Si le système détecte que l'adolescent tente de prendre un raccourci, il le redirige vers ce mode de résolution de problèmes.

Les parents peuvent définir des « heures d'étude » durant lesquelles le mode étude est activé par défaut. Selon OpenAI, cela facilite l'adoption de bonnes habitudes d'étude. L'entreprise précise que ce mode a été développé en collaboration avec des enseignants et des spécialistes de l'éducation, et que les premières évaluations montrent une amélioration des performances, bien que ces résultats n'aient pas encore été vérifiés de manière indépendante.

Contexte de pression juridique et réglementaire

Le lancement de ChatGPT for Teens intervient dans un contexte de surveillance accrue de l'intelligence artificielle et de son impact sur les mineurs. OpenAI fait face à plusieurs plaintes pour homicide involontaire, notamment celle déposée par les parents d'Adam Raine, un jeune homme de 16 ans qui se serait suicidé en utilisant les méthodes suggérées par le chatbot. La Commission fédérale du commerce des États-Unis (FTC) a également ouvert une enquête sur les chatbots utilisés comme compagnons numériques , en se concentrant sur les risques qu'ils représentent pour les enfants et les adolescents.

En Europe, le Parlement européen a récemment adopté une résolution recommandant 16 ans comme âge minimum pour les réseaux sociaux et les assistants vocaux intelligents. La Commission européenne dispose d'une application de vérification d'âge depuis avril, qu'elle prévoit de déployer avant la fin de l'année. L'Espagne figure parmi les premiers pays à l'intégrer à son système de vérification d'âge. OpenAI a confirmé que cette nouvelle version sera disponible dans le monde entier, y compris en Espagne, malgré les informations initiales de certains médias indiquant qu'elle ne fonctionnerait pas au sein de l'Union européenne.

L'entreprise a également dû faire face aux inquiétudes des parents et des enseignants concernant le recours excessif à l'IA. Une étude de Common Sense Media a révélé que plus de 70 % des adolescents américains se tournent vers les chatbots pour trouver de la compagnie, et que la moitié d'entre eux les utilisent régulièrement. Sam Altman, PDG d'OpenAI, a reconnu que la « dépendance affective excessive » constitue un réel problème chez les jeunes.

Avec cette nouvelle version, OpenAI vise à concilier valeur éducative et protection de l'enfance. L'entreprise a précisé qu'elle n'entend pas empêcher les élèves d'utiliser l'IA pour leurs devoirs, mais plutôt modifier leur façon de l'utiliser. Le mode d'étude et les rappels personnalisés ont pour but d'aider les élèves à apprendre plutôt qu'à simplement recopier des réponses.

En résumé, ChatGPT pour adolescents représente une avancée significative dans l'adaptation de l'intelligence artificielle à un jeune public. Les restrictions de contenu, le contrôle parental et une approche éducative visent à répondre aux critiques et aux demandes formulées à l'encontre de l'entreprise ces derniers mois. Il reste à voir comment cela se traduira concrètement et si cela transformera véritablement le rapport des adolescents à cette technologie.