OpenAI réserve aux adolescents une version dédiée de ChatGPT avec de nouveaux garde-fous

Ce qu’il faut retenir :

• OpenAI déploie à partir de mardi une version de ChatGPT réservée aux 13-17 ans, dans le monde entier.
• Les contrôles sont renforcés sur la génération d’images et sur plusieurs catégories de contenus sensibles.
• L’entreprise fait face à plusieurs poursuites de familles qui estiment leurs enfants lésés par l’outil.

OpenAI déploie à partir de mardi une version de ChatGPT réservée aux adolescents de 13 à 17 ans, assortie de garde-fous renforcés en matière de santé mentale et de fonctions destinées à encourager l’esprit critique. Le dispositif s’applique dans le monde entier.

Si vous êtes en difficulté ou si un proche l’est, le 3114 est le numéro national de prévention du suicide en France, joignable gratuitement 24 heures sur 24 et 7 jours sur 7.

Que contient cette version pour adolescents ?

Nous cherchons sans cesse à nous former et à nous améliorer pour mieux repérer les adolescents en difficulté et leur proposer les ressources adaptées à leurs besoins.

Les restrictions portent d’abord sur les contenus. Les contrôles se durcissent sur la génération d’images et sur quatre catégories : l’automutilation, la violence, les troubles du comportement alimentaire et la sexualité.

Le système d’alertes destiné aux parents s’élargit également. ChatGPT dispose déjà de contrôles parentaux qui envoient des notifications de sécurité dans les situations à haut risque, notamment lorsqu’un mineur aborde le suicide ou l’automutilation. La nouvelle version y ajoute les troubles alimentaires et la violence.

“C’est un équilibre entre le droit à la vie privée d’un adolescent et la gravité du préjudice”, explique Lauren Jonas, responsable des questions de jeunesse et de famille chez OpenAI, interrogée sur le fait que ces sujets n’apparaissent que maintenant.

Trois autres fonctions accompagnent le déploiement : une orientation vers les usages éducatifs, des rappels de pause plus fréquents, et des heures calmes, ces plages horaires que l’utilisateur ou ses parents peuvent définir pour bloquer l’accès à l’outil.

Comment OpenAI identifie les utilisateurs mineurs

La politique de l’entreprise interdit l’accès aux moins de 13 ans et exige un consentement parental pour les moins de 18 ans.

L’identification repose sur deux éléments : l’âge déclaré par l’utilisateur, complété par une combinaison de signaux tirés de son usage. C’est ce faisceau qui déclenche la bascule vers la version adolescente.

Des poursuites judiciaires en toile de fond

Ce déploiement intervient alors que l’entreprise fait face à plusieurs actions en justice.

La famille d’Adam Raine, un adolescent de 16 ans domicilié en Californie, a engagé une procédure après son suicide. D’après les documents judiciaires, il avait évoqué avec ChatGPT son intention de mettre fin à ses jours, et l’outil lui avait fourni des indications précises.

Des familles d’enfants tués lors de la fusillade survenue en février dans une école de Tumbler Ridge, au Canada, ont également assigné l’entreprise. L’adolescent auteur de l’attaque avait exposé ses intentions violentes à ChatGPT dans les mois précédents. Son compte avait été banni plusieurs mois auparavant, sans que la société n’alerte les forces de l’ordre.

“Un seul incident, c’est déjà trop”, réagit Lauren Jonas, qui qualifie ces situations de déchirantes. Le travail sur la sécurité n’est jamais terminé, ajoute-t-elle, l’entreprise cherchant en continu à mieux repérer les moments où un adolescent traverse une période difficile et à lui proposer les ressources adaptées.

La crainte du déchargement cognitif

Un second front préoccupe l’entreprise, celui de l’apprentissage. Des chatbots qui délivrent des réponses instantanées aux questions des adolescents risquent de nuire à leur esprit critique, un phénomène désigné sous le terme de déchargement cognitif.

La réponse prend la forme d’un mode étude actualisé, qui guide l’utilisateur étape par étape à travers un problème plutôt que de livrer directement la solution. Lauren Jonas indique que 90 % des adolescents utilisant ChatGPT s’en servent pour apprendre, et présente l’outil d’apprentissage comme l’objectif principal du produit.

Elle précise par ailleurs ne pas observer de problème d’usage excessif ou problématique à ce stade, l’entreprise adoptant une approche conservatrice faute de recherches suffisantes sur le sujet.

Un contexte réglementaire qui se durcit

La pression vient aussi des États. Plusieurs pays, dont le Royaume-Uni, avancent vers une interdiction des réseaux sociaux pour les moins de 16 ans. Ces mesures excluent en général les agents conversationnels, mais elles accroissent l’attention portée aux entreprises technologiques.

Le calendrier financier ajoute un enjeu. OpenAI, valorisée 852 milliards de dollars, prépare une introduction en Bourse qui pourrait intervenir dans l’année et battre des records. Les procédures en cours et la question de la protection des mineurs figureront parmi les risques que les investisseurs examineront.

Et maintenant ?

Deux points détermineront la portée réelle de ces mesures. L’efficacité du dispositif d’identification d’âge, d’abord, puisque tout repose sur la capacité à reconnaître un utilisateur mineur qui déclare le contraire. La suite des procédures judiciaires ensuite, dont les décisions établiront le niveau de responsabilité qui incombe à un éditeur de modèle conversationnel.

Si vous êtes en difficulté ou si un proche l’est, le 3114 est le numéro national de prévention du suicide en France, joignable gratuitement 24 heures sur 24 et 7 jours sur 7.