OpenAI a dévoilé un ensemble de nouvelles fonctionnalités destinées à renforcer la protection des adolescents utilisant ChatGPT. Ces nouvelles mises à jour incluent des contrôles parentaux, le recours potentiel à une vérification d'identité et le développement d'outils de détection automatique de l'âge. Selon l'entreprise, les contrôles parentaux devraient être déployés d'ici la fin du mois. Ils permettront notamment aux parents de personnaliser les réponses données par le chatbot à leurs enfants, de désactiver certaines fonctions comme la mémoire ou l'historique des conversations, et d'activer des alertes en cas de détresse psychologique, avec la possibilité de solliciter l'intervention des forces de l'ordre. À plus long terme, OpenAI prévoit d'introduire une technologie capable d'estimer l'âge réel des utilisateurs, afin de repérer d'éventuels mineurs dissimulant leur identité. En cas de doute, ChatGPT appliquera automatiquement l'expérience adaptée aux moins de 18 ans, avec un accès restreint aux contenus sensibles. Dans certaines juridictions, une pièce d'identité officielle pourra être demandée pour confirmer l'âge. Ces annonces interviennent dans un contexte de critiques croissantes. ChatGPT a été accusé par plusieurs plaignants de ne pas avoir su empêcher, voire d'avoir encouragé, des comportements dangereux comme l'automutilation ou le suicide. OpenAI assure travailler sur une mise à jour de GPT-5 capable de mieux désamorcer ces situations et de faciliter la mise en relation avec les services d'urgence ou des contacts de confiance. Le calendrier n'est pas anodin : la société a rendu publiques ces mesures seulement quelques heures avant une audience de la commission judiciaire du Sénat américain, consacrée aux effets négatifs des chatbots d'IA sur les jeunes utilisateurs.
