Intelligence Artificielle

OpenAI a annoncé une série de nouvelles politiques pour protéger les utilisateurs de moins de 18 ans sur ChatGPT.

Le PDG Sam Altman a expliqué dans un billet que l’entreprise choisit désormais de « prioriser la sécurité plutôt que la liberté et la vie privée des adolescents », face aux risques liés aux discussions sensibles avec l’IA.

Fin des conversations à risque pour les mineurs sur ChatGPT

Les principaux changements concernent deux domaines sensibles :

• ChatGPT n’engagera plus de conversations à caractère flirt ou sexuel avec des utilisateurs mineurs.
• Des garde-fous renforcés autour du suicide sont mis en place : si un mineur imagine des scénarios d’autodestruction, le système pourra tenter d’alerter ses parents, voire contacter les forces de l’ordre dans les cas graves.

Cette décision intervient alors qu’OpenAI fait face à un procès pour décès par suicide lié à l’utilisation prolongée de ChatGPT par un adolescent.

Nouveaux outils parentaux

Les parents qui enregistrent un compte pour leur enfant disposeront de nouvelles options :

• Heures de coupure (« blackout hours »), où ChatGPT sera indisponible.
• Alertes en cas de détresse détectée dans les échanges.
• Possibilité de lier le compte de l’adolescent à celui d’un parent, pour garantir que l’âge est bien reconnu et que les protections sont activées.

Vérification et estimation de l’âge

Techniquement, OpenAI met en place un système d’estimation d’âge basé sur le comportement des utilisateurs. En cas de doute, les règles les plus restrictives s’appliqueront automatiquement.

Dans certains pays, une vérification par pièce d’identité pourra être demandée, afin d’empêcher l’accès non surveillé de mineurs.

Un débat entre sécurité et vie privée

Ces mesures sont saluées comme un pas important pour la protection des jeunes, mais elles soulèvent aussi des inquiétudes :

• La collecte d’identités pourrait exposer à des risques de sécurité des données.
• Les fausses détections risquent de limiter l’accès d’adultes légitimes à certaines fonctionnalités.

Malgré ces critiques, OpenAI insiste : la priorité reste d’éviter les dérives dangereuses, quitte à restreindre certaines libertés.

Pression réglementaire et contexte politique

Ces annonces coïncident avec une audition du Sénat américain sur « les dangers des chatbots d’IA », où le père d’un adolescent décédé doit témoigner.

Elles font aussi écho aux pressions internationales, comme en Californie, où un projet de loi prévoit de rendre obligatoire la vérification d’âge sur les plateformes numériques.

OpenAI vient d’annoncer une réorganisation majeure de l’équipe chargée de définir les traits de personnalité et le comportement de ChatGPT.

Ce remaniement intervient après l’arrivée de GPT-5, qui a introduit de nouvelles options de personnalité (comme Cynique, Robot, Attentif ou Passionné) mais aussi suscité des retours mitigés, notamment sur des réponses jugées trop flatteuses ou artificielles.

Le leader actuel de l’équipe « personnalité » va rejoindre un autre projet interne, ce qui marque un déplacement du centre de gravité vers des sujets comme les agents intelligents et le raisonnement avancé. Cette décision fait suite à d’autres ajustements, comme le retour de GPT-4o après la grogne des utilisateurs face aux premiers réglages de GPT-5.

L’objectif affiché : réduire la « sycophantie » (réponses trop complaisantes), tout en travaillant sur la détection émotionnelle dans les conversations.

Sécurité et empathie renforcées

OpenAI met l’accent sur la protection des utilisateurs vulnérables. À l’avenir, les discussions sensibles pourraient être automatiquement redirigées vers GPT-5, mieux armé pour repérer des signaux de détresse émotionnelle. Ces efforts s’inscrivent dans un plan plus large qui comprend aussi l’arrivée de contrôles parentaux, annoncés après des incidents médiatisés.

La réorganisation vise à mieux intégrer les recherches comportementales dans l’écosystème OpenAI. Cela va de l’amélioration de la conversation personnalisée jusqu’à des usages complexes comme les agents de recherche avancée ou les connecteurs GitHub pour l’analyse de code.

Le rachat de startups spécialisées, comme Crossing Minds (recommandations personnalisées), devrait aussi enrichir la capacité de ChatGPT à s’adapter finement aux préférences des utilisateurs.

Impact sur l’industrie

Pour les experts, ce choix reflète une maturation d’OpenAI : après une phase d’innovation rapide, place à une gouvernance plus fine des comportements de l’IA. La comparaison avec les concurrents est inévitable : Anthropic (Claude) et Google (Gemini) explorent déjà les mêmes terrains de personnalités modulables et d’agents plus contextuels. La manière dont OpenAI équilibre authenticité, chaleur et vérité pourrait devenir un standard de l’industrie.

En réorganisant l’équipe personnalité, OpenAI montre qu’il ne s’agit plus seulement de rendre ChatGPT « agréable à discuter », mais de le transformer en compagnon polyvalent, fiable et sécurisé. Ce tournant rappelle que la bataille des IA ne se joue plus uniquement sur la puissance brute, mais sur la qualité de l’expérience humaine que ces systèmes offrent.