OpenAI a annoncé une série de nouvelles politiques pour protéger les utilisateurs de moins de 18 ans sur ChatGPT.
Le PDG Sam Altman a expliqué dans un billet que l’entreprise choisit désormais de « prioriser la sécurité plutôt que la liberté et la vie privée des adolescents », face aux risques liés aux discussions sensibles avec l’IA.
Fin des conversations à risque pour les mineurs sur ChatGPT
Les principaux changements concernent deux domaines sensibles :
- ChatGPT n’engagera plus de conversations à caractère flirt ou sexuel avec des utilisateurs mineurs.
- Des garde-fous renforcés autour du suicide sont mis en place : si un mineur imagine des scénarios d’autodestruction, le système pourra tenter d’alerter ses parents, voire contacter les forces de l’ordre dans les cas graves.
Cette décision intervient alors qu’OpenAI fait face à un procès pour décès par suicide lié à l’utilisation prolongée de ChatGPT par un adolescent.
Nouveaux outils parentaux
Les parents qui enregistrent un compte pour leur enfant disposeront de nouvelles options :
- Heures de coupure (« blackout hours »), où ChatGPT sera indisponible.
- Alertes en cas de détresse détectée dans les échanges.
- Possibilité de lier le compte de l’adolescent à celui d’un parent, pour garantir que l’âge est bien reconnu et que les protections sont activées.
Vérification et estimation de l’âge
Techniquement, OpenAI met en place un système d’estimation d’âge basé sur le comportement des utilisateurs. En cas de doute, les règles les plus restrictives s’appliqueront automatiquement.
Dans certains pays, une vérification par pièce d’identité pourra être demandée, afin d’empêcher l’accès non surveillé de mineurs.
Un débat entre sécurité et vie privée
Ces mesures sont saluées comme un pas important pour la protection des jeunes, mais elles soulèvent aussi des inquiétudes :
- La collecte d’identités pourrait exposer à des risques de sécurité des données.
- Les fausses détections risquent de limiter l’accès d’adultes légitimes à certaines fonctionnalités.
Malgré ces critiques, OpenAI insiste : la priorité reste d’éviter les dérives dangereuses, quitte à restreindre certaines libertés.
Pression réglementaire et contexte politique
Ces annonces coïncident avec une audition du Sénat américain sur « les dangers des chatbots d’IA », où le père d’un adolescent décédé doit témoigner.
Elles font aussi écho aux pressions internationales, comme en Californie, où un projet de loi prévoit de rendre obligatoire la vérification d’âge sur les plateformes numériques.
