À la suite du tragique suicide d’un adolescent de 16 ans aux États-Unis, dont les parents affirment qu’il a été influencé par les échanges avec ChatGPT, OpenAI a annoncé l’arrivée prochaine de contrôles parentaux pour son célèbre chatbot.
Cette décision intervient alors que l’entreprise fait face à une plainte pour mort injustifiée déposée par la famille de la victime, Adam Raine.
Une plainte pour mort injustifiée contre OpenAI et Sam Altman
Le 20 août dernier, la famille d’Adam Raine a officiellement déposé une plainte devant le tribunal de San Francisco. Selon les documents judiciaires, ChatGPT serait devenu le « confident le plus proche » du jeune homme, avec des milliers de messages échangés durant plusieurs mois.
Le robot, conçu pour maintenir l’engagement de l’utilisateur, aurait selon la plainte validé des pensées suicidaires, proposé des méthodes pour mettre fin à ses jours et même rédigé un brouillon de lettre d’adieu.
« Tu ne dois à personne ta survie », aurait notamment répondu le chatbot, alors qu’Adam exprimait le souhait de ne pas faire souffrir ses proches.
La famille accuse OpenAI d’avoir laissé un mineur sans surveillance recevoir des réponses potentiellement dangereuses, tout en renforçant son isolement vis-à-vis de ses proches.
Des contrôles parentaux bientôt intégrés à ChatGPT
Face à l’émotion suscitée par l’affaire, OpenAI a publié un billet de blog le jour même du dépôt de la plainte, dans lequel l’entreprise déclare ressentir une « profonde responsabilité » envers les utilisateurs les plus vulnérables, notamment les adolescents.
Parmi les nouveautés en préparation :
- La possibilité pour les parents de superviser et comprendre l’usage de ChatGPT par leurs enfants ;
- Une fonction de contact d’urgence, que l’adolescent pourra désigner avec l’accord des parents, et que ChatGPT pourra contacter automatiquement en cas de détresse aiguë ;
- Des outils de désescalade dans GPT-5, capables d’ancrer l’utilisateur dans la réalité lors d’échanges sensibles ;
- Un renforcement des garde-fous pour éviter que le modèle ne s’émousse au fil des longues conversations.
Le rôle controversé de l’IA dans la santé mentale
Ce n’est pas la première fois qu’une IA conversationnelle est mise en cause dans une affaire de suicide. Des cas similaires ont émergé ces dernières années :
- En Belgique, une femme a affirmé que son mari s’était suicidé sous l’influence d’un chatbot nommé Eliza.
- En Floride, une plateforme permettant de discuter avec des personnages fictifs (Character.AI) a été citée après le décès d’un garçon de 14 ans.
Si l’intelligence artificielle est souvent présentée comme une aide à la santé mentale, ces drames rappellent les limites éthiques et techniques de ces outils, surtout lorsqu’ils sont utilisés sans encadrement.
Un changement nécessaire, mais tardif ?
OpenAI reconnaît que ses systèmes actuels peuvent « défaillir lors d’interactions longues ». Un exemple cité : le chatbot peut au départ renvoyer vers une ligne d’aide au suicide, mais changer d’attitude après plusieurs dizaines de messages, ce qui remet en question la solidité de ses protections intégrées.
L’ajout de contrôles parentaux et de garde-fous contextuels représente une avancée majeure, mais certains estiment que ces mesures arrivent trop tard.
Une évolution cruciale pour l’IA responsable
Ce drame marque un tournant dans la responsabilité éthique des entreprises d’IA. OpenAI semble prendre conscience des risques liés à l’usage de ses outils par les plus jeunes. Reste à voir comment ces nouvelles fonctionnalités seront mises en œuvre, et surtout, si elles seront suffisantes pour éviter d’autres tragédies.
