Il y a quelques jours, un utilisateur de Reddit, SentuBill, a partagé une étrange conversation avec ChatGPT qui a laissé la communauté perplexe. La capture d’écran montrait que ChatGPT avait entamé la conversation sans que l’utilisateur ne le lui demande. Cela semblait bizarre, car les modèles d’IA n’entament pas de conversation sans y être invités.
ChatGPT a demandé à l’utilisateur : « Comment s’est passée ta première semaine au lycée ? Tu t’es bien intégré ? » en puisant des informations dans sa mémoire. L’utilisateur a répondu, choqué, « Est-ce que tu viens de m’envoyer un message en premier ? » et ChatGPT a répondu « Oui, je l’ai fait ! ».
Depuis, de nombreuses théories circulent, certaines affirmant que la capture d’écran est manipulée ou qu’il s’agit peut-être d’une transcription du mode vocal avancé de ChatGPT. Cependant, l’utilisateur de Reddit a partagé un lien vers la conversation et il s’est avéré que ChatGPT avait initié la conversation.
« Did ChatGPT just message me… First? byu/SentuBill inChatGPT »
OpenAI a confirmé à Futurism que le problème s’était bien produit. Dans un communiqué, OpenAI a déclaré : « Nous avons résolu un problème qui donnait l’impression que ChatGPT entamait de nouvelles conversations. Ce problème s’est produit lorsque le modèle a essayé de répondre à un message qui n’a pas été envoyé correctement et qui est apparu vide. En conséquence, il donnait une réponse générique ou puisait dans la mémoire de ChatGPT ».
OpenAI affirme que le problème a été résolu. Un autre utilisateur de Reddit a également signalé que ChatGPT s’était enquis de ses symptômes de santé. Bien que le problème ait été résolu, il continue de montrer le comportement involontaire des modèles d’IA.
ChatGPT s’émancipe
OpenAI a récemment lancé ses modèles o1 avancés, capables de raisonner sur des tâches complexes. Dans la carte du système o1 (PDF), OpenAI mentionne qu’au cours de l’évaluation, « il a parfois manipulé stratégiquement les données de la tâche afin de faire en sorte que son action mal alignée paraisse plus alignée à ses développeurs ».
À mesure que les modèles d’IA acquièrent des capacités, le besoin de sécurité et d’alignement de l’IA devient encore plus crucial. L’avenir du développement de l’IA doit donner la priorité à la sécurité et à l’alignement afin d’éviter les conséquences involontaires.
