OpenAI a récemment fait l’objet de controverses. Après le départ d’Ilya Sutskever, scientifique en chef de l’OpenAI, Jan Leike, responsable du superalignement de OpenAI, a également démissionné après avoir atteint un « point de rupture » avec la direction au sujet de la recherche sur le calcul pour la sécurité. Afin d’apaiser les craintes relatives à la sécurité, OpenAI a créé un comité de sûreté et de sécurité.
Le comité fera des recommandations sur les « décisions critiques en matière de sûreté et de sécurité pour tous les projets de OpenAI », indique OpenAI sur son blog. C’est une préoccupation que plusieurs chercheurs clés en IA ont exprimée lorsqu’ils ont quitté l’entreprise ce mois-ci.
Par ailleurs, OpenAI révèle qu’elle « a récemment commencé à former son modèle de nouvelle génération ».
Selon OpenAI, le modèle de nouvelle génération (qui ne sera probablement pas appelé GPT-5) redéfinira les limites des capacités de l’IA et l’entreprise prévoit que « les systèmes résultants nous amèneront au niveau suivant de capacités sur notre chemin vers l’AGI ».
Avant cette annonce, lors du lancement du ChatGPT 4 o, Mira Murati, CTO d’OpenAI, a déclaré que le prochain grand projet était à venir, à la fin de l’événement. Et il semble qu’OpenAI envisage de lancer son prochain modèle frontier en 2024.
Le modèle de nouvelle génération de OpenAI redéfinira les limites
Quant au comité de sûreté et de sécurité, il est composé de Sam Altman, Bret Taylor, Adam D’Angelo et Nicole Seligman. En outre, des membres techniques de OpenAI feront également partie du comité. Au cours des 90 prochains jours, le comité évaluera les modèles à venir et partagera ses recommandations avec le conseil d’administration d’OpenAI.
Par ailleurs, il convient de noter qu’OpenAI a récemment supprimé la voix « Sky » de ChatGPT, qui ressemblait étrangement à la voix de Scarlett Johansson dans le film « Her ». OpenAI pourrait envisager une action en justice potentielle, alors que les pratiques éthiques de l’entreprise, dirigée par le PDG Sam Altman, suscitent de plus en plus d’inquiétudes.
