Google a suspendu la possibilité de créer des images de personnes à l’aide de la fonction de génération d’images par l’IA Gemini afin de corriger certaines inexactitudes historiques.
Certains utilisateurs de Gemini ont partagé des captures d’écran montrant des inexactitudes historiques apparentes, Gemini créant des images d’un homme amérindien et d’une femme indienne alors qu’on lui demandait de créer un couple allemand représentatif de l’époque des années 1820. Des images de soldats indigènes ont également été créées pour représenter des membres de l’armée allemande de 1929, entre autres exemples.
ah the classic super buff native american and indian couple from 1820 germany. thanks google! pic.twitter.com/4x1H4WsnJd
— kache (sponsored by dingboard) (@yacineMTB) February 20, 2024
Ces résultats ne sont peut-être pas surprenants si l’on se souvient que la génération d’images par l’IA n’apprend que de ce qu’on lui donne. Cela signifie qu’en cas de saisie ou d’erreur humaine, l’IA peut rapidement inventer des réponses ou combler elle-même les lacunes, ce qui se traduit par des résultats inexacts comme ceux-ci. L’IA générative ne peut pas penser par elle-même et fait souvent des sauts rapides pour répondre à une demande.
Google a reconnu pour la première fois les problèmes liés à la génération d’images le mercredi 21 février : « Nous travaillons à l’amélioration immédiate de ce type de représentations. La génération d’images par l’IA de Gemini génère un large éventail de personnes. Et c’est généralement une bonne chose, car des gens du monde entier l’utilisent. Mais dans le cas présent, il n’est pas à la hauteur ».
Réponse de Google aux allégations d’inexactitude historique
Google a annoncé qu’il avait mis en pause la génération d’images de personnes dans Gemini et qu’il prenait des mesures pour résoudre les problèmes. Une version mise à jour devrait être publiée prochainement.
We’re already working to address recent issues with Gemini’s image generation feature. While we do this, we’re going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms) February 22, 2024
Actuellement, Gemini affiche un message d’erreur lorsqu’on lui demande de générer une image incluant une personne, indiquant : « Nous travaillons à améliorer la capacité de Gemini à générer des images de personnes. Nous prévoyons que cette fonctionnalité reviendra bientôt et vous informerons dans les mises à jour de la version lorsqu’elle le fera ».
La solution à ces problèmes comprendra probablement une forme de contexte historique ou réel dans la génération d’images de Gemini. Il reste à voir ce que Google fera exactement pour combler cette lacune et aucun calendrier n’a été donné pour la mise à disposition d’une nouvelle version améliorée, alors qu’une nouvelle mise à jour du modèle a été effectuée la semaine dernière. Gemini est toujours en ligne et ses fonctions de génération d’images fonctionnent toujours pour les sujets non humains.
