Google veut faciliter l’identification des contenus générés par intelligence artificielle. L’entreprise vient de lancer SynthID Detector, un nouveau site accessible à tous permettant de vérifier si une image, une vidéo ou un fichier audio a été généré par une IA compatible.
Le service était jusqu’ici réservé à un groupe de journalistes, professionnels des médias et chercheurs qui pouvaient le tester en avant-première. Google ouvre désormais l’outil au grand public, alors que la quantité de contenus générés par IA disponibles en ligne continue d’augmenter.
Un détecteur capable d’analyser trois types de contenus
SynthID Detector accepte un nombre important de formats. Pour les images, Google prend notamment en charge les fichiers JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF et GIF.
Les vidéos peuvent être envoyées au format MP4, MOV ou WEBM, tandis que les fichiers audio peuvent notamment utiliser les formats WAV, MP3, OGG, FLAC, AAC et M4A.
L’objectif est de permettre à n’importe quel utilisateur de vérifier simplement un contenu sans avoir besoin d’utiliser un outil spécialisé ou de connaître le modèle d’IA à l’origine de sa génération.
SynthID repose sur un filigrane invisible
Le système repose sur SynthID, la technologie de filigrane numérique développée par Google et présentée en 2023. Lorsqu’un contenu est généré par certains modèles et services de Google, SynthID peut y intégrer des informations permettant ensuite d’en vérifier l’origine.
Les modèles Nano Banana, Veo et Lyria utilisent notamment SynthID. La technologie est également intégrée à plusieurs outils de génération de Google, dont GeminiGemini est la famille de modèles d'IA multimodaux de Google DeepMind, à la fois application grand public et couche d'intelligence intégrée à Search, Android, Gmail et YouTube. Lire la fiche, Flow, ProducerAI et Vids.
Le principe est important : SynthID ne tente pas simplement de déterminer visuellement si une image ou une vidéo « ressemble » à une création d’IA. Il cherche plutôt à détecter la présence du filigrane associé à la technologie.
Déjà un million de vérifications par jour
Google indique que SynthID est déjà largement utilisé. L’entreprise affirme que les utilisateurs effectuent actuellement environ un million de demandes de vérification chaque jour. La technologie ne se limite d’ailleurs pas au nouveau site. Google a également intégré la vérification SynthID directement dans Gemini et dans Google Chrome.
Cette multiplication des points d’accès pourrait rendre la vérification de l’origine des contenus beaucoup plus accessible, notamment pour les internautes qui souhaitent vérifier une image ou une vidéo rencontrée sur les réseaux sociaux.
OpenAI, NVIDIA et Kakao utilisent également SynthID
Google n’est pas seul derrière cette technologie. OpenAI, NVIDIA et Kakao prennent également en charge SynthID, tandis qu’Apple devrait ajouter cette compatibilité prochainement selon les informations fournies.
OpenAI dispose parallèlement de son propre service permettant de vérifier certains contenus. Cette convergence pourrait être importante à mesure que les outils de génération d’images, de vidéos et d’audio se multiplient. Un standard partagé permettrait théoriquement de vérifier des contenus provenant de plusieurs plateformes avec un même mécanisme.
Microsoft et Meta ont leurs propres systèmes
Le paysage reste toutefois fragmenté. Microsoft et Meta utilisent leurs propres standards pour marquer et vérifier les contenus générés par leurs modèles. Et surtout, aucun de ces systèmes n’est infaillible. Le texte source rappelle que les outils de détection peuvent parfois échouer à identifier des contenus pourtant générés par les modèles de l’entreprise qui les a conçus.
Cela constitue une limite fondamentale pour SynthID Detector. L’absence de détection ne signifie donc pas nécessairement qu’un contenu a été créé par un humain. Le système est particulièrement pertinent lorsqu’un contenu porte effectivement le filigrane attendu, mais il ne peut pas constituer à lui seul une preuve universelle d’authenticité.
Vers une nouvelle couche d’identification du contenu
Avec SynthID Detector, Google cherche finalement à ajouter une couche d’information supplémentaire au web : savoir si un contenu numérique porte la signature d’un système de génération d’IA.
La démarche pourrait devenir de plus en plus importante alors que les images, vidéos et fichiers audio générés artificiellement deviennent difficiles à distinguer de contenus capturés ou produits traditionnellement.
Mais la technologie devra encore gagner en adoption et en interopérabilité. Plus les fabricants et les entreprises d’IA utiliseront des standards compatibles, plus les utilisateurs disposeront d’outils fiables pour retracer l’origine d’un contenu.
Pour l’instant, Google fait un pas supplémentaire en rendant SynthID Detector accessible à tous. Une étape qui pourrait devenir particulièrement utile dans un Internet où la question n’est plus seulement de savoir si une image est crédible, mais aussi de savoir comment elle a été produite.
