À l’heure où les contenus générés par l’intelligence artificielle envahissent progressivement le web, Substack veut redonner aux lecteurs un outil de transparence. La plateforme de newsletters annonce un partenariat avec la société Pangram afin d’intégrer un système capable d’estimer si un texte a été rédigé par un humain ou par une IA générative.
Présentée par le PDG de Substack, Chris Best, cette initiative s’inscrit dans une volonté affichée de lutter contre ce qu’il appelle le « Claudefishing », une pratique consistant à publier des contenus largement produits par des modèles d’intelligence artificielle tout en laissant croire qu’ils sont entièrement rédigés par une personne.
Un bouton pour analyser l’origine d’un texte
Grâce à cette nouvelle fonctionnalité, les lecteurs peuvent analyser les publications, les notes ainsi que les réponses publiées sur Substack. Le système repose sur la technologie développée par Pangram, spécialisée dans la détection des textes générés par intelligence artificielle.
L’analyse est disponible pour tous les contenus : comportant plus de 100 mots et publiés à partir du 21 juillet. Le résultat de l’analyse reste strictement privé : seul l’utilisateur ayant lancé le scan peut consulter l’évaluation.
Selon Chris Best, aucun détecteur d’IA n’est infaillible. Il affirme toutefois que Pangram affiche un niveau de précision élevé lors de plusieurs évaluations indépendantes.
La fonctionnalité est déjà accessible sur la version web ainsi que sur iOS, tandis qu’un déploiement sur Android est prévu ultérieurement.
Les auteurs disposent également de nouveaux outils
Substack ne réserve pas ces nouveautés aux seuls lecteurs. Les créateurs de contenu peuvent désormais accompagner leurs publications d’une section intitulée « How I make this », dans laquelle ils expliquent leur méthode de travail et le rôle éventuel de l’intelligence artificielle dans la création de leurs textes.
Avant publication, les auteurs peuvent également analyser leurs brouillons avec Pangram afin d’anticiper le résultat que verront les lecteurs.
En cas de détection jugée erronée, ils disposent de la possibilité de signaler le résultat et d’en demander la suppression.
Substack évoque également plusieurs évolutions à venir, notamment des préférences concernant l’utilisation de l’IA dans les règles de réponse aux publications, ou encore des filtres permettant aux lecteurs d’influencer les recommandations de contenus selon leur niveau d’acceptation des textes générés par IA.
Une réponse à la multiplication des contenus générés par IA
Selon les estimations citées par Substack et Pangram, certains réseaux sociaux compteraient désormais jusqu’à 40 % de publications entièrement générées par intelligence artificielle. Cette progression alimente les inquiétudes autour de la qualité des contenus, de l’authenticité des échanges et de la difficulté croissante à distinguer les productions humaines des textes automatisés.
L’objectif de Substack est donc moins d’interdire l’usage de l’IA que d’apporter davantage de transparence afin que chaque lecteur puisse se forger sa propre opinion.
Une tendance qui gagne l’ensemble des plateformes
Substack n’est pas le seul acteur à s’intéresser à cette problématique. Ces derniers mois, LinkedIn a commencé à limiter la visibilité de certains contenus jugés massivement générés par intelligence artificielle. De son côté, Meta développerait également son propre système de détection, même si celui-ci n’a pas encore été officiellement déployé.
L’ensemble de ces initiatives témoigne d’une préoccupation commune : préserver la confiance des utilisateurs dans un environnement numérique où les modèles génératifs produisent des textes toujours plus convaincants.
La transparence devient un nouvel enjeu stratégique
L’arrivée de ces outils marque une évolution importante dans la manière dont les plateformes abordent l’intelligence artificielle. Après une phase d’adoption rapide des technologies génératives, l’enjeu ne consiste plus uniquement à produire du contenu plus facilement, mais aussi à informer clairement les utilisateurs sur son origine. Cette quête de transparence pourrait progressivement devenir un critère de différenciation entre les plateformes de publication.
Toutefois, reste une question essentielle : les détecteurs d’IA pourront-ils suivre le rythme des modèles qu’ils tentent d’identifier ? À mesure que les grands modèles de langage deviennent plus sophistiqués, la frontière entre écriture humaine et génération automatique continue de s’estomper. Dans ce contexte, les outils de détection devront évoluer aussi rapidement que les technologies qu’ils sont censés surveiller.
