Yann LeCun ne partage pas les inquiétudes de nombreux dirigeants de l’IA concernant les risques existentiels liés à la technologie. Dans une interview accordée à Fortune, le chercheur français affirme ne pas être inquiet « du tout » d’un scénario dans lequel l’IA provoquerait l’extinction de l’humanité.
Il dit également ne ressentir « aucune inquiétude » face aux récents incidents impliquant des agents IA ayant adopté des comportements inattendus.
Pour LeCun, ces incidents relèvent avant tout de problèmes de conception, de cybersécurité et de supervision humaine, plutôt que d’une volonté propre des modèles. Il cite notamment l’incident impliquant des agents d’OpenAI et Hugging Face et estime que ce type de problème aurait pu être évité avec des environnements d’exécution correctement isolés.
« Ces agents font exactement ce qu’on leur a demandé de faire », explique-t-il à Fortune, estimant que les systèmes concernés auraient dû fonctionner dans des environnements sécurisés. Selon lui, certains laboratoires d’IA ne maîtrisent pas suffisamment les principes fondamentaux de la cybersécurité.
Le chercheur s’en prend également aux approches défendues par une partie du mouvement Effective Altruism (EA), qui accorde une place importante aux risques potentiellement catastrophiques liés à l’IA. LeCun considère que cette vision conduit certains chercheurs à accorder une importance excessive aux scénarios d’extinction et critique fortement l’influence de ces idées dans l’industrie.
Une opposition frontale à Dario Amodei
Cette divergence de vision l’oppose notamment à Dario Amodei, PDG d’Anthropic. LeCun critique ouvertement les avertissements du dirigeant concernant les risques liés à l’IA et considère que les déclarations selon lesquelles l’IA pourrait menacer l’humanité sont contre-productives.
Il va beaucoup plus loin dans l’interview en qualifiant Amodei de « complètement dans l’erreur » et, plus tard, de « fou ». Ces propos reflètent la position personnelle de LeCun et ne constituent évidemment pas une évaluation indépendante du dirigeant d’Anthropic.
LeCun estime par ailleurs que le principal risque ne se situe pas dans une éventuelle extinction provoquée par l’IA, mais dans ce qu’il appelle la « capture réglementaire » : selon cette conception, les grands acteurs du secteur pourraient contribuer à façonner des règles suffisamment contraignantes pour rendre l’entrée de nouveaux concurrents plus difficile.
AMI Labs mise sur les « world models »
Pendant que le débat sur la sécurité de l’IA s’intensifie, LeCun concentre désormais l’essentiel de son activité sur AMI Labs, la société qu’il a fondée après avoir quitté Meta, où il a passé 12 ans, dont sept comme chief AI scientist.
L’entreprise développe des world models reposant notamment sur l’architecture JEPA (Joint Embedding Predictive Architecture) défendue depuis plusieurs années par LeCun. Contrairement aux grands modèles de langage qui génèrent principalement du texte, cette approche cherche à permettre aux systèmes de représenter et de prédire des aspects du monde dans un espace de représentation interne.
AMI Labs vise pour l’instant principalement des applications industrielles : comprendre le fonctionnement d’une usine, d’un moteur ou d’une machine afin notamment de détecter des anomalies avant qu’une panne ne survienne. LeCun indique que le premier produit de l’entreprise devrait arriver « bientôt », avec la possibilité d’intégrer des modèles ouverts.
Son approche illustre ainsi une fracture persistante dans le monde de l’IA : certains chercheurs et dirigeants mettent l’accent sur les risques liés à des systèmes toujours plus autonomes, tandis que LeCun considère que les problèmes actuels relèvent surtout de la conception et du contrôle des infrastructures qui entourent ces systèmes.
