OpenAI ne veut plus seulement concevoir des modèles d’intelligence artificielle. L’entreprise veut aussi maîtriser le silicium qui les fait tourner. À Hot Chips, OpenAI a publié les premiers résultats détaillés de Jalapeño, son accélérateur d’inférence développé avec Broadcom, et les chiffres sont suffisamment ambitieux pour interpeller directement Nvidia.
Sur le benchmark InferenceX de SemiAnalysis, Jalapeño affiche à la fois davantage de débit par kilowatt et une meilleure latence que plusieurs systèmes commerciaux de référence. Une première démonstration qui donne un aperçu très concret de la stratégie full-stack d’OpenAI : concevoir modèles, logiciels, mémoire, réseau et puces comme un seul système.
Jalapeño entre directement dans la bataille des accélérateurs IA
OpenAI avait officialisé Jalapeño en juin comme son premier processeur dédié à l’inférence des grands modèles de langage. La puce a été conçue en étroite collaboration avec Broadcom, avec un objectif très différent de celui d’un GPU généraliste : optimiser spécifiquement le service des modèles d’IA, qu’il s’agisse de ChatGPT, de Codex ou de futurs agents.
À Hot Chips, l’entreprise a présenté une première série de résultats mesurés sur InferenceX, un benchmark public développé par SemiAnalysis.
Jalapeño y a été testé sur plusieurs modèles ouverts, dont GPT-OSS 120B, DeepSeek R1 670B et Kimi K2.5 1T. Le résultat est important : sur l’ensemble de ces charges, OpenAI affirme que sa plateforme offre une meilleure combinaison entre performances, consommation électrique et latence que les systèmes commerciaux utilisés pour la comparaison.
Jusqu’à 1,5 fois plus de performances par watt sur Kimi
L’un des résultats les plus impressionnants concerne Kimi K2.5 1T, le plus gros modèle public testé. OpenAI annonce environ 1,5 fois plus de performances de pointe par watt que le système concurrent utilisé dans le benchmark, avec une latence de bout en bout jusqu’à 3,4 fois inférieure.
D’autres comparaisons publiées autour de Jalapeño font également état de gains pouvant atteindre environ 1,9 fois plus de travail par watt et jusqu’à 3,6 fois moins de latence selon les modèles et les configurations.
La référence utilisée inclut des systèmes Nvidia basés sur Blackwell, notamment les plateformes GB200 et GB300.
Toutefois, il faut replacer ces résultats dans leur contexte. Jalapeño ne sera déployé qu’en très faibles volumes à la fin de 2026, avant une montée en puissance plus significative en 2027. D’ici là, Nvidia et ses concurrents auront eux aussi fait évoluer leurs architectures.
Les premiers benchmarks restent donc avant tout une photographie du rapport de forces actuel.
OpenAI mise sur l’inférence, pas sur l’entraînement
La spécialisation de Jalapeño est centrale pour comprendre ses performances. La puce n’a pas été conçue comme un accélérateur universel destiné à remplacer tous les GPU d’un data center. Elle cible spécifiquement l’inférence, c’est-à-dire la phase durant laquelle un modèle déjà entraîné répond aux utilisateurs.
C’est un choix logique pour OpenAI.
À mesure que ChatGPT, Codex et les agents IA gagnent des utilisateurs, une part croissante du coût total ne vient plus uniquement de l’entraînement initial des modèles, mais de leur exécution permanente à grande échelle.
Chaque requête, chaque token généré et chaque étape d’un agent consomment du calcul. Améliorer de quelques dizaines de pour cent l’efficacité de cette phase peut donc représenter des économies considérables lorsque l’infrastructure fonctionne à l’échelle de millions d’utilisateurs.
Jalapeño s’attaque aux véritables goulets d’étranglement
OpenAI explique avoir conçu la puce en partant des problèmes observés quotidiennement sur ses propres modèles. L’entreprise cite notamment deux phases critiques : le prefill, lorsque le système analyse le prompt et son contexte, puis les communications entre les différentes ressources de calcul pendant la génération.
Ces étapes peuvent devenir de sérieux goulets d’étranglement. Jalapeño cherche donc à réduire autant que possible les déplacements inutiles de données. OpenAI indique notamment que l’état du modèle, y compris le KV cache utilisé pendant la génération d’une réponse, peut être placé explicitement et conservé au plus près des ressources de calcul nécessaires. L’architecture peut ensuite activer la combinaison appropriée de calcul, mémoire et réseau selon la phase de l’inférence.
Cette optimisation peut paraître très technique, mais elle vise un résultat extrêmement concret : réduire le temps pendant lequel les unités de calcul attendent que les données arrivent.
Jusqu’à 550 W réellement consommés dans les tests
OpenAI insiste également sur le rapport entre performances et consommation. Jalapeño possède une enveloppe de puissance nominale de 700 W, mais l’entreprise précise que la consommation soutenue observée pendant les workloads testés est restée à 550 W ou moins. Ce chiffre est particulièrement important dans le contexte actuel des data centers IA. Le principal obstacle à la croissance de l’intelligence artificielle n’est plus uniquement la disponibilité des puces. L’accès à l’électricité, le refroidissement et la densité énergétique deviennent des contraintes tout aussi importantes.
Une plateforme capable de traiter davantage de tokens pour chaque kilowatt consommé permet donc d’augmenter la capacité d’un centre de données sans augmenter proportionnellement ses besoins énergétiques.
C’est précisément pour cette raison qu’OpenAI préfère mettre en avant les performances par unité de puissance plutôt que les performances absolues d’une seule puce.
Une architecture pensée pour les agents IA
La question de la latence prend également davantage d’importance avec l’arrivée des agents. Un chatbot traditionnel peut produire une réponse après une seule requête. Un agent, lui, peut effectuer des dizaines, voire des centaines d’étapes successives : chercher une information, utiliser un outil, analyser le résultat, reformuler une requête puis recommencer. Dans ce scénario, quelques centaines de millisecondes perdues à chaque étape finissent par s’additionner.
Une architecture capable d’améliorer simultanément le débit et la latence devient donc particulièrement intéressante.
Richard Ho, responsable du programme hardware chez OpenAI, résume cette ambition par une idée simple : Jalapeño doit pouvoir servir beaucoup d’utilisateurs tout en restant suffisamment rapide pour des interactions très sensibles au délai.
OpenAI a utilisé ses propres modèles pour concevoir la puce
L’histoire du développement de Jalapeño est presque aussi intéressante que ses performances. OpenAI indique avoir utilisé ses propres modèles d’IA pour accélérer certaines étapes de conception et d’optimisation du processeur. Le tape-out aurait ainsi été réalisé en seulement neuf mois, un délai particulièrement court pour une puce ASIC avancée.
Cette boucle est stratégique. Les modèles OpenAI participent à la conception du hardware qui servira ensuite à exécuter de futurs modèles. Ces nouvelles puces pourront à leur tour réduire le coût et la latence de l’inférence, permettant potentiellement de développer des produits plus complexes et davantage utilisés.
OpenAI veut transformer ce mécanisme en véritable cycle d’amélioration entre logiciels et matériel.
Jalapeño n’est que la première génération
L’entreprise ne présente d’ailleurs pas Jalapeño comme une expérience isolée. Il s’agit de la première étape d’une plateforme multigénérationnelle développée avec Broadcom et d’autres partenaires industriels. OpenAI veut pouvoir faire évoluer conjointement ses puces, son réseau, ses systèmes mémoire, ses kernels logiciels et ses modèles.
Cette approche rappelle les stratégies suivies depuis plusieurs années par Google avec ses TPU et Amazon avec Trainium et Inferentia. La différence est qu’OpenAI exploite directement certains des services d’IA générative les plus utilisés au monde.
Cette proximité avec les workloads réels peut lui permettre d’optimiser son hardware de manière beaucoup plus ciblée.
Une façon de réduire progressivement la dépendance à Nvidia
Toutefois, il serait prématuré de parler de rupture avec Nvidia. OpenAI continue d’utiliser d’immenses quantités de GPU Nvidia et Jalapeño ne remplace pas les accélérateurs nécessaires à l’entraînement des modèles.
Mais, la direction est claire. Plus OpenAI pourra transférer une partie de ses workloads d’inférence vers ses propres puces, plus l’entreprise gagnera en contrôle sur ses coûts, ses performances et sa capacité de déploiement. C’est également une manière de réduire l’exposition à un seul fournisseur dans un marché où les accélérateurs haut de gamme restent une ressource stratégique.
La bataille ne se joue donc pas uniquement sur la performance brute. Elle concerne aussi le contrôle de la chaîne d’approvisionnement, de l’énergie consommée et du coût par token.
Le véritable enjeu sera 2027
Les premiers résultats de Jalapeño sont impressionnants, mais ils arrivent avant le véritable déploiement massif de la plateforme. OpenAI prévoit seulement de petites quantités d’ici la fin de 2026, avant une montée en puissance en 2027.
Le test décisif sera donc moins de savoir si Jalapeño bat aujourd’hui une plateforme Blackwell dans certains benchmarks que de déterminer s’il peut conserver cet avantage lorsqu’il sera installé à grande échelle dans des data centers. Fiabilité, rendement industriel, coût de fabrication, logiciel et capacité à alimenter des millions de requêtes quotidiennes seront tout aussi importants que les chiffres publiés à Hot Chips.
Mais, une chose est déjà claire : OpenAI ne veut plus dépendre uniquement des progrès réalisés par les fabricants de GPU. Avec Jalapeño, l’entreprise commence à concevoir directement l’infrastructure qui définira la vitesse et le coût de ses futurs produits.
Et dans une industrie où quelques millisecondes et quelques watts multipliés par des milliards de requêtes peuvent représenter des fortunes, posséder sa propre puce pourrait devenir aussi stratégique que posséder le meilleur modèle.
