Quand on utilise ChatGPT, un modèle d’IA ne s’entraîne pas à chaque question. Il a déjà appris en amont. Au moment où il répond, il effectue ce qu’on appelle de l’inférence : il utilise ce qu’il a appris pour générer du texte, du code ou d’autres contenus. C’est précisément cette étape que vise Jalapeño, la première puce d’inférence d’OpenAI.
Pourquoi OpenAI fabrique sa propre puce
Jusqu’ici, OpenAI dépend surtout de puces fournies par d’autres entreprises, en particulier Nvidia. Concevoir une puce maison permettrait à l’entreprise de mieux contrôler ses coûts, ses performances et sa consommation d’énergie. Jalapeño a été développé avec Broadcom, spécialiste des semi-conducteurs. Le projet aurait commencé mi-2024, avant l’envoi du design final en fabrication en novembre 2025.
D’après SemiAnalysis, qui a pu voir la puce dans les laboratoires d’OpenAI, Jalapeño n’est pas seulement pensée pour les modèles internes de l’entreprise. Elle serait capable de faire tourner différents grands modèles de langage. OpenAI l’a même utilisée pour lancer Doom, porté avec l’aide de Codex. Ce n’est évidemment pas son usage principal, mais cela montre que la puce ne s’enferme pas dans un seul scénario.
Les premiers résultats communiqués sont plutôt bons. SemiAnalysis estime que Jalapeño fait mieux que plusieurs puces concurrentes sur un critère important : le nombre de tokens produits par mégawatt. Un token, pour simplifier, est un petit morceau de texte manipulé par un modèle d’IA. Plus une puce génère de tokens avec peu d’électricité, plus elle est intéressante pour une entreprise comme OpenAI.
Le sujet peut sembler très technique, mais l’enjeu est simple. Les grands centres de données ne sont pas seulement limités par le nombre de puces qu’ils peuvent acheter. Ils sont aussi limités par l’énergie qu’ils peuvent obtenir. Une puce plus efficace peut donc permettre de servir davantage d’utilisateurs avec la même quantité d’énergie.
La partie logicielle compte également beaucoup. OpenAI s’appuie sur Gluon, son langage de programmation, et sur Codex pour accélérer l’écriture et l’optimisation de certains morceaux de code très bas niveau. Autrement dit, l’entreprise utilise ses propres outils d’IA pour améliorer la manière dont sa puce exécute les modèles.
Il faut toutefois rester prudent. Les résultats viennent d’OpenAI, même si SemiAnalysis dit avoir pu en vérifier une partie sur place. Tous les tests n’ont pas encore été réalisés, notamment ceux qui reproduisent mieux des usages longs et complexes. Jalapeño existe bien, mais surtout sous forme d’échantillons d’ingénierie. La montée en production est prévue progressivement en 2027, avec les plus gros volumes attendus plutôt en fin d’année.