OpenAI’s Jalapeño è un tentativo mirato di allentare la presa di Nvidia sul boom dell’IA: un chip progettato per rendere le risposte dei modelli più rapide ed economiche. Ma il promettente debutto nei benchmark dell’azienda non è ancora una dichiarazione di indipendenza dall’hardware.

Annunciato per la prima volta lo scorso ottobre e sviluppato con Broadcom, Jalapeño è stato presentato martedì a Hot Chips come il primo processore di inferenza personalizzato di OpenAI. I test sul benchmark InferenceX di SemiAnalysis lo collocano davanti ai sistemi disponibili per throughput per kilowatt e velocità di risposta, inclusa una comparazione con Nvidia Blackwell. Richard Ho, responsabile hardware di OpenAI, ha definito i risultati “un progresso prestazionale molto, molto significativo rispetto allo stato dell’arte.”¹

Il resoconto di OpenAI amplia il quadro: su GPT-OSS 120B, DeepSeek R1 e Kimi K2.5 1T, l’azienda afferma che Jalapeño ha fornito da 1,5 a 1,9 volte più lavoro per watt al massimo throughput e una latenza end-to-end da 1,7 a 3,6 volte inferiore rispetto ai sistemi di confronto.² Il vantaggio dichiarato poggia sulla personalizzazione del chip, della memoria, del networking e del software di serving per le distinte fasi di prefill e decode dell’inferenza dei modelli linguistici, riducendo movimento dei dati e ritardi.

Questo approccio full stack è il premio strategico. OpenAI afferma che possedere una quota maggiore dell’infrastruttura le dà un controllo superiore sull’economia del serving dei modelli, pur mantenendo un ampio portafoglio di fornitori che include Microsoft, Nvidia, AMD, AWS, Broadcom e altri.³ In altre parole, Jalapeño è leva—non un piano di sostituzione totale.

I limiti sono chiari. Il chip è progettato per l’inferenza, non per l’addestramento dei modelli di frontiera, lasciando OpenAI dipendente da Nvidia e altri fornitori per l’enorme espansione di capacità di calcolo che l’attende. “Avremo bisogno di moltissima capacità di calcolo,” ha detto Ho. “E Jalapeño fa parte di questo. Cerberus fa parte di questo. Nvidia fa parte di questo. AMD fa parte di questo.”⁴

OpenAI afferma che il dispiegamento inizierà in forma limitata prima di scalare attraverso le generazioni successive. Il test decisivo sarà se quei risultati di laboratorio reggeranno in produzione su larga scala—mentre i chip rivali continuano a progredire.