El nuevo chip de inferencia de OpenAI tiene nombre y ya está dando que hablar. Se llama Jalapeño y llega para hacer una tarea muy concreta pero cada vez más decisiva, ejecutar modelos ya entrenados y generar las respuestas que aparecen cuando alguien usa ChatGPT, la API o un agente. Los analistas de SemiAnalysis lo han puesto a prueba y la conclusión resulta incómoda para Nvidia, porque en varias cargas Jalapeño se coloca por delante de los chips Blackwell.
La jugada de OpenAI tiene lógica. Se trata de un componente diseñado específicamente para la inferencia de grandes modelos de lenguaje, algo que obliga a renunciar a parte de la flexibilidad de una GPU normal a cambio de optimizar justo aquello que más interesa. En las pruebas con modelos abiertos como GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5 1T aparecieron ventajas claras en dos frentes, latencia y rendimiento por vatio. Según los datos que maneja OpenAI, se habla de hasta 3,6 veces menos latencia y entre 1,5 y 1,9 veces más rendimiento por vatio que Blackwell, dependiendo del modelo y la configuración.
Un chip que todavía no ha enseñado todo lo que puede
Y lo curioso es que Jalapeño consigue estos números sin estar del todo pulido. Los analistas destacan que supera a Blackwell en rendimiento por vatio en casi todos los escenarios sin siquiera activar la técnica Multi-Token Prediction, la que permite generar varios tokens de forma especulativa y que sí estaba en funcionamiento en las configuraciones rivales. Cuando incorpore esa optimización el margen podría ampliarse, y en coste total de propiedad hay quien cree que el chip llega a acercarse incluso a Vera Rubin, la próxima generación de Nvidia.
Conviene no perder la perspectiva. Nvidia mantiene una ventaja enorme en el entrenamiento de modelos y, sobre todo, en el ecosistema CUDA que lleva casi dos décadas levantando. OpenAI va a seguir necesitando muchísimas GPUs de Nvidia para entrenar y probablemente también para parte de la inferencia. Jalapeño no cambia eso, resuelve otra cosa.
Link affiliatoEl verdadero motivo detrás de un chip a medida
Aquí entran los incentivos económicos. Entrenar un modelo cuesta una fortuna pero se hace una vez. Servirlo cuesta dinero cada vez que alguien lo usa, y ese gasto se dispara con los agentes de IA capaces de lanzar montones de peticiones para completar una sola tarea. Nadie conoce mejor que OpenAI qué necesitan sus modelos al ejecutarse, así que diseñar un chip pensado para eso puede resultar más eficiente que tirar de una GPU pensada para hacer de todo. Cuando la operación se repite miles de millones de veces, cada céntimo cuenta.
Por ahora Jalapeño no está pensado para venderse a terceros. La compañía dirigida por Sam Altman quiere usarlo en su propia infraestructura, abaratar cuánto le cuesta cada token y depender un poco menos de Nvidia. No es la única que va por ese camino. Google lleva años con sus TPU, Amazon cuenta con Titanium e Inferentia, y Microsoft, Meta y otros también empujan con sus propios chips especializados. En el terreno de la inferencia la competencia aprieta, aunque Nvidia guarda un as en la manga tras la compra de Groq.
Fuente
Imagen: xataka.com