OpenAI revoluciona la IA con el chip Jalapeño: eficiencia y velocidad sin precedentes

OpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show

En la conferencia Hot Chips, OpenAI presentó su innovador chip Jalapeño, diseñado para ofrecer una inferencia rápida a gran escala. Según los primeros resultados de referencia, obtenidos con el benchmark InferenceX de SemiAnalysis, Jalapeño supera en tokens por usuario y rendimiento por kilovatio a los procesadores de inferencia más avanzados del momento.

Richard Ho, jefe de hardware de OpenAI, destacó en una conferencia de prensa que «los resultados muestran un avance de rendimiento muy significativo respecto al estado del arte». Jalapeño no solo puede gestionar más trabajo de IA por unidad de energía, sino que también ofrece respuestas con menor latencia, lo que lo hace altamente eficiente para atender a numerosos clientes.

Este nuevo chip fue desarrollado en colaboración con Broadcom y se espera que comience a desplegarse a finales de 2026, con una implementación más amplia en 2027. Jalapeño se concibe como una plataforma multigeneracional que integrará productos de IA, modelos, chips y memoria desarrollados conjuntamente.

OpenAI ha diseñado Jalapeño para minimizar los retrasos en las fases de pre-relleno y comunicación del procesamiento de inferencia, fases que a menudo actúan como cuellos de botella. «Diseñamos Jalapeño para minimizar el movimiento de datos y los retrasos de comunicación», explicó la compañía en una publicación de blog, subrayando que el estado del modelo, incluida la caché KV utilizada durante la generación de respuestas, puede mantenerse localmente mientras el sistema activa la combinación adecuada de computación, memoria y redes para cada fase de inferencia.

Fuente: https://techcrunch.com/2026/08/25/openais-jalapeno-chip-is-built-for-fast-inference-at-scale-benchmarks-show/