🌐 NVIDIA destaca en MLPerf con la plataforma Vera Rubin y su rendimiento líder
NVIDIA arrasa a MLPerf Training i Endpoints mentre Vera Rubin debuta amb un rendiment líder
En el seu debut als benchmarks de MLPerf, la plataforma Vera Rubin de NVIDIA ha demostrat un rendiment líder en entrenament, post-entrenament i inferència agèntica. NVIDIA ha arrasat amb cada benchmark de MLPerf Training v6.1 i, en la seva primera presentació a MLPerf Endpoints, ha aconseguit més de 10 vegades els guanys generacionals en rendiment per watt per a IA agèntica, la qual cosa mesura quanta càrrega de treball agèntica lliura un sistema amb cada watt d'energia.
Aquests resultats són només el començament. El rendiment de Vera Rubin continuarà augmentant a través de l'optimització contínua de l'stack de programari potenciat per CUDA de NVIDIA, assegurant que la infraestructura en la qual els clients inverteixen avui ofereixi més valor amb el temps.
Els agents d'IA són ara a tot arreu, escrivint codi, executant fluxos de treball empresarials, responent preguntes de clients i, com destaca la conferència SC26 d'aquesta setmana, avançant en la recerca científica. Un entrenament més ràpid significa que els agents més intel·ligents poden arribar als usuaris més aviat, els models de descobriment de fàrmacs poden mantenir-se al dia amb noves dades de laboratori i els models de detecció de fraus poden adaptar-se més ràpidament a noves amenaces.
MLPerf Training mesura la rapidesa amb què un sistema pot entrenar una gamma de models d'IA fins a un nivell objectiu de precisió. La plataforma de NVIDIA va ser l'única amb resultats en cada benchmark d'aquesta ronda, abastant models de llenguatge gran, generació d'imatges, sistemes de recomanació i aprenentatge per reforç post-entrenament. En el seu debut, Vera Rubin NVL72 va lliurar fins a 2 vegades més rendiment per GPU que el sistema altament optimitzat NVIDIA GB300 NVL72, mostrant els primers resultats del ritme d'innovació generació rere generació.
NVIDIA també va demostrar rendiment a escala. En el benchmark DeepSeek-V3, Vera Rubin NVL72 va escalar de 256 a 1.024 GPUs amb aproximadament un 97% d'eficiència: quadruplicar les GPUs va reduir el temps d'entrenament de 16 minuts a aproximadament quatre. NVIDIA també va executar el benchmark en 10.240 GPUs amb sistemes GB300, representant l'escala més gran en aquesta ronda. Microsoft Azure va igualar aquesta escala amb 10.240 GPUs NVIDIA amb sistemes GB200.
Els resultats a aquesta escala són importants perquè afegir GPUs només accelera l'entrenament si poden treballar juntes eficientment. La xarxa d'escalat NVIDIA NVLink connecta les GPUs dins de cada sistema perquè actuïn com un de sol, mentre que les xarxes d'escalat NVIDIA Quantum-X800 InfiniBand i Spectrum-X Ethernet vinculen aquests sistemes a través del centre de dades. Combinat amb programari optimitzat, això manté milers de GPUs treballant conjuntament, ajudant els desenvolupadors a construir models més intel·ligents mentre es redueixen els temps d'entrenament.
Un agent d'IA per a viatges que planifica i reserva un viatge complet, o un agent de TI que troba i soluciona un problema abans que algú presenti un tiquet, pot raonar, cridar eines i verificar el seu treball moltes vegades per completar una sola tasca. Cadascun d'aquests passos genera tokens. Atès que els centres de dades d'IA estan limitats per l'energia, com més tokens pugui generar un sistema cada segon per cada watt d'energia, més agents pot servir i més valor crea.
MLPerf Endpoints prova els sistemes en codificació agèntica real i fluxos de treball empresarials, i verifica que els agents encara completin les seves tasques correctament. NVIDIA Vera Rubin lidera en tots els seus benchmarks agèntics.
Per exemple, en un resultat provisional per a Kimi K3, un model obert gran construït per a fluxos de treball agèntics, els sistemes Vera Rubin NVL72 lliuren més de 10 vegades el rendiment per watt del NVIDIA GB300 NVL72 a la mateixa velocitat de resposta.
Cada servei d'IA ha d'equilibrar el servei a molts usuaris alhora contra la resposta ràpida a cadascun. Vera Rubin canvia tota aquesta corba, servint a més usuaris mentre respon més ràpidament.
NVIDIA i els seus socis van participar extensament a MLPerf Training, amb presentacions de 20 organitzacions, mostrant com la plataforma programable de NVIDIA, amb biblioteques i frameworks de codi obert, permet a un vast ecosistema de socis innovar i optimitzar el rendiment de l'entrenament d'IA.
Font: https://blogs.nvidia.com/blog/mlperf-training-endpoints-vera-rubin/
NVIDIA Sweeps MLPerf Training and Endpoints as Vera Rubin Debuts With Leading Performance
En su debut en los benchmarks de MLPerf, la plataforma Vera Rubin de NVIDIA ha demostrado un rendimiento líder en entrenamiento, post-entrenamiento e inferencia agéntica. NVIDIA ha arrasado con cada benchmark de MLPerf Training v6.1 y, en su primera presentación en MLPerf Endpoints, ha logrado más de 10 veces las ganancias generacionales en rendimiento por vatio para IA agéntica, lo que mide cuánta carga de trabajo agéntica entrega un sistema con cada vatio de energía.
Estos resultados son solo el comienzo. El rendimiento de Vera Rubin seguirá aumentando a través de la optimización continua del stack de software potenciado por CUDA de NVIDIA, asegurando que la infraestructura en la que los clientes invierten hoy ofrezca más valor con el tiempo.
Los agentes de IA están ahora en todas partes, escribiendo código, ejecutando flujos de trabajo empresariales, respondiendo preguntas de clientes y, como destaca la conferencia SC26 de esta semana, avanzando en la investigación científica. Un entrenamiento más rápido significa que los agentes más inteligentes pueden llegar a los usuarios más pronto, los modelos de descubrimiento de fármacos pueden mantenerse al día con nuevos datos de laboratorio y los modelos de detección de fraudes pueden adaptarse más rápidamente a nuevas amenazas.
MLPerf Training mide la rapidez con la que un sistema puede entrenar una gama de modelos de IA hasta un nivel objetivo de precisión. La plataforma de NVIDIA fue la única con resultados en cada benchmark de esta ronda, abarcando modelos de lenguaje grande, generación de imágenes, sistemas de recomendación y aprendizaje por refuerzo post-entrenamiento. En su debut, Vera Rubin NVL72 entregó hasta 2 veces más rendimiento por GPU que el sistema altamente optimizado NVIDIA GB300 NVL72, mostrando los primeros resultados del ritmo de innovación generación tras generación.
NVIDIA también demostró rendimiento a escala. En el benchmark DeepSeek-V3, Vera Rubin NVL72 escaló de 256 a 1,024 GPUs con aproximadamente un 97% de eficiencia: cuadruplicar las GPUs redujo el tiempo de entrenamiento de 16 minutos a aproximadamente cuatro. NVIDIA también ejecutó el benchmark en 10,240 GPUs con sistemas GB300, representando la escala más grande en esta ronda. Microsoft Azure igualó esa escala con 10,240 GPUs NVIDIA con sistemas GB200.
Los resultados a esta escala son importantes porque agregar GPUs solo acelera el entrenamiento si pueden trabajar juntas eficientemente. La red de escalado NVIDIA NVLink conecta las GPUs dentro de cada sistema para que actúen como uno solo, mientras que las redes de escalado NVIDIA Quantum-X800 InfiniBand y Spectrum-X Ethernet vinculan esos sistemas a través del centro de datos. Combinado con software optimizado, esto mantiene miles de GPUs trabajando en conjunto, ayudando a los desarrolladores a construir modelos más inteligentes mientras se reducen los tiempos de entrenamiento.
Un agente de IA para viajes que planea y reserva un viaje completo, o un agente de TI que encuentra y soluciona un problema antes de que alguien presente un ticket, puede razonar, llamar a herramientas y verificar su trabajo muchas veces para completar una sola tarea. Cada uno de esos pasos genera tokens. Dado que los centros de datos de IA están limitados por la energía, cuanto más tokens pueda generar un sistema cada segundo por cada vatio de energía, más agentes puede servir y más valor crea.
MLPerf Endpoints prueba los sistemas en codificación agéntica real y flujos de trabajo empresariales, y verifica que los agentes aún completen sus tareas correctamente. NVIDIA Vera Rubin lidera en todos sus benchmarks agénticos.
Por ejemplo, en un resultado provisional para Kimi K3, un modelo abierto grande construido para flujos de trabajo agénticos, los sistemas Vera Rubin NVL72 entregan más de 10 veces el rendimiento por vatio del NVIDIA GB300 NVL72 a la misma velocidad de respuesta.
Cada servicio de IA debe equilibrar el servicio a muchos usuarios a la vez contra la respuesta rápida a cada uno. Vera Rubin cambia toda esa curva, sirviendo a más usuarios mientras responde más rápido.
NVIDIA y sus socios participaron extensamente en MLPerf Training, con presentaciones de 20 organizaciones, mostrando cómo la plataforma programable de NVIDIA, con bibliotecas y frameworks de código abierto, permite a un vasto ecosistema de socios innovar y optimizar el rendimiento del entrenamiento de IA.
Fuente: https://blogs.nvidia.com/blog/mlperf-training-endpoints-vera-rubin/
NVIDIA Sweeps MLPerf Training and Endpoints as Vera Rubin Debuts With Leading Performance
In its debut in the MLPerf benchmarks, NVIDIA's Vera Rubin platform has demonstrated leading performance in training, post-training, and agentic inference. NVIDIA has swept every MLPerf Training v6.1 benchmark and, in its first appearance in MLPerf Endpoints, has achieved more than 10 times the generational gains in performance per watt for agentic AI, which measures how much agentic workload a system delivers with each watt of energy.
These results are just the beginning. Vera Rubin's performance will continue to increase through the ongoing optimisation of NVIDIA's CUDA-powered software stack, ensuring that the infrastructure customers invest in today offers more value over time.
AI agents are now everywhere, writing code, executing enterprise workflows, answering customer questions, and, as highlighted by this week's SC26 conference, advancing scientific research. Faster training means smarter agents can reach users sooner, drug discovery models can keep up with new lab data, and fraud detection models can adapt more quickly to new threats.
MLPerf Training measures how quickly a system can train a range of AI models to a target level of accuracy. NVIDIA's platform was the only one with results in every benchmark this round, covering large language models, image generation, recommendation systems, and post-training reinforcement learning. In its debut, Vera Rubin NVL72 delivered up to 2 times more performance per GPU than the highly optimised NVIDIA GB300 NVL72 system, showcasing the initial results of the pace of innovation generation after generation.
NVIDIA also demonstrated performance at scale. In the DeepSeek-V3 benchmark, Vera Rubin NVL72 scaled from 256 to 1,024 GPUs with approximately 97% efficiency: quadrupling the GPUs reduced training time from 16 minutes to about four. NVIDIA also ran the benchmark on 10,240 GPUs with GB300 systems, representing the largest scale in this round. Microsoft Azure matched that scale with 10,240 NVIDIA GPUs with GB200 systems.
Results at this scale are important because adding GPUs only speeds up training if they can work together efficiently. The NVIDIA NVLink scaling network connects the GPUs within each system to act as one, while the NVIDIA Quantum-X800 InfiniBand and Spectrum-X Ethernet scaling networks link those systems across the data centre. Combined with optimised software, this keeps thousands of GPUs working together, helping developers build smarter models while reducing training times.
An AI travel agent that plans and books an entire trip, or an IT agent that finds and fixes a problem before anyone files a ticket, can reason, call tools, and check its work many times to complete a single task. Each of those steps generates tokens. Since AI data centres are energy-constrained, the more tokens a system can generate each second per watt of energy, the more agents it can serve and the more value it creates.
MLPerf Endpoints tests systems in real agentic coding and enterprise workflows, and verifies that agents still complete their tasks correctly. NVIDIA Vera Rubin leads in all its agentic benchmarks.
For example, in a provisional result for Kimi K3, a large open model built for agentic workflows, Vera Rubin NVL72 systems deliver more than 10 times the performance per watt of the NVIDIA GB300 NVL72 at the same response speed.
Every AI service must balance serving many users at once against quick response to each. Vera Rubin shifts that entire curve, serving more users while responding faster.
NVIDIA and its partners participated extensively in MLPerf Training, with submissions from 20 organisations, showing how NVIDIA's programmable platform, with open-source libraries and frameworks, enables a vast ecosystem of partners to innovate and optimise AI training performance.
Source: https://blogs.nvidia.com/blog/mlperf-training-endpoints-vera-rubin/
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →