Revolución en las fábricas de IA: Cómo NVLink Fusion impulsa el rendimiento de los XPUs

How XPUs Meet a World-Class AI Factory

Para generar inteligencia a gran escala, las fábricas de IA operan de manera continua, y su economía se define por el rendimiento entregado: tokens por segundo, tokens por vatio, costo por token, utilización y tiempo de actividad. Esto requiere una infraestructura de IA diseñada y construida como una fábrica completa, no como una colección de aceleradores individuales.

Las empresas de hiperescala y las compañías nativas de IA que desarrollan XPUs personalizados deben considerar no solo el diseño de los XPUs, sino también el diseño y desarrollo de toda la plataforma de IA, incluyendo la red de escalado, la arquitectura a nivel de rack, el software de producción y un ecosistema robusto de proveedores. A escala de fábrica de IA, este camino es complejo y costoso, representando un obstáculo fundamental para llevar los XPUs al mercado rápidamente.

Romper esta limitación significa combinar XPUs personalizados con una infraestructura probada y madura, permitiendo a los constructores centrarse en la innovación donde más importa mientras aprovechan la tecnología establecida para el resto. NVLink Fusion responde a esta necesidad, conectando XPUs a la infraestructura de IA líder de NVIDIA para aumentar el rendimiento, acelerar el tiempo de comercialización y mitigar riesgos para fábricas de IA semi-personalizadas.

Para cargas de trabajo modernas, como modelos de trillones de parámetros y arquitecturas de mezcla de expertos, si la infraestructura de escalado no puede mantenerse al día, la utilización cae y el costo por token aumenta. Una solución de red de escalado debe sobresalir en tres dimensiones: rendimiento entregado, resiliencia de la fábrica y madurez de la plataforma.

NVLink Fusion lleva los XPUs al dominio de escalado de NVLink de NVIDIA. La sexta generación de NVLink proporciona una red de alta capacidad y baja latencia en un dominio de 72 XPUs. La latencia de extremo a extremo para transferencias de XPU a XPU es 3 veces menor que las soluciones alternativas basadas en Ethernet estándar, y la tasa de paquetes es 10 veces mayor.

Además, NVLink Fusion incluye NVLink-C2C de NVIDIA para conectar XPUs a CPUs Vera de NVIDIA u otras CPUs del ecosistema, ofreciendo hasta 6 veces la eficiencia energética de una interfaz PCIe, ayudando a eliminar barreras entre control y computación para sistemas agenticos.

Los equipos que desarrollan XPUs personalizados a menudo subestiman el esfuerzo y la complejidad de llevar la innovación de XPU al despliegue en centros de datos. Esto incluye integrar interfaces de CPU de alta velocidad y escalado, validar una solución de red de escalado, diseñar bandejas de computación y conmutación, y gestionar un ecosistema complejo de proveedores.

NVLink Fusion está respaldado por un ecosistema diseñado para el desarrollo, integración y despliegue rápidos, abarcando diseño ASIC, CPU, IP y socios de interconexión óptica. Los adoptantes de NVLink Fusion también pueden utilizar la arquitectura a nivel de rack NVIDIA MGX y la misma cadena de suministro utilizada para sistemas basados en MGX como NVIDIA Vera Rubin NVL72.

La planificación de fábricas de IA no espera al silicio. La adquisición de energía, el diseño de instalaciones, la refrigeración, la distribución de racks y la arquitectura de red comienzan mucho antes de que la mezcla final de aceleradores esté disponible. NVLink Fusion aborda estos desafíos a través de una arquitectura unificada, permitiendo que los sistemas basados en XPU y GPU compartan huellas de rack, redes, refrigeración, suministro de energía y sistemas de gestión.

Fuente: https://blogs.nvidia.com/blog/nvlink-fusion-xpu-ai-factory/