🌐 NVIDIA lanza Minerva para mejorar la gestión de fábricas de inteligencia artificial
NVIDIA Unveils Minerva to Bring End-to-End Observability for AI Factories
NVIDIA ha presentat avui Minerva, una plataforma AIOps dissenyada per ajudar els equips a identificar problemes de manera primerenca i mantenir la productivitat en les fàbriques d'intel·ligència artificial (IA). Minerva integra telemetria d'infraestructures i càrregues de treball d'IA, aplicant models d'IA específics per transformar aquestes dades en informació útil i oportuna.
Les fàbriques d'IA són operacions extremadament complexes, amb un gran nombre de GPUs treballant en xarxes d'alta velocitat per entrenar models i servir aplicacions d'IA. A aquesta escala, un sol component degradat pot alentir tot un treball. Les senyals d'advertència poden ser fàcils de passar per alt, com una GPU funcionant més calenta que les seves parelles o un disc NVMe perdent rendiment sota càrrega.
La plataforma se centra en el rendiment de les fàbriques d'IA, una mesura del treball útil que produeix la infraestructura a través d'hores de GPU, bon rendiment, temps d'activitat de clúster i producció de tokens.
Minerva ofereix una vista dinàmica d'una fàbrica d'IA, connectant senyals a través de GPUs de NVIDIA, xarxes, emmagatzematge, planificadors i càrregues de treball. Amb aquestes senyals, Minerva construeix un gràfic de coneixement dinàmic que mapatge lògicament la infraestructura i els treballs que s'executen en ella. Aquest context ajuda els operadors a rastrejar un treball d'entrenament lent fins al component que l'afecta, fins i tot en una fàbrica amb centenars de milers de GPUs.
Minerva analitza milers de milions de punts de dades per hora utilitzant aprenentatge automàtic supervisat i no supervisat. Aprèn el comportament normal, detecta anomalies no vistes prèviament, prediu fallades emergents i correlaciona esdeveniments relacionats basant-se en la topologia de la fàbrica. En lloc d'enviar cada símptoma a un operador, pot agrupar una tempesta d'esdeveniments en un incident enfocat amb una causa arrel probable.
Minerva ve amb un assistent d'IA natiu i es connecta a eines d'IA externes, afegint una interfície de llenguatge natural basada en telemetria en viu. Els operadors poden investigar la salut del clúster i rebre recomanacions de remediació a través de converses. Els equips poden mantenir una persona en el circuit per implementar manualment les solucions o connectar Minerva a l'automatització a través d'interfícies de programació d'aplicacions d'infraestructura i sistemes externs.
Aquesta capacitat de correlacionar problemes de càrrega de treball i infraestructura, juntament amb les seves capacitats d'IA, ajuda a simplificar les operacions de les fàbriques d'IA. En lloc de lidiar amb una allau d'alertes, Minerva agrega problemes relacionats en un sol element accionable, permetent que els equips d'AIOps passin d'un manteniment reactiu a un de proactiu. Tot això ajuda les fàbriques d'IA a maximitzar el temps d'activitat de les GPUs.
IREN és un dels socis de NVIDIA que utilitza Minerva per optimitzar les seves fàbriques d'IA. Denis Skrinnikoff, director de tecnologia d'IREN, comenta: "A mesura que escalem les nostres fàbriques d'IA, la clau per oferir el millor servei als nostres clients és maximitzar la productivitat de les nostres GPUs. NVIDIA Minerva proporciona al nostre equip d'operacions una vista única a través de la xarxa, les GPUs i els treballs que s'executen en elles, la qual cosa ens permet centrar-nos més en el manteniment proactiu en lloc de la resolució de problemes. Aquesta visibilitat enforteix el nostre model operatiu per a la infraestructura que estem construint a continuació."
Juntament amb IREN, empreses com Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI i Tesla planegen desplegar Minerva. A més, Dell Technologies, Lenovo i Supermicro oferiran Minerva com a part dels seus portafolis d'operacions de fàbriques d'IA.
Font: https://blogs.nvidia.com/blog/minerva-platform-infrastructure/
NVIDIA Unveils Minerva to Bring End-to-End Observability for AI Factories
NVIDIA ha presentado hoy Minerva, una plataforma AIOps diseñada para ayudar a los equipos a identificar problemas de manera temprana y mantener la productividad en las fábricas de inteligencia artificial (IA). Minerva integra telemetría de infraestructuras y cargas de trabajo de IA, aplicando modelos de IA específicos para transformar esos datos en información útil y oportuna.
Las fábricas de IA son operaciones extremadamente complejas, con un gran número de GPUs trabajando en redes de alta velocidad para entrenar modelos y servir aplicaciones de IA. A esa escala, un solo componente degradado puede ralentizar todo un trabajo. Las señales de advertencia pueden ser fáciles de pasar por alto, como una GPU funcionando más caliente que sus pares o un disco NVMe perdiendo rendimiento bajo carga.
La plataforma se centra en el rendimiento de las fábricas de IA, una medida del trabajo útil que produce la infraestructura a través de horas de GPU, buen rendimiento, tiempo de actividad de clúster y producción de tokens.
Minerva ofrece una vista dinámica de una fábrica de IA, conectando señales a través de GPUs de NVIDIA, redes, almacenamiento, planificadores y cargas de trabajo. Con estas señales, Minerva construye un gráfico de conocimiento dinámico que mapea lógicamente la infraestructura y los trabajos que se ejecutan en ella. Este contexto ayuda a los operadores a rastrear un trabajo de entrenamiento lento hasta el componente que lo afecta, incluso en una fábrica con cientos de miles de GPUs.
Minerva analiza miles de millones de puntos de datos por hora utilizando aprendizaje automático supervisado y no supervisado. Aprende el comportamiento normal, detecta anomalías no vistas previamente, predice fallos emergentes y correlaciona eventos relacionados basándose en la topología de la fábrica. En lugar de enviar cada síntoma a un operador, puede agrupar una tormenta de eventos en un incidente enfocado con una causa raíz probable.
Minerva viene con un asistente de IA nativo y se conecta a herramientas de IA externas, añadiendo una interfaz de lenguaje natural basada en telemetría en vivo. Los operadores pueden investigar la salud del clúster y recibir recomendaciones de remediación a través de conversaciones. Los equipos pueden mantener a una persona en el circuito para implementar manualmente las soluciones o conectar Minerva a la automatización a través de interfaces de programación de aplicaciones de infraestructura y sistemas externos.
Esta capacidad de correlacionar problemas de carga de trabajo e infraestructura, junto con sus capacidades de IA, ayuda a simplificar las operaciones de las fábricas de IA. En lugar de lidiar con una avalancha de alertas, Minerva agrega problemas relacionados en un solo elemento accionable, permitiendo que los equipos de AIOps pasen de un mantenimiento reactivo a uno proactivo. Todo esto ayuda a las fábricas de IA a maximizar el tiempo de actividad de las GPUs.
IREN es uno de los socios de NVIDIA que utiliza Minerva para optimizar sus fábricas de IA. Denis Skrinnikoff, director de tecnología de IREN, comenta: «A medida que escalamos nuestras fábricas de IA, la clave para ofrecer el mejor servicio a nuestros clientes es maximizar la productividad de nuestras GPUs. NVIDIA Minerva proporciona a nuestro equipo de operaciones una vista única a través de la red, las GPUs y los trabajos que se ejecutan en ellas, lo que nos permite centrarnos más en el mantenimiento proactivo en lugar de la resolución de problemas. Esa visibilidad fortalece nuestro modelo operativo para la infraestructura que estamos construyendo a continuación.»
Junto a IREN, empresas como Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI y Tesla planean desplegar Minerva. Además, Dell Technologies, Lenovo y Supermicro ofrecerán Minerva como parte de sus portafolios de operaciones de fábricas de IA.
Fuente: https://blogs.nvidia.com/blog/minerva-platform-infrastructure/
NVIDIA Unveils Minerva to Bring End-to-End Observability for AI Factories
NVIDIA today unveiled Minerva, an AIOps platform designed to help teams identify issues early and maintain productivity in artificial intelligence (AI) factories. Minerva integrates telemetry from infrastructure and AI workloads, applying specific AI models to transform that data into useful and timely information.
AI factories are extremely complex operations, with a large number of GPUs working on high-speed networks to train models and serve AI applications. At that scale, a single degraded component can slow down an entire job. Warning signals can be easy to overlook, such as a GPU running hotter than its peers or an NVMe drive losing performance under load.
The platform focuses on the performance of AI factories, a measure of the useful work produced by the infrastructure through GPU hours, good throughput, cluster uptime, and token production.
Minerva offers a dynamic view of an AI factory, connecting signals across NVIDIA GPUs, networks, storage, schedulers, and workloads. With these signals, Minerva builds a dynamic knowledge graph that logically maps the infrastructure and the jobs running on it. This context helps operators trace a slow training job back to the component affecting it, even in a factory with hundreds of thousands of GPUs.
Minerva analyses billions of data points per hour using supervised and unsupervised machine learning. It learns normal behaviour, detects previously unseen anomalies, predicts emerging failures, and correlates related events based on the factory's topology. Instead of sending every symptom to an operator, it can bundle a storm of events into a focused incident with a likely root cause.
Minerva comes with a native AI assistant and connects to external AI tools, adding a natural language interface based on live telemetry. Operators can investigate cluster health and receive remediation recommendations through conversations. Teams can keep a person in the loop to manually implement solutions or connect Minerva to automation through infrastructure application programming interfaces and external systems.
This ability to correlate workload and infrastructure issues, along with its AI capabilities, helps simplify AI factory operations. Instead of dealing with an avalanche of alerts, Minerva aggregates related issues into a single actionable item, allowing AIOps teams to move from reactive to proactive maintenance. All of this helps AI factories maximise GPU uptime.
IREN is one of NVIDIA's partners using Minerva to optimise its AI factories. Denis Skrinnikoff, IREN's Chief Technology Officer, comments: "As we scale our AI factories, the key to delivering the best service to our customers is maximising the productivity of our GPUs. NVIDIA Minerva provides our operations team with a unique view across the network, GPUs, and the jobs running on them, allowing us to focus more on proactive maintenance rather than troubleshooting. That visibility strengthens our operating model for the infrastructure we are building next."
Alongside IREN, companies such as Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI, and Tesla plan to deploy Minerva. Additionally, Dell Technologies, Lenovo, and Supermicro will offer Minerva as part of their AI factory operations portfolios.
Source: https://blogs.nvidia.com/blog/minerva-platform-infrastructure/
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →