NVIDIA Revoluciona la IA con Nemotron 3.5 Lightning y NeMo Switchyard

NVIDIA Nemotron 3.5 Lightning and NeMo Switchyard Deliver Faster, Smarter, More Efficient Agentic AI

En un mundo donde la inteligencia artificial avanza hacia agentes autónomos, NVIDIA ha dado un paso significativo con el lanzamiento de Nemotron 3.5 Lightning y NeMo Switchyard. Estos desarrollos prometen una inteligencia artificial más rápida, inteligente y eficiente, respondiendo a las demandas del mercado por un control total sobre dónde se ejecuta la IA y cómo se despliega y evoluciona.

El Nemotron 3.5 Lightning, el modelo de mayor eficiencia en su clase, está diseñado para tareas especializadas dentro de sistemas multi-agente más grandes. Con 30 mil millones de parámetros, este modelo de mezcla de expertos ayuda a crear aplicaciones más inteligentes y eficientes. Además, NVIDIA ha lanzado NeMo Switchyard, una biblioteca de código abierto para el enrutamiento inteligente dentro de herramientas populares de agentes, permitiendo a las empresas construir un router basado en sus necesidades específicas.

Juntos, Nemotron 3.5 Lightning y NeMo Switchyard ofrecen un mayor control sobre cómo se despliega la IA, dónde se ejecuta y cuán eficientemente opera, ya sea en PCs, estaciones de trabajo, centros de datos o en la nube. Nemotron 3.5 Lightning proporciona inteligencia de frontera en un modelo abierto y personalizable, ideal para flujos de trabajo agenticos de alto volumen.

Los sistemas agenticos modernos operan como sistemas de modelos, con diferentes modelos especializados en distintas tareas. Los modelos abiertos de NVIDIA Nemotron están diseñados para esta arquitectura, permitiendo que modelos como Nemotron 3 Ultra o GPT-5.6 planifiquen y orquesten un flujo de trabajo, mientras que modelos más pequeños como Nemotron 3.5 Lightning realizan tareas específicas como revisión de código o monitoreo de alertas de seguridad.

El Nemotron 3.5 Lightning es un modelo abierto y totalmente personalizable, desarrollado con contribuciones de la Coalición Nemotron. Ofrece una velocidad de salida hasta 4 veces más rápida, lo que lleva a una finalización de tareas agenticas un 30% más rápida en comparación con otros modelos de su clase. Además, su capacidad de ser post-entrenado con NVIDIA NeMo en los datos de dominio de una organización permite mejorar la precisión para tareas especializadas.

Empresas líderes en diversas industrias están personalizando el Nemotron 3.5 Lightning para sus cargas de trabajo, mejorando la precisión en tareas agenticas específicas. Organizaciones como CrowdStrike, Harvey con Trajectory y CodeRabbit con Baseten están viendo mejoras significativas en ciberseguridad, servicios legales y revisión de código, respectivamente. Fastino Labs ha personalizado el modelo para obtener precisiones líderes en desarrollo de software, finanzas y salud.

El Nemotron 3.5 Lightning también ofrece a las organizaciones control sobre la privacidad y el despliegue, pudiendo ejecutarse en sistemas de IA locales o escalar a través de dispositivos de borde, estaciones de trabajo NVIDIA RTX PRO, centros de datos y entornos en la nube. NVIDIA también publica la mayor parte de los datos de entrenamiento y técnicas, permitiendo la trazabilidad y auditoría de otros modelos.

Por otro lado, NeMo Switchyard es una biblioteca de enrutamiento de modelos de código abierto para agentes de IA. Esta tecnología dirige automáticamente las solicitudes al modelo más capaz y eficiente para cada paso de un flujo de trabajo de agente, basado en necesidades específicas. Los desarrolladores de aplicaciones de agentes pueden ajustar o modificar el router con diferentes algoritmos de enrutamiento para cumplir con sus prioridades, como calidad, latencia y costos.

En conjunto, Nemotron 3.5 Lightning y NeMo Switchyard están transformando la manera en que las empresas despliegan y gestionan la inteligencia artificial, ofreciendo soluciones más eficientes y personalizables.

Fuente: https://blogs.nvidia.com/blog/nemotron-lightning-switchyard-rtx-dgx/