🌐 La Seguridad: Pilar Fundamental para el Despliegue Masivo de la IA Física

Why Deploying Physical AI at Scale Demands Safety at Every Layer

La inteligencia artificial física está avanzando rápidamente desde la investigación hacia un despliegue a gran escala. Según ABI Research, se espera que para 2035 haya una base instalada de 49 millones de vehículos autónomos (AVs) de nivel 3-5, mientras que Omdia estima que se desplegarán aproximadamente 60 millones de robots industriales entre 2026 y 2035. A medida que estas máquinas comienzan a ocupar carreteras, fábricas y almacenes, compartiendo espacios con personas, la seguridad debe escalar con ellas.

La seguridad en la IA física implica demostrar que las máquinas impulsadas por IA, como los AVs, robots humanoides y robots industriales, se comportan de manera segura cuando sus decisiones se traducen en acciones físicas. Esto requiere seguridad en el hardware, software, comportamiento de la IA, entorno operativo y a lo largo de todo el ciclo de vida del despliegue, no solo una verificación única antes del despliegue.

Tras años de pruebas y evaluaciones comparativas, los AVs continúan expandiéndose comercialmente. Este progreso ha requerido que los desarrolladores demuestren cómo los sistemas automatizados abordan posibles fallos de hardware y software, limitaciones en la funcionalidad prevista y riesgos específicos de la IA. La robótica está alcanzando un punto de inflexión similar a medida que las máquinas autónomas se introducen en fábricas y otros entornos compartidos con personas.

A lo largo de la IA física, fabricantes, reguladores, aseguradoras y equipos de seguridad laboral necesitan evidencia de que el hardware, software, comportamiento de la IA y entornos operativos pueden funcionar juntos de manera segura sin intervención humana. Cuatro cambios definen nuevos estándares de seguridad: los entornos dinámicos requieren seguridad consciente del contexto, el comportamiento de la IA necesita su propia garantía, el despliegue es continuo y la validación a escala requiere simulación y datos sintéticos.

NVIDIA ha desarrollado una base de seguridad para la IA física que se basa en más de una década de desarrollo en seguridad de AVs, construyendo experiencia en seguridad funcional, fusión de sensores, garantía de comportamiento de la IA, visión AI, simulación y validación en el mundo real. NVIDIA Halos es el primer y único sistema de seguridad de pila completa para la IA física, ayudando a los desarrolladores a diseñar la seguridad en cada capa de diseño, validación y despliegue.

Para el desarrollo de AVs, Halos abarca desde hardware como NVIDIA DRIVE AGX Thor, hasta sistemas operativos y middleware como Halos OS, y modelos de extremo a extremo como NVIDIA Alpamayo. En robótica, Halos incluye hardware como NVIDIA IGX Thor y software como Halos Core para IGX. Además, NVIDIA Holoscan Sensor Bridge y las bibliotecas NVIDIA Isaac Lab y NVIDIA Omniverse permiten probar el comportamiento de los robots en condiciones relevantes, complementando la validación en el mundo real.

NVIDIA Halos conecta a las empresas que construyen, integran, evalúan y despliegan soluciones de IA física, incluyendo desarrolladores de productos, software y sistemas embebidos.

Fuente: https://blogs.nvidia.com/blog/physical-ai-halos-safety/