🌐 La Seguridad: Pilar Fundamental para el Despliegue Masivo de la IA Física
Per què el desplegament de la IA física a gran escala exigeix seguretat en cada capa
La intel·ligència artificial física està avançant ràpidament des de la investigació cap a un desplegament a gran escala. Segons ABI Research, s'espera que per al 2035 hi hagi una base instal·lada de 49 milions de vehicles autònoms (AVs) de nivell 3-5, mentre que Omdia estima que es desplegaran aproximadament 60 milions de robots industrials entre 2026 i 2035. A mesura que aquestes màquines comencen a ocupar carreteres, fàbriques i magatzems, compartint espais amb persones, la seguretat ha d'escalar amb elles.
La seguretat en la IA física implica demostrar que les màquines impulsades per IA, com els AVs, robots humanoides i robots industrials, es comporten de manera segura quan les seves decisions es tradueixen en accions físiques. Això requereix seguretat en el maquinari, programari, comportament de la IA, entorn operatiu i al llarg de tot el cicle de vida del desplegament, no només una verificació única abans del desplegament.
Després d'anys de proves i avaluacions comparatives, els AVs continuen expandint-se comercialment. Aquest progrés ha requerit que els desenvolupadors demostrin com els sistemes automatitzats aborden possibles fallades de maquinari i programari, limitacions en la funcionalitat prevista i riscos específics de la IA. La robòtica està assolint un punt d'inflexió similar a mesura que les màquines autònomes s'introdueixen en fàbriques i altres entorns compartits amb persones.
Al llarg de la IA física, fabricants, reguladors, asseguradores i equips de seguretat laboral necessiten evidència que el maquinari, programari, comportament de la IA i entorns operatius poden funcionar junts de manera segura sense intervenció humana. Quatre canvis defineixen nous estàndards de seguretat: els entorns dinàmics requereixen seguretat conscient del context, el comportament de la IA necessita la seva pròpia garantia, el desplegament és continu i la validació a escala requereix simulació i dades sintètiques.
NVIDIA ha desenvolupat una base de seguretat per a la IA física que es basa en més d'una dècada de desenvolupament en seguretat d'AVs, construint experiència en seguretat funcional, fusió de sensors, garantia de comportament de la IA, visió AI, simulació i validació en el món real. NVIDIA Halos és el primer i únic sistema de seguretat de pila completa per a la IA física, ajudant els desenvolupadors a dissenyar la seguretat en cada capa de disseny, validació i desplegament.
Per al desenvolupament d'AVs, Halos abasta des de maquinari com NVIDIA DRIVE AGX Thor, fins a sistemes operatius i middleware com Halos OS, i models de punta a punta com NVIDIA Alpamayo. En robòtica, Halos inclou maquinari com NVIDIA IGX Thor i programari com Halos Core per a IGX. A més, NVIDIA Holoscan Sensor Bridge i les biblioteques NVIDIA Isaac Lab i NVIDIA Omniverse permeten provar el comportament dels robots en condicions rellevants, complementant la validació en el món real.
NVIDIA Halos connecta les empreses que construeixen, integren, avaluen i despleguen solucions de IA física, incloent desenvolupadors de productes, programari i sistemes embeguts.
Font: https://blogs.nvidia.com/blog/physical-ai-halos-safety/
Why Deploying Physical AI at Scale Demands Safety at Every Layer
La inteligencia artificial física está avanzando rápidamente desde la investigación hacia un despliegue a gran escala. Según ABI Research, se espera que para 2035 haya una base instalada de 49 millones de vehículos autónomos (AVs) de nivel 3-5, mientras que Omdia estima que se desplegarán aproximadamente 60 millones de robots industriales entre 2026 y 2035. A medida que estas máquinas comienzan a ocupar carreteras, fábricas y almacenes, compartiendo espacios con personas, la seguridad debe escalar con ellas.
La seguridad en la IA física implica demostrar que las máquinas impulsadas por IA, como los AVs, robots humanoides y robots industriales, se comportan de manera segura cuando sus decisiones se traducen en acciones físicas. Esto requiere seguridad en el hardware, software, comportamiento de la IA, entorno operativo y a lo largo de todo el ciclo de vida del despliegue, no solo una verificación única antes del despliegue.
Tras años de pruebas y evaluaciones comparativas, los AVs continúan expandiéndose comercialmente. Este progreso ha requerido que los desarrolladores demuestren cómo los sistemas automatizados abordan posibles fallos de hardware y software, limitaciones en la funcionalidad prevista y riesgos específicos de la IA. La robótica está alcanzando un punto de inflexión similar a medida que las máquinas autónomas se introducen en fábricas y otros entornos compartidos con personas.
A lo largo de la IA física, fabricantes, reguladores, aseguradoras y equipos de seguridad laboral necesitan evidencia de que el hardware, software, comportamiento de la IA y entornos operativos pueden funcionar juntos de manera segura sin intervención humana. Cuatro cambios definen nuevos estándares de seguridad: los entornos dinámicos requieren seguridad consciente del contexto, el comportamiento de la IA necesita su propia garantía, el despliegue es continuo y la validación a escala requiere simulación y datos sintéticos.
NVIDIA ha desarrollado una base de seguridad para la IA física que se basa en más de una década de desarrollo en seguridad de AVs, construyendo experiencia en seguridad funcional, fusión de sensores, garantía de comportamiento de la IA, visión AI, simulación y validación en el mundo real. NVIDIA Halos es el primer y único sistema de seguridad de pila completa para la IA física, ayudando a los desarrolladores a diseñar la seguridad en cada capa de diseño, validación y despliegue.
Para el desarrollo de AVs, Halos abarca desde hardware como NVIDIA DRIVE AGX Thor, hasta sistemas operativos y middleware como Halos OS, y modelos de extremo a extremo como NVIDIA Alpamayo. En robótica, Halos incluye hardware como NVIDIA IGX Thor y software como Halos Core para IGX. Además, NVIDIA Holoscan Sensor Bridge y las bibliotecas NVIDIA Isaac Lab y NVIDIA Omniverse permiten probar el comportamiento de los robots en condiciones relevantes, complementando la validación en el mundo real.
NVIDIA Halos conecta a las empresas que construyen, integran, evalúan y despliegan soluciones de IA física, incluyendo desarrolladores de productos, software y sistemas embebidos.
Fuente: https://blogs.nvidia.com/blog/physical-ai-halos-safety/
Why Deploying Physical AI at Scale Demands Safety at Every Layer
Physical artificial intelligence is rapidly advancing from research to large-scale deployment. According to ABI Research, it is expected that by 2035 there will be an installed base of 49 million autonomous vehicles (AVs) at levels 3-5, while Omdia estimates that approximately 60 million industrial robots will be deployed between 2026 and 2035. As these machines begin to occupy roads, factories, and warehouses, sharing spaces with people, safety must scale with them.
Safety in physical AI involves demonstrating that AI-driven machines, such as AVs, humanoid robots, and industrial robots, behave safely when their decisions translate into physical actions. This requires safety in hardware, software, AI behaviour, operating environment, and throughout the entire deployment lifecycle, not just a one-time verification before deployment.
After years of testing and benchmarking, AVs continue to expand commercially. This progress has required developers to demonstrate how automated systems address potential hardware and software failures, limitations in intended functionality, and AI-specific risks. Robotics is reaching a similar inflection point as autonomous machines are introduced into factories and other environments shared with people.
Throughout physical AI, manufacturers, regulators, insurers, and occupational safety teams need evidence that hardware, software, AI behaviour, and operating environments can work together safely without human intervention. Four changes define new safety standards: dynamic environments require context-aware safety, AI behaviour needs its own assurance, deployment is continuous, and validation at scale requires simulation and synthetic data.
NVIDIA has developed a safety foundation for physical AI based on over a decade of development in AV safety, building expertise in functional safety, sensor fusion, AI behaviour assurance, AI vision, simulation, and real-world validation. NVIDIA Halos is the first and only full-stack safety system for physical AI, helping developers design safety into every layer of design, validation, and deployment.
For AV development, Halos spans from hardware like NVIDIA DRIVE AGX Thor, to operating systems and middleware like Halos OS, and end-to-end models like NVIDIA Alpamayo. In robotics, Halos includes hardware like NVIDIA IGX Thor and software like Halos Core for IGX. Additionally, NVIDIA Holoscan Sensor Bridge and the NVIDIA Isaac Lab and NVIDIA Omniverse libraries allow testing of robot behaviour in relevant conditions, complementing real-world validation.
NVIDIA Halos connects companies that build, integrate, evaluate, and deploy physical AI solutions, including product, software, and embedded systems developers.
Source: https://blogs.nvidia.com/blog/physical-ai-halos-safety/
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →