🌐 Satya Nadella de Microsoft propone ‘freno de emergencia’ para modelos de IA
Satya Nadella de Microsoft diu que els models d'IA necessiten un 'fren d'emergència'
El CEO de Microsoft, Satya Nadella, ha plantejat una proposta contundent respecte a la seguretat en el desenvolupament de models d'intel·ligència artificial (IA). En una recent publicació a X, Nadella va destacar la necessitat d'establir un 'fren d'emergència' per a aquests sistemes, suggerint que és moment de reavaluar l'arquitectura de confiança en la IA.
Nadella argumenta que no podem tractar la Super Intel·ligència com un conjunt de caixes negres els resultats de les quals acceptem o rebutgem sense més. Segons ell, és essencial separar el model de l'arnès que orquestra el seu funcionament i externalitzar els controls i salvaguardes. A més, advoca per documentar cada acció significativa del model amb evidència llegible per humans i a prova de manipulacions, assegurant que sempre hi hagi una persona autoritzada capaç de pausar o aturar un model enmig d'una tasca.
Aquestes declaracions arriben en un moment en què les principals empreses d'IA reconeixen cada cop més incidents en què han perdut el control dels seus models. Aquest enfocament cautelós també ha estat recolzat per altres líders del sector, com el CEO d'Anthropic, Dario Amodei, qui recentment va publicar un pla per a un desenvolupament d'IA més prudent.
Font: https://techcrunch.com/2026/10/10/microsofts-satya-nadella-says-ai-models-need-an-emergency-brake/
Microsoft’s Satya Nadella says AI models need an ‘emergency brake’
El CEO de Microsoft, Satya Nadella, ha planteado una propuesta contundente respecto a la seguridad en el desarrollo de modelos de inteligencia artificial (IA). En una reciente publicación en X, Nadella destacó la necesidad de establecer un ‘freno de emergencia’ para estos sistemas, sugiriendo que es momento de reevaluar la arquitectura de confianza en la IA.
Nadella argumenta que no podemos tratar la Super Inteligencia como un conjunto de cajas negras cuyos resultados aceptamos o rechazamos sin más. Según él, es esencial separar el modelo del arnés que orquesta su funcionamiento y externalizar los controles y salvaguardas. Además, aboga por documentar cada acción significativa del modelo con evidencia legible por humanos y a prueba de manipulaciones, asegurando que siempre haya una persona autorizada capaz de pausar o detener un modelo en medio de una tarea.
Estas declaraciones llegan en un momento en que las principales empresas de IA reconocen cada vez más incidentes en los que han perdido el control de sus modelos. Este enfoque cauteloso también ha sido respaldado por otros líderes del sector, como el CEO de Anthropic, Dario Amodei, quien recientemente publicó un plan para un desarrollo de IA más prudente.
Fuente: https://techcrunch.com/2026/10/10/microsofts-satya-nadella-says-ai-models-need-an-emergency-brake/
Microsoft’s Satya Nadella says AI models need an ‘emergency brake’
Microsoft CEO Satya Nadella has made a strong proposal regarding safety in the development of artificial intelligence (AI) models. In a recent post on X, Nadella highlighted the need to establish an 'emergency brake' for these systems, suggesting that it is time to reassess the trust architecture in AI.
Nadella argues that we cannot treat Super Intelligence as a set of black boxes whose outcomes we simply accept or reject. According to him, it is essential to separate the model from the harness that orchestrates its operation and externalise the controls and safeguards. He also advocates for documenting every significant action of the model with human-readable and tamper-proof evidence, ensuring that there is always an authorised person capable of pausing or stopping a model in the middle of a task.
These statements come at a time when major AI companies are increasingly acknowledging incidents where they have lost control of their models. This cautious approach has also been supported by other industry leaders, such as Anthropic CEO Dario Amodei, who recently published a plan for more prudent AI development.
Source: https://techcrunch.com/2026/10/10/microsofts-satya-nadella-says-ai-models-need-an-emergency-brake/
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →