Dario Amodei de Anthropic advierte sobre los peligros de la IA china, pero defiende los modelos open-weight
Anthropic’s Dario Amodei responds: doesn’t oppose open-weight models, but fears Chinese AI
El fundador y CEO de Anthropic, Dario Amodei, ha respondido a los rumores en la industria sobre el supuesto apoyo de su empresa a los esfuerzos del gobierno de EE.UU. para prohibir los modelos open-weight chinos, o posiblemente los modelos open-weight en general. Amodei ha dejado claro que Anthropic nunca ha abogado por tal prohibición, afirmando que «cualquiera que haya leído mis escritos anteriores debería saber que no considero tales prohibiciones como una medida útil».
La respuesta de Amodei se produjo después de que el fundador y CEO de Nvidia, Jensen Huang, publicara una carta abierta en la plataforma X, junto a otras empresas de IA como Hugging Face, Meta, Microsoft y Mistral, instando a los legisladores a no imponer restricciones prematuras a los modelos de IA open-weight. Aunque la carta no mencionaba específicamente a China, el debate en la industria se ha centrado en las acusaciones de que los laboratorios de IA chinos están creciendo en capacidad a menudo mediante el robo de propiedad intelectual de sus contrapartes estadounidenses.
Amodei expresó su preocupación de que «los gobiernos autoritarios» construyan modelos más poderosos que los de EE.UU. para lograr una «superioridad militar permanente» o para reprimir a su propia población. Aunque el Partido Comunista Chino no es el único gobierno autoritario que le preocupa, es el «más capaz». También teme que la IA pueda facilitar «ataques biológicos», además de los cibernéticos, y considera que los modelos open-weight son más peligrosos en estos escenarios debido a la dificultad de aplicarles medidas de seguridad o monitorear su uso.
Amodei propuso acciones para contrarrestar a China, como restringir su acceso a chips potentes y abogar por una represión formal sobre la destilación. También mostró su apoyo a los esfuerzos para crear una organización de pruebas de seguridad de modelos, especialmente si el mundo entero, incluida China, acepta someterse a ella. «Creo que esta idea está cerca de un consenso», escribió Amodei, destacando que la cooperación limitada en la prevención de armas biológicas de IA podría ser posible porque también es de interés para China.
