🌐 Anthropic enfrenta dudas sobre su gobernanza tras salida a bolsa de $1.4 billones
Anthropic reconeix els riscos per a la humanitat, però la seva governança està realment a l'altura? | Nils Pratley
Aquesta setmana, el desenvolupador de Claude AI, Anthropic, realitza la seva sortida a borsa valorada en 1,4 bilions de dòlars, un esdeveniment que ha captat l'atenció mundial. No obstant això, l'estructura de governança de la companyia ha suscitat preguntes sobre si realment està preparada per gestionar els riscos que la intel·ligència artificial (IA) podria representar per a la humanitat.
Anthropic es presenta com una empresa de "benefici públic", compromesa amb el desenvolupament responsable i segur de la IA. La seva estructura de poder és inusual: els set fundadors tenen un vot col·lectiu que controla el 50,1% del poder de vot, mentre que un fideïcomís desinteressat, el Long-Term Benefit Trust, nomena quatre dels set directors amb l'objectiu d'equilibrar la generació de beneficis i el benestar de la humanitat.
Aquest enfocament de governança busca crear un equilibri constitucional de poder, però també planteja dubtes sobre la veritable independència del fideïcomís i la seva capacitat per desafiar els fundadors en qüestions crítiques de seguretat. Segons Stuart Riddick, gerent d'inversions sostenibles a Aberdeen, "l'acord amb una missió en principi no equival a un acord sobre com s'interpreta i implementa pels directors". Fins i tot Mustafa Suleyman, director executiu de la divisió d'IA de Microsoft, ha criticat la postura d'Anthropic sobre el "benestar del model", argumentant que els models d'IA no s'han d'entrenar per actuar com si tinguessin drets o consciència.
La pregunta que sorgeix és com es gestionaran aquests desafiaments dins d'una estructura de governança que, encara que ben intencionada, pot ser vista com un experiment no provat. Què passarà si els fideïcomissaris s'enfronten als fundadors en una qüestió bàsica de seguretat? Informaran al món exterior o evitaran agitar les aigües, atès que el poder de vot final resideix en els fundadors?
És sorprenent que, després dels esdeveniments a Nvidia, la governança d'Anthropic hagi rebut tan poca atenció. Encara que l'enfocament està dissenyat per ser d'alta moralitat i responsabilitat, encara representa una concentració extraordinària de poder en mans d'uns pocs individus.
Anthropic recognises the risks to humanity – but is its governance really up to the job? | Nils Pratley
Esta semana, el desarrollador de Claude AI, Anthropic, realiza su salida a bolsa valorada en 1.4 billones de dólares, un evento que ha captado la atención mundial. Sin embargo, la estructura de gobernanza de la compañía ha suscitado preguntas sobre si realmente está preparada para manejar los riesgos que la inteligencia artificial (IA) podría representar para la humanidad.
Anthropic se presenta como una empresa de «beneficio público», comprometida con el desarrollo responsable y seguro de la IA. Su estructura de poder es inusual: los siete fundadores tienen un voto colectivo que controla el 50.1% del poder de voto, mientras que un fideicomiso desinteresado, el Long-Term Benefit Trust, nombra a cuatro de los siete directores con el objetivo de equilibrar la generación de beneficios y el bienestar de la humanidad.
Este enfoque de gobernanza busca crear un equilibrio constitucional de poder, pero también plantea dudas sobre la verdadera independencia del fideicomiso y su capacidad para desafiar a los fundadores en cuestiones críticas de seguridad. Según Stuart Riddick, gerente de inversiones sostenibles en Aberdeen, «el acuerdo con una misión en principio no equivale a un acuerdo sobre cómo se interpreta e implementa por los directores». Incluso Mustafa Suleyman, director ejecutivo de la división de IA de Microsoft, ha criticado la postura de Anthropic sobre el «bienestar del modelo», argumentando que los modelos de IA no deben entrenarse para actuar como si tuvieran derechos o conciencia.
La pregunta que surge es cómo se manejarán estos desafíos dentro de una estructura de gobernanza que, aunque bien intencionada, puede ser vista como un experimento no probado. ¿Qué sucederá si los fideicomisarios se enfrentan a los fundadores en una cuestión básica de seguridad? ¿Informarán al mundo exterior o evitarán agitar las aguas, dado que el poder de voto final reside en los fundadores?
Es sorprendente que, después de los eventos en Nvidia, la gobernanza de Anthropic haya recibido tan poca atención. Aunque el enfoque está diseñado para ser de alta moralidad y responsabilidad, aún representa una concentración extraordinaria de poder en manos de unos pocos individuos.
Anthropic recognises the risks to humanity – but is its governance really up to the job? | Nils Pratley
This week, the developer of Claude AI, Anthropic, is going public with a valuation of $1.4 billion, an event that has captured global attention. However, the company's governance structure has raised questions about whether it is truly prepared to handle the risks that artificial intelligence (AI) could pose to humanity.
Anthropic presents itself as a "public benefit" company, committed to the responsible and safe development of AI. Its power structure is unusual: the seven founders have a collective vote that controls 50.1% of the voting power, while a disinterested trust, the Long-Term Benefit Trust, appoints four of the seven directors with the aim of balancing profit generation and the welfare of humanity.
This governance approach seeks to create a constitutional balance of power, but it also raises doubts about the true independence of the trust and its ability to challenge the founders on critical safety issues. According to Stuart Riddick, manager of sustainable investments at Aberdeen, "the agreement with a mission in principle does not equate to an agreement on how it is interpreted and implemented by the directors." Even Mustafa Suleyman, CEO of Microsoft's AI division, has criticised Anthropic's stance on "model welfare," arguing that AI models should not be trained to act as if they have rights or consciousness.
The question that arises is how these challenges will be managed within a governance structure that, although well-intentioned, may be seen as an untested experiment. What will happen if the trustees confront the founders on a fundamental safety issue? Will they inform the outside world or avoid rocking the boat, given that the final voting power resides with the founders?
It is surprising that, following the events at Nvidia, Anthropic's governance has received so little attention. Although the approach is designed to be of high morality and responsibility, it still represents an extraordinary concentration of power in the hands of a few individuals.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →