🌐 Anthropic alerta sobre riesgos de la IA antes de su salida a bolsa en EE.UU.
Anthropic warns of AI's 'catastrophic risks' ahead of major IPO
L'empresa d'intel·ligència artificial Anthropic ha emès una advertència sobre els "riscos catastròfics o existencials per a la humanitat" que podria representar la intel·ligència artificial (IA), en revelar detalls de la seva propera sortida a borsa als Estats Units. La valoració de l'empresa s'espera que superi la de SpaceX, que va ser la major sortida a borsa amb una valoració inicial d'aproximadament 1,8 bilions de dòlars.
Anthropic, desenvolupadora del chatbot Claude, va reportar ingressos de 16,3 mil milions de dòlars en la primera meitat de l'any, amb pèrdues superiors a 80,7 mil milions de dòlars. La companyia, que cotitzarà al Nasdaq sota el símbol ANT, serà la primera empresa totalment centrada en IA en sortir a borsa, convertint-se en un cas de prova per al futur de la tecnologia.
En un document presentat abans de la seva sortida a borsa, Anthropic va destacar que tant els responsables polítics, reguladors, investigadors, com persones dins de la seva organització han expressat preocupacions sobre els riscos significatius que els sistemes d'IA representen per a la humanitat. L'empresa va assenyalar que els sistemes avançats d'IA "podrien, si no es desenvolupen, implementen i operen amb les salvaguardes, supervisió i mesures de seguretat adequades, representar riscos catastròfics o existencials per a la humanitat, especialment si aquests sistemes s'utilitzen incorrectament, es repliquen, s'armen o se'ls permet operar amb un alt grau d'autonomia".
Anthropic va ser fundada fa cinc anys pel director executiu Dario Amodei, la seva germana Daniela Amodei i altres cinc cofundadors. Va anunciar la seva intenció de sortir a borsa al juny, i el seu principal rival, OpenAI, ràpidament va seguir el seu exemple, amb una sortida a borsa esperada per a principis de l'any vinent.
A més, Anthropic s'enfronta a una demanda dels propietaris dels drets de la música d'Elvis Presley, que acusen l'empresa d'utilitzar centenars de cançons de l'icònic artista per entrenar el seu chatbot Claude. En els seus nous documents, Anthropic va reiterar promeses anteriors de desenvolupar IA de manera beneficiosa per a les persones, alhora que advertia els inversors sobre els seus perills.
L'empresa va destacar que el seu èxit depèn en gran mesura de la seva capacitat per desenvolupar els models d'IA més avançats, advertint que "qualsevol fallada en fer-ho podria afectar negativament el nostre negoci". També va assenyalar riscos potencials relacionats amb la dependència de proveïdors de computació en el núvol, fabricants de xips taiwanesos i centres de dades concentrats als EUA.
Malgrat els riscos, Anthropic també va destacar els beneficis potencials de la IA, com l'acceleració del progrés en biologia i medicina, i l'augment de la productivitat econòmica.
Anthropic warns of AI's 'catastrophic risks' ahead of major IPO
La empresa de inteligencia artificial Anthropic ha emitido una advertencia sobre los «riesgos catastróficos o existenciales para la humanidad» que podría representar la inteligencia artificial (IA), al desvelar detalles de su próxima salida a bolsa en Estados Unidos. La valoración de la empresa se espera que supere la de SpaceX, que fue la mayor salida a bolsa con una valoración inicial de aproximadamente 1.8 billones de dólares.
Anthropic, desarrolladora del chatbot Claude, reportó ingresos de 16.3 mil millones de dólares en la primera mitad del año, con pérdidas superiores a 80.7 mil millones de dólares. La compañía, que cotizará en el Nasdaq bajo el símbolo ANT, será la primera empresa totalmente centrada en IA en salir a bolsa, convirtiéndose en un caso de prueba para el futuro de la tecnología.
En un documento presentado antes de su salida a bolsa, Anthropic destacó que tanto los responsables políticos, reguladores, investigadores, como personas dentro de su organización han expresado preocupaciones sobre los riesgos significativos que los sistemas de IA representan para la humanidad. La empresa señaló que los sistemas avanzados de IA «podrían, si no se desarrollan, implementan y operan con las salvaguardias, supervisión y medidas de seguridad adecuadas, representar riesgos catastróficos o existenciales para la humanidad, especialmente si tales sistemas se usan incorrectamente, se replican, se arman o se les permite operar con un alto grado de autonomía».
Anthropic fue fundada hace cinco años por el director ejecutivo Dario Amodei, su hermana Daniela Amodei y otros cinco cofundadores. Anunció su intención de salir a bolsa en junio, y su principal rival, OpenAI, rápidamente siguió su ejemplo, con una salida a bolsa esperada para principios del próximo año.
Además, Anthropic enfrenta una demanda de los propietarios de los derechos de la música de Elvis Presley, quienes acusan a la empresa de usar cientos de canciones del icónico artista para entrenar su chatbot Claude. En sus nuevos documentos, Anthropic reiteró promesas anteriores de desarrollar IA de manera beneficiosa para las personas, al tiempo que advirtió a los inversores sobre sus peligros.
La empresa destacó que su éxito depende en gran medida de su capacidad para desarrollar los modelos de IA más avanzados, advirtiendo que «cualquier falla en hacerlo podría afectar negativamente nuestro negocio». También señaló riesgos potenciales relacionados con la dependencia de proveedores de computación en la nube, fabricantes de chips taiwaneses y centros de datos concentrados en EE.UU.
A pesar de los riesgos, Anthropic también destacó los beneficios potenciales de la IA, como la aceleración del progreso en biología y medicina, y el aumento de la productividad económica.
Anthropic warns of AI's 'catastrophic risks' ahead of major IPO
The artificial intelligence company Anthropic has issued a warning about the "catastrophic or existential risks to humanity" that artificial intelligence (AI) could pose, as it unveils details of its upcoming initial public offering in the United States. The company's valuation is expected to surpass that of SpaceX, which was the largest IPO with an initial valuation of approximately $1.8 trillion.
Anthropic, developer of the chatbot Claude, reported revenues of $16.3 billion in the first half of the year, with losses exceeding $80.7 billion. The company, which will be listed on the Nasdaq under the symbol ANT, will be the first company fully focused on AI to go public, becoming a test case for the future of technology.
In a document filed ahead of its IPO, Anthropic highlighted that policymakers, regulators, researchers, and individuals within its organisation have expressed concerns about the significant risks that AI systems pose to humanity. The company noted that advanced AI systems "could, if not developed, implemented, and operated with appropriate safeguards, oversight, and security measures, pose catastrophic or existential risks to humanity, especially if such systems are misused, replicated, weaponised, or allowed to operate with a high degree of autonomy."
Anthropic was founded five years ago by CEO Dario Amodei, his sister Daniela Amodei, and five other co-founders. It announced its intention to go public in June, and its main rival, OpenAI, quickly followed suit, with an IPO expected early next year.
Additionally, Anthropic faces a lawsuit from the owners of Elvis Presley’s music rights, who accuse the company of using hundreds of songs by the iconic artist to train its chatbot Claude. In its new documents, Anthropic reiterated previous promises to develop AI in a way that benefits people, while also warning investors about its dangers.
The company emphasised that its success largely depends on its ability to develop the most advanced AI models, warning that "any failure to do so could negatively affect our business." It also pointed out potential risks related to reliance on cloud computing providers, Taiwanese chip manufacturers, and data centres concentrated in the US.
Despite the risks, Anthropic also highlighted the potential benefits of AI, such as accelerating progress in biology and medicine, and boosting economic productivity.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →