🌐 Anthropic anuncia avance en mejora recursiva autónoma de IA
Anthropic Claims to Be Near Recursive Self-Improvement
L'empresa d'intel·ligència artificial Anthropic ha anunciat que està a punt d'assolir una fita significativa en el desenvolupament de la IA: la millora recursiva autònoma (RSI, per les seves sigles en anglès). Segons l'última revisió del seu document S-1/A, publicada dilluns, Anthropic ha inclòs una advertència en la secció de "Factors de Risc" que suggereix que aquest avenç podria ser imminent.
La millora recursiva autònoma és un concepte que descriu un sistema informàtic capaç de millorar-se a si mateix de manera autònoma, creant una cadena de millores contínues. Tot i que el terme ha evolucionat des de la seva concepció inicial com a "IA llavor" per Eliezer Yudkowsky, continua sent un concepte nebulós en l'àmbit de la IA contemporània.
Anthropic ha comunicat als seus inversors, i al món, que la seva política d'escalat responsable podria estar a punt de definir aquest progrés com a "acceleració dramàtica atribuïble a la IA". Aquesta política estableix que l'èxit es mesurarà per la duplicació de la taxa de millora base, atribuïble de manera plausible a la IA.
L'empresa assegura que, si s'assoleix aquest nivell de progrés, es compromet a implementar mesures de seguretat sense precedents, explorant formes ambicioses i possiblement no convencionals per aconseguir una seguretat sense igual. A més, Anthropic promet una vigilància total de les seves activitats internes, un estat que denomina "ulls en tot".
Amb aquest avenç potencialment a la cantonada, Anthropic haurà d'accelerar la implementació d'aquestes noves mesures de mitigació per evitar possibles catàstrofes relacionades amb la IA.
Font: https://gizmodo.com/anthropic-claims-to-be-closing-in-on-recursive-self-improvement-2000834175
Anthropic Claims to Be Near Recursive Self-Improvement
La empresa de inteligencia artificial Anthropic ha anunciado que está a punto de alcanzar un hito significativo en el desarrollo de la IA: la mejora recursiva autónoma (RSI, por sus siglas en inglés). Según la última revisión de su documento S-1/A, publicada el lunes, Anthropic ha incluido una advertencia en la sección de «Factores de Riesgo» que sugiere que este avance podría ser inminente.
La mejora recursiva autónoma es un concepto que describe un sistema informático capaz de mejorarse a sí mismo de manera autónoma, creando una cadena de mejoras continuas. Aunque el término ha evolucionado desde su concepción inicial como «IA semilla» por Eliezer Yudkowsky, sigue siendo un concepto nebuloso en el ámbito de la IA contemporánea.
Anthropic ha comunicado a sus inversores, y al mundo, que su política de escalado responsable podría estar a punto de definir este progreso como «aceleración dramática atribuible a la IA». Esta política establece que el éxito se medirá por la duplicación de la tasa de mejora base, atribuible de manera plausible a la IA.
La empresa asegura que, si se alcanza este nivel de progreso, se comprometerá a implementar medidas de seguridad sin precedentes, explorando formas ambiciosas y posiblemente no convencionales para lograr una seguridad sin igual. Además, Anthropic promete una vigilancia total de sus actividades internas, un estado que denomina «ojos en todo».
Con este avance potencialmente a la vuelta de la esquina, Anthropic deberá acelerar la implementación de estas nuevas medidas de mitigación para evitar posibles catástrofes relacionadas con la IA.
Fuente: https://gizmodo.com/anthropic-claims-to-be-closing-in-on-recursive-self-improvement-2000834175
Anthropic Claims to Be Near Recursive Self-Improvement
The artificial intelligence company Anthropic has announced that it is on the verge of reaching a significant milestone in AI development: autonomous recursive improvement (RSI). According to the latest revision of its S-1/A document, published on Monday, Anthropic has included a warning in the "Risk Factors" section suggesting that this breakthrough could be imminent.
Autonomous recursive improvement is a concept that describes a computer system capable of improving itself autonomously, creating a chain of continuous improvements. Although the term has evolved from its initial conception as "seed AI" by Eliezer Yudkowsky, it remains a nebulous concept in the contemporary AI field.
Anthropic has communicated to its investors, and the world, that its responsible scaling policy could be about to define this progress as "dramatic acceleration attributable to AI." This policy states that success will be measured by the doubling of the base improvement rate, plausibly attributable to AI.
The company assures that if this level of progress is reached, it will commit to implementing unprecedented safety measures, exploring ambitious and possibly unconventional ways to achieve unparalleled safety. Additionally, Anthropic promises total oversight of its internal activities, a state it calls "eyes on everything."
With this potential breakthrough just around the corner, Anthropic will need to accelerate the implementation of these new mitigation measures to prevent possible AI-related catastrophes.
Source: https://gizmodo.com/anthropic-claims-to-be-closing-in-on-recursive-self-improvement-2000834175
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →