🌐 Debate sobre la llegada de la Inteligencia Artificial General con GPT-6 Astra de OpenAI
Què és la intel·ligència artificial general – i ja és aquí?
La intel·ligència artificial general (AGI) és un concepte clau en l'àmbit de la intel·ligència artificial, però no tothom coincideix en la seva definició. Recentment, el president d'OpenAI, Greg Brockman, va suggerir que el seu model avançat, conegut com a GPT-6 Astra, podria marcar l'arribada de l'AGI. Segons OpenAI, l'AGI és un sistema d'intel·ligència artificial que supera els humans en la majoria dels treballs econòmicament valuosos, incloent-hi tasques digitals i cognitives com escriure codi o gestionar projectes. No obstant això, exclou treballs que impliquen labor física, encara que la integració de la IA amb la robòtica podria canviar això en el futur.
La definició d'OpenAI se centra en l'amplitud de competències d'un sistema d'IA, però altres experts sostenen que l'AGI hauria de ser capaç de realitzar pràcticament qualsevol tasca cognitiva que els humans puguin fer. Demis Hassabis, fundador de Google DeepMind, i Yann LeCun, ex científic en cap d'IA a Meta, han expressat opinions divergents sobre el que hauria de caracteritzar l'AGI.
En una conferència de premsa tancada, Brockman va reconèixer que no hi ha hagut un moment ben definit que tothom reconegui com l'arribada de l'AGI, encara que personalment creu que ja hem arribat a aquest punt. No obstant això, Dario Amodei, CEO d'Anthropic, va demanar en un assaig que la indústria de la IA redueixi el ritme del seu desenvolupament, una opinió que va ser recolzada per figures com Sam Altman i Elon Musk.
El model GPT-6 Astra d'OpenAI mostra canvis significatius en la forma en què s'utilitza. A diferència de models anteriors que requerien instruccions detallades, Astra està dissenyat per a treballs més llargs on l'usuari estableix un objectiu i el model determina la seqüència de passos per si mateix. En proves, Astra ha demostrat ser capaç de gestionar diverses tasques no relacionades al mateix temps, la qual cosa representa un canvi real que els usuaris notaran primer.
Una de les proves va mostrar que Astra va obtenir un 99,9% en l'ARC-AGI-3, un test que mesura l'eficiència d'un agent d'IA en jocs interactius desconeguts. No obstant això, aquest resultat va ser assolit amb un "arnès" dissenyat per OpenAI, mentre que amb l'arnès estàndard, Astra va aconseguir un 62,7%. Això suggereix que el rendiment d'Astra millora quan pot reutilitzar treballs previs.
Els avaluadors independents no estan d'acord sobre quant avanç representa GPT-6 Astra respecte al seu predecessor. Mentre que l'institut de recerca Epoch AI el col·loca a la frontera juntament amb altres models de punta, l'empresa d'anàlisi Artificial Analysis no el considera radicalment superior a GPT-5.6 Sol.
En un esdeveniment recent, OpenAI va afirmar haver resolt el problema de Navier-Stokes, un dels set problemes del Mil·lenni en matemàtiques, amb un model intern no publicat, significativament més capaç que Astra. Encara que Astra va contribuir a la formalització i verificació posterior, la prova encara no ha estat verificada per la comunitat matemàtica.
L'assaig d'Amodei continua sent una de les declaracions més fortes sobre els riscos dels models de frontera, advertint sobre el potencial d'un eixam d'agents capaços de prendre el control d'internet amb un botnet persistent, la qual cosa podria causar fallades catastròfiques en sistemes clau.
Font: https://theconversation.com/what-is-artificial-general-intelligence-and-is-it-already-here-293600
What is artificial general intelligence – and is it already here?
La inteligencia artificial general (AGI) es un concepto clave en el ámbito de la inteligencia artificial, pero no todos coinciden en su definición. Recientemente, el presidente de OpenAI, Greg Brockman, sugirió que su modelo avanzado, conocido como GPT-6 Astra, podría marcar la llegada de la AGI. Según OpenAI, la AGI es un sistema de inteligencia artificial que supera a los humanos en la mayoría de los trabajos económicamente valiosos, incluyendo tareas digitales y cognitivas como escribir código o gestionar proyectos. Sin embargo, excluye trabajos que implican labor física, aunque la integración de la IA con la robótica podría cambiar esto en el futuro.
La definición de OpenAI se centra en la amplitud de competencias de un sistema de IA, pero otros expertos sostienen que la AGI debería ser capaz de realizar prácticamente cualquier tarea cognitiva que los humanos puedan hacer. Demis Hassabis, fundador de Google DeepMind, y Yann LeCun, ex científico jefe de IA en Meta, han expresado opiniones divergentes sobre lo que debería caracterizar a la AGI.
En una conferencia de prensa cerrada, Brockman reconoció que no ha habido un momento bien definido que todos reconozcan como la llegada de la AGI, aunque personalmente cree que ya hemos llegado a ese punto. Sin embargo, Dario Amodei, CEO de Anthropic, pidió en un ensayo que la industria de la IA reduzca el ritmo de su desarrollo, una opinión que fue respaldada por figuras como Sam Altman y Elon Musk.
El modelo GPT-6 Astra de OpenAI muestra cambios significativos en la forma en que se utiliza. A diferencia de modelos anteriores que requerían instrucciones detalladas, Astra está diseñado para trabajos más largos donde el usuario establece un objetivo y el modelo determina la secuencia de pasos por sí mismo. En pruebas, Astra ha demostrado ser capaz de manejar varias tareas no relacionadas al mismo tiempo, lo que representa un cambio real que los usuarios notarán primero.
Una de las pruebas mostró que Astra obtuvo un 99.9% en el ARC-AGI-3, un test que mide la eficiencia de un agente de IA en juegos interactivos desconocidos. Sin embargo, este resultado fue alcanzado con un «arnés» diseñado por OpenAI, mientras que con el arnés estándar, Astra logró un 62.7%. Esto sugiere que el rendimiento de Astra mejora cuando puede reutilizar trabajos previos.
Los evaluadores independientes no están de acuerdo sobre cuánto avance representa GPT-6 Astra respecto a su predecesor. Mientras que el instituto de investigación Epoch AI lo coloca en la frontera junto a otros modelos de vanguardia, la empresa de análisis Artificial Analysis no lo considera radicalmente superior a GPT-5.6 Sol.
En un evento reciente, OpenAI afirmó haber resuelto el problema de Navier-Stokes, uno de los siete problemas del Milenio en matemáticas, con un modelo interno no publicado, significativamente más capaz que Astra. Aunque Astra contribuyó a la formalización y verificación posterior, la prueba aún no ha sido verificada por la comunidad matemática.
El ensayo de Amodei sigue siendo una de las declaraciones más fuertes sobre los riesgos de los modelos de frontera, advirtiendo sobre el potencial de un enjambre de agentes capaces de tomar el control de internet con un botnet persistente, lo que podría causar fallos catastróficos en sistemas clave.
Fuente: https://theconversation.com/what-is-artificial-general-intelligence-and-is-it-already-here-293600
What is artificial general intelligence – and is it already here?
Artificial general intelligence (AGI) is a key concept in the field of artificial intelligence, but not everyone agrees on its definition. Recently, OpenAI's president, Greg Brockman, suggested that their advanced model, known as GPT-6 Astra, could mark the arrival of AGI. According to OpenAI, AGI is an artificial intelligence system that surpasses humans in most economically valuable jobs, including digital and cognitive tasks such as writing code or managing projects. However, it excludes jobs involving physical labour, although the integration of AI with robotics could change this in the future.
OpenAI's definition focuses on the breadth of competencies of an AI system, but other experts argue that AGI should be able to perform virtually any cognitive task that humans can do. Demis Hassabis, founder of Google DeepMind, and Yann LeCun, former chief AI scientist at Meta, have expressed differing opinions on what should characterise AGI.
In a closed press conference, Brockman acknowledged that there hasn't been a well-defined moment that everyone recognises as the arrival of AGI, although he personally believes we have already reached that point. However, Dario Amodei, CEO of Anthropic, called in an essay for the AI industry to slow down its development, an opinion supported by figures like Sam Altman and Elon Musk.
OpenAI's GPT-6 Astra model shows significant changes in how it is used. Unlike previous models that required detailed instructions, Astra is designed for longer tasks where the user sets a goal and the model determines the sequence of steps on its own. In tests, Astra has proven capable of handling several unrelated tasks simultaneously, representing a real change that users will notice first.
One of the tests showed that Astra scored 99.9% on the ARC-AGI-3, a test that measures an AI agent's efficiency in unknown interactive games. However, this result was achieved with a "harness" designed by OpenAI, while with the standard harness, Astra scored 62.7%. This suggests that Astra's performance improves when it can reuse previous work.
Independent evaluators disagree on how much of an advance GPT-6 Astra represents over its predecessor. While the research institute Epoch AI places it on the frontier alongside other cutting-edge models, the analytics company Artificial Analysis does not consider it radically superior to GPT-5.6 Sol.
At a recent event, OpenAI claimed to have solved the Navier-Stokes problem, one of the seven Millennium Problems in mathematics, with an unpublished internal model significantly more capable than Astra. Although Astra contributed to the subsequent formalisation and verification, the proof has yet to be verified by the mathematical community.
Amodei's essay remains one of the strongest statements on the risks of frontier models, warning about the potential of a swarm of agents capable of taking control of the internet with a persistent botnet, which could cause catastrophic failures in key systems.
Source: https://theconversation.com/what-is-artificial-general-intelligence-and-is-it-already-here-293600
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →