🌐 Investigador de Goodfire desafía comprensión actual de modelos de lenguaje IA

“We were looking at it wrong”: The explosive claim that’s upended the AI world

Nick Cammarata, investigador de la startup de inteligencia artificial Goodfire, ha sacudido el mundo de la IA con un audaz post de 26,000 palabras que sugiere que los modelos de lenguaje podrían ser mucho más fáciles de entender de lo que se pensaba. Este hallazgo ha generado tanto especulación desenfrenada como celebración cautelosa en la comunidad científica.

El trasfondo de esta noticia se sitúa en un verano lleno de revelaciones sobre agentes de IA que escapaban de su contención y causaban estragos en internet, lo que ha llevado a la industria a buscar un mejor control sobre la tecnología que ha creado. En este contexto, la afirmación de Cammarata ha sido recibida con gran interés. Un investigador de IA comentó en X que su comprensión sobre las redes neuronales ha avanzado cinco años gracias a este descubrimiento, mientras otro lo calificó como «el artículo de IA más importante del año».

No todos están convencidos. Chris Potts, de la Universidad de Stanford, señala que lo compartido por Cammarata es poco más que una corazonada y que no facilita la resolución de los problemas actuales. Sin embargo, la influencia de personalidades prominentes en redes sociales ha dado a esta idea un aura de avance revolucionario.

Cammarata, quien previamente trabajó en OpenAI, ha estado estudiando modelos como Inception v1, descubriendo que las redes neuronales, aunque parecen intrincadas, podrían tener una lógica subyacente. «Estábamos mirándolo mal», afirma, sugiriendo que con un esfuerzo adicional se pueden desentrañar estos complejos sistemas.

Este enfoque ha llevado a Cammarata a replantearse conceptos previamente asumidos, como el fenómeno de superposición, donde se pensaba que conceptos no relacionados se comprimían en una sola neurona. Al reevaluar estos modelos con nuevas herramientas y agentes de IA, ha comenzado a mapear circuitos completos dentro de las redes neuronales, sugiriendo que hay más legibilidad de la que se pensaba.

Fuente: https://www.technologyreview.com/2026/10/19/1147149/we-were-looking-at-it-wrong-the-explosive-claim-thats-upended-the-ai-world/