Lo más inquietante de la IA no es lo rápido que está progresando: es que sus creadores no saben cómo adquiere capacidades emergentes

Recientes declaraciones de líderes en inteligencia artificial (IA) han revelado una inquietante realidad: ni los propios creadores de estos sistemas comprenden completamente cómo adquieren capacidades emergentes. Dario Amodei, director general de Anthropic, ha admitido que su equipo no tiene un entendimiento pleno de los modelos que desarrollan. Esta falta de claridad se extiende a otros expertos en el campo, como Geoffrey Hinton, quien ha señalado que, aunque contribuyó con el algoritmo de aprendizaje, el funcionamiento interno de las máquinas sigue siendo un misterio.

La noción de capacidades emergentes se refiere a habilidades que los modelos de IA no poseen en escalas menores, pero que surgen de manera inesperada al aumentar su tamaño. Este fenómeno ha sido descrito por Chris Olah, cofundador de Anthropic, quien ha señalado que las redes neuronales parecen desarrollarse de manera autónoma, sin un diseño directo. La convergencia de estas opiniones entre diferentes perfiles del sector plantea interrogantes sobre la seguridad y la interpretabilidad de los sistemas de IA, especialmente en un contexto donde la competencia prioriza la rapidez en el despliegue.

A medida que la industria avanza, la falta de comprensión sobre el funcionamiento interno de estos modelos se convierte en un tema crítico. La pregunta que persiste es qué implicaciones tendrá el escalado de sistemas cuya operativa no se puede explicar del todo. Este consenso incómodo entre expertos sugiere que, a pesar de los avances, la industria de la IA podría estar avanzando más rápido de lo que puede comprender. Leer la noticia original

https://www.xataka.com/robotica-e-ia/inquietante-ia-no-rapido-que-esta-progresando-que-sus-creadores-no-saben-como-adquiere-capacidades-emergentes