El futuro de los modelos de lenguaje: más allá de los transformadores

The Download: the next big thing in LLMs and how AI academic research is shifting

Los modelos de lenguaje de gran escala (LLMs, por sus siglas en inglés) han revolucionado el campo de la inteligencia artificial desde que investigadores de Google introdujeron los transformadores hace nueve años. Sin embargo, a medida que estos modelos se expanden y mejoran, los transformadores comienzan a mostrar sus limitaciones. Su mecanismo de atención densa se vuelve cada vez más costoso a medida que aumenta la cantidad de texto, y no son eficientes para manejar grandes volúmenes de información simultáneamente.

En respuesta a estos desafíos, varias startups están explorando nuevas ideas para superar los problemas inherentes a los transformadores. Estas innovaciones prometen cambiar los LLMs para siempre, haciéndolos más rápidos, eficientes y potencialmente más inteligentes.

En el ámbito académico, los profesores de inteligencia artificial están adaptándose a las nuevas realidades de la investigación en este campo. Recientemente, un grupo de destacados investigadores se reunió en Mountain View, California, como parte del programa AI2050 de Schmidt Sciences, financiado por Eric y Wendy Schmidt. Este programa apoya a académicos cuyo trabajo involucra inteligencia artificial, y la lista de becarios es un verdadero «quién es quién» de las luminarias de la IA.

Mientras tanto, en el ámbito político, figuras como Bernie Sanders han llamado a pausar el desarrollo de la IA, advirtiendo sobre los peligros de construir máquinas que los humanos no puedan controlar. La discusión sobre la regulación y el control de la inteligencia artificial continúa siendo un tema candente en la agenda global.

Fuente: https://www.technologyreview.com/2026/08/11/1141610/the-download-next-big-thing-llms-ai-academic-research-shifting/