🔵 La batalla por el control de la IA en Silicon Valley: racionalistas, altruistas y aceleracionistas en disputa

Racionalistas, altruistas eficaces y aceleracionistas: las tres tribus que se disputan el alma de la IA en Silicon Valley

En el corazón de Silicon Valley, una intensa batalla ideológica se libra entre tres grupos que buscan definir el futuro de la inteligencia artificial (IA). Estos grupos, conocidos como los racionalistas, los altruistas eficaces y los aceleracionistas, no solo debaten en foros, sino que también invierten millones en las elecciones legislativas de Estados Unidos para influir en la regulación de la IA.

Un supercomité financiado por Andreessen Horowitz (a16z) y Greg Brockman ha recaudado más de 75 millones de dólares para oponerse a la regulación de la IA, mientras que Anthropic ha contribuido con 20 millones al bando contrario. Estas cifras reflejan la importancia de las ideas de cada grupo, que han influido en la creación de laboratorios y en la política tecnológica de la Casa Blanca.

Los racionalistas, liderados por figuras como Eliezer Yudkowsky, creen que una superinteligencia con objetivos diferentes a los nuestros podría destruirnos sin necesidad de odiarnos, simplemente porque podríamos ser un obstáculo. Este grupo ha dado origen al «problema del alineamiento» y ha propuesto medidas extremas, como bombardear centros de datos ilegales.

Por otro lado, los altruistas eficaces, inspirados por pensadores como Toby Ord y William MacAskill, abogan por medir el impacto positivo de cada dólar invertido. Su enfoque se centra en evitar la extinción humana, considerando que las generaciones futuras son tan importantes como la actual. Este grupo ha visto afectada su influencia tras la quiebra de FTX en 2022, que era uno de sus principales donantes.

Finalmente, los aceleracionistas defienden que cualquier freno al progreso tecnológico podría costar vidas que la tecnología podría salvar. Inspirados por el filósofo Nick Land, argumentan que las barreras regulatorias solo benefician a las grandes corporaciones, y que si Estados Unidos frena su avance, China podría tomar la delantera.

La influencia de estas tribus se extiende hasta la política nacional de Estados Unidos, donde el aceleracionismo ha ganado terreno con el apoyo de la administración Trump. Mientras tanto, los daños actuales causados por los modelos de lenguaje, como los sesgos y la desinformación, apenas son considerados en sus debates.

Fuente: https://www.xataka.com/robotica-e-ia/racionalistas-altruistas-eficaces-aceleracionistas-tres-tribus-que-se-disputan-alma-ia-silicon-valley