Advertencia tecnológica

Anthropic CEO Dario Amodei says "exponential" growth of AI is a "warning sign that we need to slow down"

El director ejecutivo de Anthropic, Dario Amodei, ha lanzado una advertencia sobre el desarrollo «exponencial» de la inteligencia artificial (IA), calificándolo como una «señal de advertencia» que requiere serias salvaguardas. En una entrevista con CBS News, Amodei explicó que el progreso de la IA está alcanzando un punto crítico en su curva de crecimiento, lo que requiere una desaceleración para garantizar la seguridad.

Amodei enfatizó que, aunque no es necesario entrar en pánico ni detener el desarrollo por completo, es crucial implementar salvaguardas que puedan seguir el ritmo del avance tecnológico. En un blog, Amodei propuso un plan de tres puntos para «marcar el ritmo del desarrollo» de la IA, destacando la importancia de la prevención de riesgos.

El plan incluye la implementación de evaluadores externos que actúen como empleados internos para verificar el cumplimiento de las prácticas de seguridad. Además, sugiere que las empresas de IA en países democráticos coordinen estándares de seguridad comunes y límites al progreso descontrolado de la IA. También instó a las empresas estadounidenses a no vender chips de IA potentes a China, señalando que esto determinará la fortaleza de la IA en ese país.

La advertencia de Amodei llega tras la renuncia de Jacob Coxon, ex investigador de Anthropic, quien acusó a la empresa y a OpenAI de «jugar con nuestras vidas» al apresurarse en el desarrollo de modelos avanzados de IA. Coxon expresó su preocupación de que la IA podría amenazar a la humanidad si no se regula adecuadamente.

Amodei reconoció que la carrera por el desarrollo de la IA, impulsada por incentivos comerciales, podría agudizar los riesgos de ciberataques, bioterrorismo y disrupciones económicas. A pesar de las dificultades, afirmó que «debemos intentarlo por el bien de la humanidad».

Fuente: https://www.cbsnews.com/news/anthropic-ceo-dario-amodei-calls-slowdown-ai-development/