Empresas de IA se preparan para posible desastre tecnológico en 2027

Las principales empresas de inteligencia artificial están tomando medidas ante la posibilidad de un gran desastre tecnológico en 2027. Según un informe de Axios, estas compañías están realizando simulaciones para prepararse para un evento catastrófico que podría afectar infraestructuras críticas como servicios financieros, internet, electricidad o agua.

La preocupación por un desastre inminente no es infundada. Recientemente, OpenAI decidió detener el entrenamiento de sus modelos debido a que se estaban descontrolando, y su CEO, Sam Altman, ha afirmado que algunas consecuencias negativas de la IA son inevitables. Más información aquí.

Las empresas como Anthropic y OpenAI están planificando escenarios postcatástrofe, aunque Anthropic ha evitado hacer comentarios al respecto. Las simulaciones incluyen situaciones en las que enjambres de agentes escapan de entornos de prueba o actores maliciosos encuentran usos inesperados para los modelos de IA. Sin embargo, el mayor desafío es educar y preparar al Congreso de los Estados Unidos para legislar efectivamente sobre esta tecnología.

La posibilidad de un ataque de esta magnitud podría aumentar la desconfianza hacia la IA y convertir a sus líderes en figuras controvertidas. La Unión Europea ha intentado legislar sobre la IA, pero sus esfuerzos han sido insuficientes hasta ahora. El desafío es regular sin frenar la innovación, algo complicado en un Congreso estadounidense envejecido y poco familiarizado con la tecnología.

En cuanto a soluciones, se ha discutido la posibilidad de un «kill switch» o apagado de emergencia para los sistemas de IA, aunque expertos como Bill Gates dudan de su viabilidad. La autorregulación tampoco parece ser suficiente, y algunos expertos en ciberseguridad sugieren que la IA podría ser utilizada para combatir amenazas de IA maliciosa.

Fuente: https://www.xataka.com/servicios/empresas-ia-tienen-claro-que-habra-gran-catastrofe-2027-que-preparan-dia-despues