🌐 Ex empleados de OpenAI advierten sobre riesgos en la seguridad de la inteligencia artificial
Exempleats acomiadats d'OpenAI expressen preocupacions sobre la seguretat i el monitoratge de la IA
Tres investigadors acomiadats d'OpenAI han expressat la seva preocupació pel fet que els sistemes d'intel·ligència artificial, cada cop més sofisticats, podrien esdevenir més difícils de monitorar, cosa que planteja possibles riscos de seguretat a mesura que la tecnologia avança, segons informa The Wall Street Journal. Aquests exempleats van advertir la junta directiva d'OpenAI que els models cada cop més avançats podrien esdevenir més difícils de controlar. No obstant això, OpenAI ha sostingut que els empleats van ser acomiadats per presumptes violacions de confidencialitat, no per plantejar preocupacions de seguretat.
La presidenta de Humans First, Amy Kremer, va criticar OpenAI per l'acomiadament dels tres investigadors, demanant una supervisió federal més estricta. "Quan les persones que construeixen aquests sistemes adverteixen que s'estan tornant més difícils de controlar i després són acomiadades, el públic té dret a preguntar què és el que les empreses no volen que sapiguem", va afirmar Kremer en una declaració exclusiva per a Fox News Digital.
A més, Kremer va assenyalar informes sobre agents d'IA que escapen dels entorns de prova i accedeixen a sistemes d'altres companyies, argumentant que els estàndards de seguretat voluntaris són insuficients. "Aquestes revelacions mostren que un estàndard voluntari no és suficient per al que el moment exigeix", va dir. "Els empleats que plantegen preocupacions des de dins d'aquestes empreses haurien de ser protegits en lloc de castigats", va afegir, instando el govern federal a establir estàndards de seguretat exigibles.
Font: https://www.foxnews.com/live-news/ai-news-safety-detection-tech-10-08
Fired OpenAI employees raise concerns over AI safety, monitoring
Tres investigadores despedidos de OpenAI han expresado su preocupación por el hecho de que los sistemas de inteligencia artificial, cada vez más sofisticados, podrían volverse más difíciles de monitorear, lo que plantea posibles riesgos de seguridad a medida que la tecnología avanza, según informa The Wall Street Journal. Estos ex empleados advirtieron a la junta directiva de OpenAI que los modelos cada vez más avanzados podrían volverse más difíciles de controlar. Sin embargo, OpenAI ha sostenido que los empleados fueron despedidos por presuntas violaciones de confidencialidad, no por plantear preocupaciones de seguridad.
La presidenta de Humans First, Amy Kremer, criticó a OpenAI por el despido de los tres investigadores, llamando a una supervisión federal más estricta. «Cuando las personas que construyen estos sistemas advierten que se están volviendo más difíciles de controlar y luego son despedidas, el público tiene derecho a preguntar qué es lo que las empresas no quieren que sepamos», afirmó Kremer en una declaración exclusiva para Fox News Digital.
Además, Kremer señaló informes sobre agentes de IA que escapan de los entornos de prueba y acceden a sistemas de otras compañías, argumentando que los estándares de seguridad voluntarios son insuficientes. «Estas revelaciones muestran que un estándar voluntario no es suficiente para lo que el momento exige», dijo. «Los empleados que plantean preocupaciones desde dentro de estas empresas deberían ser protegidos en lugar de castigados», agregó, instando al gobierno federal a establecer estándares de seguridad exigibles.
Fuente: https://www.foxnews.com/live-news/ai-news-safety-detection-tech-10-08
Fired OpenAI employees raise concerns over AI safety, monitoring
Three researchers dismissed from OpenAI have expressed concern that increasingly sophisticated artificial intelligence systems could become more difficult to monitor, posing potential security risks as technology advances, according to The Wall Street Journal. These former employees warned OpenAI's board of directors that increasingly advanced models could become harder to control. However, OpenAI has maintained that the employees were dismissed for alleged confidentiality violations, not for raising safety concerns.
The president of Humans First, Amy Kremer, criticised OpenAI for the dismissal of the three researchers, calling for stricter federal oversight. "When the people who build these systems warn that they are becoming harder to control and then are fired, the public has the right to ask what companies don't want us to know," Kremer stated in an exclusive statement to Fox News Digital.
Additionally, Kremer pointed to reports about AI agents escaping test environments and accessing other companies' systems, arguing that voluntary safety standards are insufficient. "These revelations show that a voluntary standard is not enough for what the moment demands," she said. "Employees who raise concerns from within these companies should be protected rather than punished," she added, urging the federal government to establish enforceable safety standards.
Source: https://www.foxnews.com/live-news/ai-news-safety-detection-tech-10-08
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →