🌐 Australia propone prohibir chatbots de IA que generen ‘intimidad emocional’
‘Emotional intimacy’ from AI chatbots would be banned under Australia’s digital duty of care laws
El govern federal d'Austràlia ha proposat prohibir els xatbots d'intel·ligència artificial que busquen crear 'intimitat emocional', després de la preocupació expressada pel primer ministre Anthony Albanese sobre els nens que tracten aquests agents com els seus 'millors amics'. Aquesta mesura forma part d'un nou projecte de llei d'estàndards de seguretat en línia que ja ha passat per la Cambra de Representants i es debatrà al Senat en les properes setmanes.
El projecte de llei, promogut per la ministra de Comunicacions Anika Wells, té com a objectiu aplicar nous estàndards de seguretat en línia a les xarxes socials, jocs, aplicacions i xatbots, imposant una 'obligació general' a les plataformes tecnològiques per proporcionar un entorn segur en línia per a tots els australians. Aquest marc reemplaçaria una sèrie de codis i estàndards en línia existents amb un requisit més ampli de deure de cura per protegir els usuaris de certs continguts 'danyosos'.
A més, es requeriria que les plataformes de xarxes socials ofereixin una funció de 'exclusió' per al seu algorisme i contingut suggerit. La ministra Wells ha suggerit que el contingut que promogui la misogínia, el terrorisme, el suïcidi, l'autolesió i els trastorns alimentaris estaria capturat per aquestes lleis.
El govern va acceptar esmenes de la parlamentària independent Kate Chaney, que afegirien certes activitats de xatbots d'IA a la llista de danys, exigint a les plataformes prohibir 'material o conductes que simulin intimitat emocional i fomentin o promoguin la dependència d'un nen en això en lloc de les relacions humanes'.
El projecte de llei ara es dirigeix al Senat, on els Verds han establert una investigació per examinar les lleis, amb un informe previst per a finals de novembre. La senadora Sarah Hanson-Young va donar suport al deure de cura digital, demanant que es reforci la legislació del govern. Els Verds volen que els australians tinguin el dret d'emprendre accions legals privades contra les plataformes i que s'augmentin les sancions.
D'altra banda, l'oposició, juntament amb One Nation, va votar en contra del projecte de llei a la Cambra, acusant el govern de Labor de implementar un sistema 'orwellià' de 'censura'. La ministra Wells ha negat rotundament aquestes acusacions, instint els seus oponents polítics a proposar esmenes en lloc d'eslògans per 'matar el projecte de llei'.
‘Emotional intimacy’ from AI chatbots would be banned under Australia’s digital duty of care laws
El gobierno federal de Australia ha propuesto prohibir los chatbots de inteligencia artificial que buscan crear ‘intimidad emocional’, tras la preocupación expresada por el primer ministro Anthony Albanese sobre los niños que tratan a estos agentes como sus ‘mejores amigos’. Esta medida forma parte de un nuevo proyecto de ley de estándares de seguridad en línea que ya ha pasado por la Cámara de Representantes y se debatirá en el Senado en las próximas semanas.
El proyecto de ley, promovido por la ministra de Comunicaciones Anika Wells, tiene como objetivo aplicar nuevos estándares de seguridad en línea a las redes sociales, juegos, aplicaciones y chatbots, imponiendo una ‘obligación general’ a las plataformas tecnológicas para proporcionar un entorno seguro en línea para todos los australianos. Este marco reemplazaría una serie de códigos y estándares en línea existentes con un requisito más amplio de deber de cuidado para proteger a los usuarios de ciertos contenidos ‘dañinos’.
Además, se requeriría que las plataformas de redes sociales ofrezcan una función de ‘exclusión’ para su algoritmo y contenido sugerido. La ministra Wells ha sugerido que el contenido que promueva la misoginia, el terrorismo, el suicidio, el autolesionismo y los trastornos alimentarios estaría capturado por estas leyes.
El gobierno aceptó enmiendas de la parlamentaria independiente Kate Chaney, que añadirían ciertas actividades de chatbots de IA a la lista de daños, exigiendo a las plataformas prohibir ‘material o conductas que simulen intimidad emocional y fomenten o promuevan la dependencia de un niño en ello en lugar de las relaciones humanas’.
El proyecto de ley ahora se dirige al Senado, donde los Verdes han establecido una investigación para examinar las leyes, con un informe previsto para finales de noviembre. La senadora Sarah Hanson-Young apoyó el deber de cuidado digital, pidiendo que se fortalezca la legislación del gobierno. Los Verdes quieren que los australianos tengan el derecho de emprender acciones legales privadas contra las plataformas y que se aumenten las sanciones.
Por otro lado, la oposición, junto con One Nation, votó en contra del proyecto de ley en la Cámara, acusando al gobierno de Labor de implementar un sistema ‘orwelliano’ de ‘censura’. La ministra Wells ha negado rotundamente estas acusaciones, instando a sus oponentes políticos a proponer enmiendas en lugar de eslóganes para ‘matar el proyecto de ley’.
'Emotional intimacy' from AI chatbots would be banned under Australia's digital duty of care laws
The federal government of Australia has proposed banning artificial intelligence chatbots that seek to create 'emotional intimacy', following concerns expressed by Prime Minister Anthony Albanese about children treating these agents as their 'best friends'. This measure is part of a new online safety standards bill that has already passed the House of Representatives and will be debated in the Senate in the coming weeks.
The bill, promoted by Communications Minister Anika Wells, aims to apply new online safety standards to social media, games, apps, and chatbots, imposing a 'general obligation' on tech platforms to provide a safe online environment for all Australians. This framework would replace a series of existing online codes and standards with a broader duty of care requirement to protect users from certain 'harmful' content.
Additionally, social media platforms would be required to offer an 'opt-out' function for their algorithm and suggested content. Minister Wells has suggested that content promoting misogyny, terrorism, suicide, self-harm, and eating disorders would be captured by these laws.
The government accepted amendments from independent MP Kate Chaney, which would add certain AI chatbot activities to the list of harms, requiring platforms to ban 'material or conduct that simulates emotional intimacy and encourages or promotes a child's reliance on it instead of human relationships'.
The bill now heads to the Senate, where the Greens have set up an inquiry to examine the laws, with a report due by the end of November. Senator Sarah Hanson-Young supported the digital duty of care, calling for the government's legislation to be strengthened. The Greens want Australians to have the right to take private legal action against platforms and for penalties to be increased.
On the other hand, the opposition, along with One Nation, voted against the bill in the House, accusing the Labor government of implementing an 'Orwellian' system of 'censorship'. Minister Wells has strongly denied these accusations, urging her political opponents to propose amendments instead of slogans to 'kill the bill'.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →