🌐 La atención en desastres de IA descuida los daños cotidianos, según MIT Technology Review
The focus on AI safety disasters ignores everyday harms
En l'àmbit de la política tecnològica, l'èxit sovint es mesura per la capacitat de les empreses d'intel·ligència artificial per evitar desastres catastròfics. No obstant això, aquesta perspectiva passa per alt els danys insidiosos que aquestes tecnologies poden causar en el dia a dia. Per exemple, mentre una empresa d'IA pot prometre que el seu chatbot no fomentarà el suïcidi, o una plataforma de xarxes socials pot dificultar la compra de fentanil per part de menors, aquests èxits no aborden el problema més ampli de com aquests productes afecten la nostra manera de pensar, aprendre i interactuar.
Històricament, el debat sobre la tecnologia s'ha centrat en els pitjors escenaris possibles, ignorant el dany quotidià que no sempre apareix en titulars. A mesura que avancem cap a una era dominada per productes d'IA poderosos, és crucial exigir que la indústria tecnològica faci més que simplement abordar danys catastròfics. Un adolescent que desenvolupa una dependència poc saludable cap a un company d'IA, o un estudiant que utilitza un chatbot per escriure tots els seus treballs, són exemples de com aquests productes poden complir amb requisits de seguretat estrets però deixar la nostra cultura en una situació pitjor.
La definició d'èxit basada únicament en la seguretat és convenient per a la indústria tecnològica, ja que evita litigis i pressió reguladora. No obstant això, enfrontar les conseqüències quotidianes de la dependència tecnològica requeriria mesures que podrien amenaçar els seus beneficis econòmics, com afegir més fricció als seus productes o limitar característiques que condueixen a resultats negatius, com algoritmes addictius.
Les grans empreses tecnològiques han treballat per modelar la legislació al voltant dels danys que ja estan sota pressió per abordar. Aquest any, per exemple, Google va donar suport a lleis per regular chatbots d'IA en diversos estats, amb proteccions bàsiques contra contingut sexual i promoció d'autolesions, però amb exempcions que podrien beneficiar serveis populars. Així, els legisladors poden proclamar victòries en seguretat mentre s'ignoren esforços per promoure lleis més estrictes que evitin la dependència emocional dels nens cap a la IA.
Hem vist una versió d'això amb les xarxes socials, on el temps que les persones passen en aquestes plataformes ha estat arrabassat silenciosament de la vida ordinària. Les plataformes de Meta, per exemple, han estat citades per contribuir a esdeveniments devastadors com el genocidi dels rohingyes a Myanmar. La IA estèn aquesta lògica a aspectes de la vida que abans només eren influenciats per les xarxes socials, oferint escriure els nostres pensaments i reemplaçar les persones amb les quals podríem parlar.
Hem d'exigir seguretat com a mínim, i després molt més. Les empreses tecnològiques i els districtes escolars haurien de demostrar que la IA millora l'aprenentatge i el pensament crític abans d'integrar-la a les aules. A més, les empreses haurien d'estar prohibides de dissenyar companys que pretenguin ser conscients o professin amor als usuaris, enfrontant un escrutini independent sobre com els seus sistemes afecten les relacions i la capacitat de les persones per pensar per si mateixes.
The focus on AI safety disasters ignores everyday harms
En el ámbito de la política tecnológica, el éxito a menudo se mide por la capacidad de las empresas de inteligencia artificial para evitar desastres catastróficos. Sin embargo, esta perspectiva pasa por alto los daños insidiosos que estas tecnologías pueden causar en el día a día. Por ejemplo, mientras una empresa de IA puede prometer que su chatbot no fomentará el suicidio, o una plataforma de redes sociales puede dificultar la compra de fentanilo por parte de menores, estos logros no abordan el problema más amplio de cómo estos productos afectan nuestra manera de pensar, aprender e interactuar.
Históricamente, el debate sobre la tecnología se ha centrado en los peores escenarios posibles, ignorando el daño cotidiano que no siempre aparece en titulares. A medida que avanzamos hacia una era dominada por productos de IA poderosos, es crucial exigir que la industria tecnológica haga más que simplemente abordar daños catastróficos. Un adolescente que desarrolla una dependencia poco saludable hacia un compañero de IA, o un estudiante que utiliza un chatbot para escribir todos sus trabajos, son ejemplos de cómo estos productos pueden cumplir con requisitos de seguridad estrechos pero dejar nuestra cultura en una situación peor.
La definición de éxito basada únicamente en la seguridad es conveniente para la industria tecnológica, ya que evita litigios y presión regulatoria. Sin embargo, enfrentar las consecuencias cotidianas de la dependencia tecnológica requeriría medidas que podrían amenazar sus beneficios económicos, como añadir más fricción a sus productos o limitar características que conducen a resultados negativos, como algoritmos adictivos.
Las grandes empresas tecnológicas han trabajado para moldear la legislación en torno a los daños que ya están bajo presión para abordar. Este año, por ejemplo, Google apoyó leyes para regular chatbots de IA en varios estados, con protecciones básicas contra contenido sexual y promoción de autolesiones, pero con exenciones que podrían beneficiar a servicios populares. Así, los legisladores pueden proclamar victorias en seguridad mientras se ignoran esfuerzos por promover leyes más estrictas que eviten la dependencia emocional de los niños hacia la IA.
Hemos visto una versión de esto con las redes sociales, donde el tiempo que las personas pasan en estas plataformas ha sido arrebatado silenciosamente de la vida ordinaria. Las plataformas de Meta, por ejemplo, han sido citadas por contribuir a eventos devastadores como el genocidio de los rohinyás en Myanmar. La IA extiende esta lógica a aspectos de la vida que antes solo eran influenciados por las redes sociales, ofreciendo escribir nuestros pensamientos y reemplazar a las personas con las que podríamos hablar.
Debemos exigir seguridad como mínimo, y luego mucho más. Las empresas tecnológicas y los distritos escolares deberían demostrar que la IA mejora el aprendizaje y el pensamiento crítico antes de integrarla en las aulas. Además, las empresas deberían estar prohibidas de diseñar compañeros que pretendan ser conscientes o profesen amor a los usuarios, enfrentando un escrutinio independiente sobre cómo sus sistemas afectan las relaciones y la capacidad de las personas para pensar por sí mismas.
The focus on AI safety disasters ignores everyday harms
In the realm of technology policy, success is often measured by the ability of artificial intelligence companies to avoid catastrophic disasters. However, this perspective overlooks the insidious harm these technologies can cause in everyday life. For example, while an AI company may promise that its chatbot will not encourage suicide, or a social media platform may make it harder for minors to purchase fentanyl, these achievements do not address the broader issue of how these products affect our way of thinking, learning, and interacting.
Historically, the debate on technology has focused on the worst possible scenarios, ignoring the everyday harm that does not always make headlines. As we move towards an era dominated by powerful AI products, it is crucial to demand that the tech industry does more than simply address catastrophic harm. A teenager developing an unhealthy dependency on an AI companion, or a student using a chatbot to write all their assignments, are examples of how these products can meet narrow safety requirements but leave our culture in a worse situation.
Defining success solely based on safety is convenient for the tech industry, as it avoids litigation and regulatory pressure. However, addressing the everyday consequences of technological dependency would require measures that could threaten their economic benefits, such as adding more friction to their products or limiting features that lead to negative outcomes, like addictive algorithms.
Large tech companies have worked to shape legislation around the harms they are already under pressure to address. This year, for example, Google supported laws to regulate AI chatbots in several states, with basic protections against sexual content and the promotion of self-harm, but with exemptions that could benefit popular services. Thus, lawmakers can claim victories in safety while ignoring efforts to promote stricter laws that prevent children's emotional dependency on AI.
We have seen a version of this with social media, where the time people spend on these platforms has been quietly taken from ordinary life. Meta's platforms, for example, have been cited for contributing to devastating events like the Rohingya genocide in Myanmar. AI extends this logic to aspects of life that were previously only influenced by social media, offering to write our thoughts and replace the people we might talk to.
We must demand safety as a minimum, and then much more. Tech companies and school districts should demonstrate that AI enhances learning and critical thinking before integrating it into classrooms. Moreover, companies should be prohibited from designing companions that pretend to be conscious or profess love to users, facing independent scrutiny on how their systems affect relationships and people's ability to think for themselves.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →