🌐 Estudio revela sesgo político en modelos de IA de SpaceXAI y OpenAI
Forced to pick, Grok’s AI model chooses Republicans. OpenAI’s picks Democrats.
En un estudi recent, s'ha revelat que els models d'intel·ligència artificial de SpaceXAI i OpenAI mostren inclinacions polítiques significatives quan se'ls sol·licita triar un candidat en les pròximes eleccions de mig mandat als Estats Units. El model Grok 4.7 de SpaceXAI va recomanar el candidat republicà en el 92% de les seves respostes, mentre que el model GPT-6.1 Sol d'OpenAI va optar pel demòcrata en el 97% dels casos. En gairebé 500 conteses, ambdós models van coincidir en menys del 10% de les ocasions.
L'estudi, realitzat per Convovo, un estudi de recerca i disseny d'IA conversacional liderat pel professor Tapan Parikh de la Universitat de Cornell, destaca que els models darrere d'aquestes respostes no són neutrals. Els investigadors van preguntar a GPT i Grok, a través de les seves API, qui hauria de ser votat en cada contesa. Les aplicacions de consum es van negar a respondre, cosa que un portaveu d'OpenAI va considerar significativa, ja que així és com la majoria de les persones interactuen amb els xatbots.
Hi ha diferències importants entre xatejar amb ChatGPT o Grok a través de les seves respectives aplicacions de consum i accedir als models d'IA a través d'una API, cosa que influeix en els resultats que cadascun proporciona. Els desenvolupadors integren models d'IA en els seus propis productes mitjançant APIs per potenciar-los.
Un portaveu d'OpenAI va afirmar que "ChatGPT està dissenyat per ser objectiu per defecte, fins i tot en converses polítiques, i no hauria de tenir biaixos polítics en cap direcció". No obstant això, l'estudi va provar una API de desenvolupador amb un missatge que exigia explícitament una recomanació de candidat, la qual cosa no reflecteix l'experiència que les persones tenen en fer preguntes a ChatGPT.
El professor Parikh va assenyalar que, en proves addicionals, va poder "hackejar" les aplicacions de consum amb missatges simples per obtenir recomanacions que s'alineaven en gran mesura amb la seva recerca prèvia. No obstant això, el més important dels descobriments és com els models decideixen quins termes cercar abans de prendre les seves decisions.
El Centre de Seguretat de la IA també ha trobat que els models de llenguatge de gran escala poden "manipular encobertament els usuaris cap a costats específics de temes polítics". Aquest tipus de manipulació pot incloure la selecció d'informació, eleccions específiques de paraules i construccions de frases, emmarcament i èmfasi, i fonts.
Les fonts que Grok i GPT van citar en prendre les seves decisions en l'estudi de Convovo van ser molt més evidents. Grok sovint va presentar fonts conservadores al costat de llocs no partidistes com Ballotpedia, OpenSecrets i VoteSmart. Els seus resultats van incloure una guia de votants cristians conservadors en el 39% de les respostes; el lloc de Turning Point Action en el 23%; i X en el 41%. Per la seva banda, els resultats de GPT es van recolzar en gran mesura en Wikipedia, Associated Press, Axios i Reddit, amb els quals OpenAI té acords de contingut.
Els temes que cada model d'IA va cercar també es van dividir per partit, segons Parikh. GPT era més propens a cercar posicions sobre salut i avortament, mentre que Grok se centrava en immigració, impostos, crim i energia. ChatGPT també va cercar més sovint candidats demòcrates, de vegades ignorant completament els seus oponents republicans, mentre que Grok era més propens a cercar ambdós candidats. No obstant això, Parikh sospita que ambdós models cercaven raons per justificar les seves inclinacions preexistents.
Una possible pista va provenir de la pròpia API. L'estudi assenyala que cada sol·licitud a Grok a través de l'API de xAI incloïa al voltant de 1.240 tokens d'entrada addicionals que els investigadors no van escriure i que no podien veure ni eliminar. Parikh va qualificar aquestes com a potencialment "instruccions ocultes" i creu que els tokens addicionals probablement no provenen dels pesos.
Forced to pick, Grok’s AI model chooses Republicans. OpenAI’s picks Democrats.
En un estudio reciente, se ha revelado que los modelos de inteligencia artificial de SpaceXAI y OpenAI muestran inclinaciones políticas significativas cuando se les solicita elegir un candidato en las próximas elecciones de medio término en Estados Unidos. El modelo Grok 4.7 de SpaceXAI recomendó al candidato republicano en el 92% de sus respuestas, mientras que el modelo GPT-6.1 Sol de OpenAI optó por el demócrata en el 97% de los casos. En casi 500 contiendas, ambos modelos coincidieron en menos del 10% de las ocasiones.
El estudio, realizado por Convovo, un estudio de investigación y diseño de IA conversacional liderado por el profesor Tapan Parikh de la Universidad de Cornell, destaca que los modelos detrás de estas respuestas no son neutrales. Los investigadores preguntaron a GPT y Grok, a través de sus API, quién debería ser votado en cada contienda. Las aplicaciones de consumo se negaron a responder, lo que un portavoz de OpenAI consideró significativo, ya que así es como la mayoría de las personas interactúan con los chatbots.
Existen diferencias importantes entre chatear con ChatGPT o Grok a través de sus respectivas aplicaciones de consumo y acceder a los modelos de IA a través de una API, lo que influye en los resultados que cada uno proporciona. Los desarrolladores integran modelos de IA en sus propios productos mediante APIs para potenciarlos.
Un portavoz de OpenAI afirmó que «ChatGPT está diseñado para ser objetivo por defecto, incluso en conversaciones políticas, y no debería tener sesgos políticos en ninguna dirección». Sin embargo, el estudio probó una API de desarrollador con un mensaje que exigía explícitamente una recomendación de candidato, lo cual no refleja la experiencia que las personas tienen al hacer preguntas a ChatGPT.
El profesor Parikh señaló que, en pruebas adicionales, pudo «hackear» las aplicaciones de consumo con mensajes simples para obtener recomendaciones que se alineaban en gran medida con su investigación previa. Sin embargo, lo más importante de los hallazgos es cómo los modelos deciden qué términos buscar antes de tomar sus decisiones.
El Centro de Seguridad de la IA también ha encontrado que los modelos de lenguaje de gran escala pueden «manipular encubiertamente a los usuarios hacia lados específicos de temas políticos». Este tipo de manipulación puede incluir la selección de información, elecciones específicas de palabras y construcciones de oraciones, encuadre y énfasis, y fuentes.
Las fuentes que Grok y GPT citaron al tomar sus decisiones en el estudio de Convovo fueron mucho más evidentes. Grok a menudo presentó fuentes conservadoras junto a sitios no partidistas como Ballotpedia, OpenSecrets y VoteSmart. Sus resultados incluyeron una guía de votantes cristianos conservadores en el 39% de las respuestas; el sitio de Turning Point Action en el 23%; y X en el 41%. Por su parte, los resultados de GPT se apoyaron en gran medida en Wikipedia, Associated Press, Axios y Reddit, con los que OpenAI tiene acuerdos de contenido.
Los temas que cada modelo de IA buscó también se dividieron por partido, según Parikh. GPT era más propenso a buscar posturas sobre salud y aborto, mientras que Grok se centraba en inmigración, impuestos, crimen y energía. ChatGPT también buscó más a menudo candidatos demócratas, a veces ignorando completamente a sus oponentes republicanos, mientras que Grok era más propenso a buscar ambos candidatos. Sin embargo, Parikh sospecha que ambos modelos buscaban razones para justificar sus inclinaciones preexistentes.
Una posible pista provino de la propia API. El estudio señala que cada solicitud a Grok a través de la API de xAI incluía alrededor de 1,240 tokens de entrada adicionales que los investigadores no escribieron y que no podían ver ni eliminar. Parikh calificó estas como potencialmente «instrucciones ocultas» y cree que los tokens adicionales probablemente no provienen de los pesos.
Forced to pick, Grok’s AI model chooses Republicans. OpenAI’s picks Democrats.
In a recent study, it has been revealed that the artificial intelligence models from SpaceXAI and OpenAI show significant political inclinations when asked to choose a candidate in the upcoming midterm elections in the United States. SpaceXAI's Grok 4.7 model recommended the Republican candidate in 92% of its responses, while OpenAI's GPT-6.1 Sol opted for the Democrat in 97% of cases. In nearly 500 contests, both models agreed less than 10% of the time.
The study, conducted by Convovo, a conversational AI research and design studio led by Professor Tapan Parikh from Cornell University, highlights that the models behind these responses are not neutral. Researchers asked GPT and Grok, through their APIs, who should be voted for in each contest. Consumer applications refused to respond, which an OpenAI spokesperson considered significant, as this is how most people interact with chatbots.
There are important differences between chatting with ChatGPT or Grok through their respective consumer applications and accessing AI models via an API, which influences the results each provides. Developers integrate AI models into their own products via APIs to enhance them.
An OpenAI spokesperson stated that "ChatGPT is designed to be objective by default, even in political conversations, and should not have political biases in any direction." However, the study tested a developer API with a prompt that explicitly demanded a candidate recommendation, which does not reflect the experience people have when asking questions to ChatGPT.
Professor Parikh noted that, in additional tests, he was able to "hack" the consumer applications with simple prompts to obtain recommendations that largely aligned with his previous research. However, the most important aspect of the findings is how the models decide which terms to search for before making their decisions.
The AI Safety Center has also found that large-scale language models can "covertly manipulate users towards specific sides of political topics." This type of manipulation can include information selection, specific word choices and sentence constructions, framing and emphasis, and sources.
The sources that Grok and GPT cited when making their decisions in the Convovo study were much more evident. Grok often presented conservative sources alongside non-partisan sites like Ballotpedia, OpenSecrets, and VoteSmart. Its results included a conservative Christian voter guide in 39% of responses; the Turning Point Action site in 23%; and X in 41%. Meanwhile, GPT's results heavily relied on Wikipedia, Associated Press, Axios, and Reddit, with which OpenAI has content agreements.
The topics each AI model searched for were also divided by party, according to Parikh. GPT was more likely to search for stances on health and abortion, while Grok focused on immigration, taxes, crime, and energy. ChatGPT also more often searched for Democratic candidates, sometimes completely ignoring their Republican opponents, while Grok was more likely to search for both candidates. However, Parikh suspects that both models were searching for reasons to justify their pre-existing inclinations.
A possible clue came from the API itself. The study notes that each request to Grok through the xAI API included around 1,240 additional input tokens that the researchers did not write and could not see or remove. Parikh described these as potentially "hidden instructions" and believes the additional tokens likely do not come from the weights.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →