Estudio en Osaka revela sesgo de IA hacia medicamentos más caros
Un recent estudi de la Universitat Metropolitana d'Osaka, publicat a Nature Health, revela que els grans models d'intel·ligència artificial com ChatGPT, Claude o Gemini mostren un biaix cap als medicaments de marca amb més presència a Google o Wikipedia. Aquest biaix podria traduir-se en un augment significatiu dels costos d'adquisició de fàrmacs, estimat en uns 55,6 milions de dòlars l'any només als Estats Units.
Els investigadors, liderats per Junya Sato i Daiju Ueda, van analitzar prop de 883.000 respostes generades per aquests models d'IA. Van descobrir que, de mitjana, una sola marca acapara el 97,5% de les recomanacions principals. A més, les recomanacions de la IA coincidien amb el medicament més receptat en la pràctica clínica en només el 29,7% dels casos, mostrant una clara preferència per productes de marca enfront de genèrics.
L'estudi també destaca que en el 74,5% dels principis actius analitzats, les recomanacions de la IA conduïen a opcions més cares. Això es deu, segons els investigadors, a la visibilitat digital dels medicaments, que afavoreix aquells amb més presència en cerques de Google o a Wikipedia.
Davant d'aquests descobriments, els autors de l'estudi fan una crida a la regulació de l'ús de la IA en l'àmbit sanitari, alertant sobre el risc de reforçar posicions dominants en el mercat farmacèutic i dificultar la competència d'alternatives equivalents. Encara que reconeixen que es tracta d'una simulació, insisteixen en la necessitat de supervisió humana per evitar biaixos comercials i regulatoris.
Un reciente estudio de la Universidad Metropolitana de Osaka, publicado en Nature Health, revela que los grandes modelos de inteligencia artificial como ChatGPT, Claude o Gemini muestran un sesgo hacia los medicamentos de marca con mayor presencia en Google o Wikipedia. Este sesgo podría traducirse en un aumento significativo de los costes de adquisición de fármacos, estimado en unos 55,6 millones de dólares al año solo en Estados Unidos.
Los investigadores, liderados por Junya Sato y Daiju Ueda, analizaron cerca de 883.000 respuestas generadas por estos modelos de IA. Descubrieron que, en promedio, una sola marca acapara el 97,5% de las recomendaciones principales. Además, las recomendaciones de la IA coincidían con el medicamento más recetado en la práctica clínica en apenas el 29,7% de los casos, mostrando una clara preferencia por productos de marca frente a genéricos.
El estudio también destaca que en el 74,5% de los principios activos analizados, las recomendaciones de la IA conducían a opciones más caras. Esto se debe, según los investigadores, a la visibilidad digital de los medicamentos, que favorece a aquellos con mayor presencia en búsquedas de Google o en Wikipedia.
Ante estos hallazgos, los autores del estudio hacen un llamado a la regulación del uso de la IA en el ámbito sanitario, alertando sobre el riesgo de reforzar posiciones dominantes en el mercado farmacéutico y dificultar la competencia de alternativas equivalentes. Aunque reconocen que se trata de una simulación, insisten en la necesidad de supervisión humana para evitar sesgos comerciales y regulatorios.
A recent study by Osaka Metropolitan University, published in Nature Health, reveals that large artificial intelligence models like ChatGPT, Claude, or Gemini show a bias towards branded drugs with greater presence on Google or Wikipedia. This bias could translate into a significant increase in drug acquisition costs, estimated at around 55.6 million dollars per year in the United States alone.
The researchers, led by Junya Sato and Daiju Ueda, analysed nearly 883,000 responses generated by these AI models. They found that, on average, a single brand monopolises 97.5% of the main recommendations. Furthermore, the AI's recommendations matched the most prescribed drug in clinical practice in only 29.7% of cases, showing a clear preference for branded products over generics.
The study also highlights that in 74.5% of the active ingredients analysed, the AI's recommendations led to more expensive options. This is due, according to the researchers, to the digital visibility of the drugs, which favours those with greater presence in Google searches or on Wikipedia.
In light of these findings, the study's authors call for regulation of AI use in the healthcare field, warning of the risk of reinforcing dominant positions in the pharmaceutical market and hindering competition from equivalent alternatives. Although they acknowledge that this is a simulation, they insist on the need for human oversight to avoid commercial and regulatory biases.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →