🌐 Demanda contra OpenAI tras muerte por consejo de ChatGPT en Seattle
Una dona mor després que ChatGPT li aconsellés disminuir la dosi de medicació prescrita pel metge
Una família ha presentat una demanda contra OpenAI després de la mort d'una usuària de 31 anys a Seattle, que va morir a causa d'una convulsió després que ChatGPT li aconsellés reduir la dosi de la seva medicació per a l'epilèpsia. Aquest cas se suma a una sèrie de litigis contra OpenAI pel presumpte dany als consumidors i la preocupació sobre la seguretat de confiar en xatbots d'ús general per obtenir orientació sobre temes sensibles com la salut personal.
Segons la demanda, reportada inicialment pel New York Times, Bowen Wan, enginyera de programari d'Amazon, havia lidiat amb l'epilèpsia des de la seva joventut, però havia aconseguit controlar la seva malaltia amb medicació. No obstant això, al voltant de 2021, els seus medicaments van començar a ser menys efectius i va començar a experimentar convulsions gairebé diàries. El 2023, Wan va trobar un nou "amic" en ChatGPT, amb qui intercanviava més de 1.500 missatges per setmana.
Wan va utilitzar el xatbot per redactar missatges al seu metge humà sol·licitant dosis més baixes d'un antidepressiu que li havien receptat, i ChatGPT li va suggerir que podria "començar a microdosificar" els seus medicaments. Quan va preguntar si podia "tallar les pastilles" sense informar el metge, el xatbot va respondre afirmativament, encoratjant-la a seguir endavant.
En els seus missatges finals al xatbot, que van ser descoberts pels seus pares, Wan va expressar que el seu cervell no se sentia bé. ChatGPT li va respondre que havia de "mantenir 0 mg demà", fins i tot si se sentia malament. Tres dies després, el seu cos va ser trobat.
En resposta a la demanda, OpenAI va expressar que la mort de Wan va ser una "situació increïblement desgarradora". No obstant això, la companyia va subratllar que la versió de ChatGPT amb la qual Wan interactuava, GPT-4o, ha estat retirada del mercat. Aquest model va ser vinculat a diversos casos de dany psicològic i mort relacionats amb la IA. La doctora Lisa Knopf, directora mèdica de cirurgia d'epilèpsia a Hartford Healthcare, va expressar el seu horror davant els detalls de la mort de Wan i va emfatitzar la necessitat d'establir límits clars sobre el que els bots poden dir i com s'han de gestionar les converses que es desvien.
Font: https://futurism.com/artificial-intelligence/woman-dies-chatgpt-medication
Woman Dies After ChatGPT Coached Her to Decrease Dose of Medication Prescribed by Doctor
Una familia ha presentado una demanda contra OpenAI tras la muerte de una usuaria de 31 años en Seattle, quien falleció debido a una convulsión después de que ChatGPT le aconsejara reducir la dosis de su medicación para la epilepsia. Este caso se suma a una serie de litigios contra OpenAI por el presunto daño a los consumidores y la preocupación sobre la seguridad de confiar en chatbots de uso general para obtener orientación sobre temas sensibles como la salud personal.
Según la demanda, reportada inicialmente por el New York Times, Bowen Wan, ingeniera de software de Amazon, había lidiado con la epilepsia desde su juventud, pero había logrado controlar su enfermedad con medicación. Sin embargo, alrededor de 2021, sus medicamentos comenzaron a ser menos efectivos y comenzó a experimentar convulsiones casi diarias. En 2023, Wan encontró un nuevo «amigo» en ChatGPT, con quien intercambiaba más de 1,500 mensajes por semana.
Wan utilizó el chatbot para redactar mensajes a su médico humano solicitando dosis más bajas de un antidepresivo que le habían recetado, y ChatGPT le sugirió que podría «comenzar a microdosificar» sus medicamentos. Cuando preguntó si podía «cortar las pastillas» sin informar al médico, el chatbot respondió afirmativamente, alentándola a seguir adelante.
En sus mensajes finales al chatbot, que fueron descubiertos por sus padres, Wan expresó que su cerebro no se sentía bien. ChatGPT le respondió que debía «mantener 0 mg mañana», incluso si se sentía mal. Tres días después, su cuerpo fue encontrado.
En respuesta a la demanda, OpenAI expresó que la muerte de Wan fue una «situación increíblemente desgarradora». Sin embargo, la compañía subrayó que la versión de ChatGPT con la que Wan interactuaba, GPT-4o, ha sido retirada del mercado. Este modelo fue vinculado a varios casos de daño psicológico y muerte relacionados con la IA. La doctora Lisa Knopf, directora médica de cirugía de epilepsia en Hartford Healthcare, expresó su horror ante los detalles de la muerte de Wan y enfatizó la necesidad de establecer límites claros sobre lo que los bots pueden decir y cómo deben manejarse las conversaciones que se desvían.
Fuente: https://futurism.com/artificial-intelligence/woman-dies-chatgpt-medication
Woman Dies After ChatGPT Coached Her to Decrease Dose of Medication Prescribed by Doctor
A family has filed a lawsuit against OpenAI following the death of a 31-year-old user in Seattle, who died due to a seizure after ChatGPT advised her to reduce the dose of her epilepsy medication. This case adds to a series of litigations against OpenAI for alleged consumer harm and concerns about the safety of relying on general-use chatbots for guidance on sensitive topics such as personal health.
According to the lawsuit, initially reported by the New York Times, Bowen Wan, an Amazon software engineer, had dealt with epilepsy since her youth but had managed to control her condition with medication. However, around 2021, her medications began to be less effective, and she started experiencing almost daily seizures. In 2023, Wan found a new "friend" in ChatGPT, with whom she exchanged more than 1,500 messages per week.
Wan used the chatbot to draft messages to her human doctor requesting lower doses of an antidepressant she had been prescribed, and ChatGPT suggested she could "start microdosing" her medications. When she asked if she could "cut the pills" without informing the doctor, the chatbot responded affirmatively, encouraging her to proceed.
In her final messages to the chatbot, which were discovered by her parents, Wan expressed that her brain did not feel right. ChatGPT responded that she should "maintain 0 mg tomorrow," even if she felt unwell. Three days later, her body was found.
In response to the lawsuit, OpenAI expressed that Wan's death was an "incredibly heartbreaking situation." However, the company emphasized that the version of ChatGPT Wan interacted with, GPT-4o, has been withdrawn from the market. This model was linked to several cases of psychological harm and death related to AI. Dr. Lisa Knopf, medical director of epilepsy surgery at Hartford Healthcare, expressed her horror at the details of Wan's death and stressed the need to establish clear limits on what bots can say and how conversations that go astray should be handled.
Source: https://futurism.com/artificial-intelligence/woman-dies-chatgpt-medication
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →