Riesgos de privacidad al usar ChatGPT y Grok, advierte experto en derecho digital
La intel·ligència artificial s'ha convertit en una eina quotidiana per a milions de persones. La utilitzem per resoldre dubtes, treballar, estudiar o demanar consell i, en moltes ocasions, compartim amb aquests sistemes informació que mai publicaríem en una xarxa social. Però, què passa realment amb totes aquestes dades?
L'advocat especialitzat en dret digital, Víctor Salgado, ha analitzat a La Ventana de las Rías, a Radio Coruña Cadena SER, els riscos per a la privacitat associats a l'ús d'algunes de les plataformes de intel·ligència artificial més populars. "Li estem explicant coses que no expliquem moltes vegades ni al nostre millor amic ni a la nostra parella", adverteix Salgado.
Durant anys, una de les màximes d'internet ha estat que quan un servei aparentment és gratuït, les dades dels seus usuaris poden convertir-se en part del model de negoci. L'arribada de la intel·ligència artificial generativa afegeix una nova dimensió. Desenvolupar i mantenir aquests sistemes requereix inversions multimilionàries i encara existeixen nombrosos interrogants sobre com les companyies aconseguiran rendibilitzar-los. Per a Salgado, aquest escenari converteix la IA en un potencial "caramel" per a les empreses interessades a conèixer millor els usuaris.
I existeix una diferència important respecte a altres tecnologies. Mentre que les xarxes socials o les pàgines web poden conèixer els nostres gustos, interessos o hàbits de navegació, les converses amb una intel·ligència artificial poden contenir informació molt més íntima. Salut, problemes personals, qüestions psicològiques, relacions sentimentals, treball o situació econòmica són alguns dels assumptes que un usuari pot arribar a plantejar a un chatbot.
Els dubtes sobre el tractament d'aquesta informació han estat objecte d'una investigació realitzada per investigadors espanyols en col·laboració amb IMDEA Networks i la Universitat Carlos III de Madrid. Segons explica Víctor Salgado, el treball ha estudiat nou dels principals sistemes de intel·ligència artificial disponibles actualment, entre ells algunes de les plataformes més utilitzades del mercat. Les conclusions apunten, segons assenyala l'advocat, a l'existència de comunicacions directes o indirectes amb plataformes de rastreig i, en determinats casos, amb serveis relacionats amb la publicitat.
La principal preocupació està en la naturalesa de les dades que els usuaris introdueixen voluntàriament en aquestes plataformes. Salgado posa un exemple molt gràfic: una persona pot preguntar a una intel·ligència artificial pels primers símptomes del Parkinson. Aquesta consulta no significa necessàriament que qui utilitza el chatbot pateixi la malaltia, ja que podria estar preguntant per un familiar o simplement buscant informació. No obstant això, es tracta d'una dada especialment delicada.
Entre les plataformes estudiades, Salgado posa especialment el focus en Grok, la intel·ligència artificial vinculada a X. Segons explica l'especialista a partir dels resultats de la investigació, l'estudi va detectar que determinades converses podien quedar accessibles mitjançant enllaços públics i que existien comunicacions amb plataformes externes. Els investigadors van traslladar les seves conclusions a les companyies afectades i també van posar la situació en coneixement de les autoritats de protecció de dades. L'assumpte podria tenir especial rellevància dins de la Unió Europea per les exigències establertes en matèria de privacitat i protecció d'informació personal.
La recomanació de l'expert és senzilla: no assumir que una conversa amb un chatbot té el mateix grau de confidencialitat que una comunicació privada protegida mitjançant xifratge d'extrem a extrem. La sensació de privacitat que genera mantenir una conversa individual amb una intel·ligència artificial pot provocar que els usuaris baixin la guàrdia i proporcionin més informació de la necessària. Per això, Salgado aconsella actuar sempre tenint present que allò que introduïm en una plataforma connectada a internet pot quedar emmagatzemat o ser tractat de diferents maneres.
La inteligencia artificial se ha convertido en una herramienta cotidiana para millones de personas. La utilizamos para resolver dudas, trabajar, estudiar o pedir consejo y, en muchas ocasiones, compartimos con estos sistemas información que nunca publicaríamos en una red social. Pero, ¿qué ocurre realmente con todos esos datos?
El abogado especializado en derecho digital, Víctor Salgado, ha analizado en La Ventana de las Rías, en Radio Coruña Cadena SER, los riesgos para la privacidad asociados al uso de algunas de las plataformas de inteligencia artificial más populares. «Le estamos contando cosas que no contamos muchas veces ni a nuestro mejor amigo ni a nuestra pareja», advierte Salgado.
Durante años, una de las máximas de internet ha sido que cuando un servicio aparentemente es gratuito, los datos de sus usuarios pueden convertirse en parte del modelo de negocio. La llegada de la inteligencia artificial generativa añade una nueva dimensión. Desarrollar y mantener estos sistemas requiere inversiones multimillonarias y todavía existen numerosos interrogantes sobre cómo las compañías conseguirán rentabilizarlos. Para Salgado, este escenario convierte a la IA en un potencial «caramelito» para las empresas interesadas en conocer mejor a los usuarios.
Y existe una diferencia importante respecto a otras tecnologías. Mientras que las redes sociales o las páginas web pueden conocer nuestros gustos, intereses o hábitos de navegación, las conversaciones con una inteligencia artificial pueden contener información mucho más íntima. Salud, problemas personales, cuestiones psicológicas, relaciones sentimentales, trabajo o situación económica son algunos de los asuntos que un usuario puede llegar a plantear a un chatbot.
Las dudas sobre el tratamiento de esta información han sido objeto de una investigación realizada por investigadores españoles en colaboración con IMDEA Networks y la Universidad Carlos III de Madrid. Según explica Víctor Salgado, el trabajo ha estudiado nueve de los principales sistemas de inteligencia artificial disponibles actualmente, entre ellos algunas de las plataformas más utilizadas del mercado. Las conclusiones apuntan, según señala el abogado, a la existencia de comunicaciones directas o indirectas con plataformas de rastreo y, en determinados casos, con servicios relacionados con la publicidad.
La principal preocupación está en la naturaleza de los datos que los usuarios introducen voluntariamente en estas plataformas. Salgado pone un ejemplo muy gráfico: una persona puede preguntar a una inteligencia artificial por los primeros síntomas del Parkinson. Esa consulta no significa necesariamente que quien utiliza el chatbot padezca la enfermedad, ya que podría estar preguntando por un familiar o simplemente buscando información. Sin embargo, se trata de un dato especialmente delicado.
Entre las plataformas estudiadas, Salgado pone especialmente el foco en Grok, la inteligencia artificial vinculada a X. Según explica el especialista a partir de los resultados de la investigación, el estudio detectó que determinadas conversaciones podían quedar accesibles mediante enlaces públicos y que existían comunicaciones con plataformas externas. Los investigadores trasladaron sus conclusiones a las compañías afectadas y también pusieron la situación en conocimiento de las autoridades de protección de datos. El asunto podría tener especial relevancia dentro de la Unión Europea por las exigencias establecidas en materia de privacidad y protección de información personal.
La recomendación del experto es sencilla: no asumir que una conversación con un chatbot tiene el mismo grado de confidencialidad que una comunicación privada protegida mediante cifrado de extremo a extremo. La sensación de privacidad que genera mantener una conversación individual con una inteligencia artificial puede provocar que los usuarios bajen la guardia y proporcionen más información de la necesaria. Por eso, Salgado aconseja actuar siempre teniendo presente que aquello que introducimos en una plataforma conectada a internet puede quedar almacenado o ser tratado de diferentes maneras.
Artificial intelligence has become an everyday tool for millions of people. We use it to solve doubts, work, study or seek advice and, on many occasions, we share with these systems information that we would never publish on a social network. But what really happens to all that data?
The lawyer specialised in digital law, Víctor Salgado, has analysed on La Ventana de las Rías, on Radio Coruña Cadena SER, the privacy risks associated with the use of some of the most popular artificial intelligence platforms. "We are telling it things that we often don't even tell our best friend or our partner," warns Salgado.
For years, one of the maxims of the internet has been that when a service is apparently free, the data of its users can become part of the business model. The arrival of generative artificial intelligence adds a new dimension. Developing and maintaining these systems requires multimillion-dollar investments and there are still numerous questions about how companies will manage to make them profitable. For Salgado, this scenario turns AI into a potential "sweet treat" for companies interested in getting to know users better.
And there is an important difference compared to other technologies. While social networks or websites can know our tastes, interests or browsing habits, conversations with artificial intelligence can contain much more intimate information. Health, personal problems, psychological issues, romantic relationships, work or economic situation are some of the matters a user might raise with a chatbot.
Concerns about the handling of this information have been the subject of research conducted by Spanish researchers in collaboration with IMDEA Networks and the Carlos III University of Madrid. According to Víctor Salgado, the study has examined nine of the main artificial intelligence systems currently available, including some of the most used platforms on the market. The conclusions point, according to the lawyer, to the existence of direct or indirect communications with tracking platforms and, in certain cases, with services related to advertising.
The main concern lies in the nature of the data that users voluntarily enter into these platforms. Salgado provides a very graphic example: a person might ask an artificial intelligence about the first symptoms of Parkinson's. This query does not necessarily mean that the person using the chatbot has the disease, as they could be asking about a relative or simply seeking information. However, it is a particularly sensitive piece of data.
Among the platforms studied, Salgado particularly focuses on Grok, the artificial intelligence linked to X. According to the specialist, based on the research results, the study detected that certain conversations could be accessible through public links and that there were communications with external platforms. The researchers conveyed their findings to the affected companies and also informed the data protection authorities. The matter could have special relevance within the European Union due to the requirements established in terms of privacy and personal information protection.
The expert's recommendation is simple: do not assume that a conversation with a chatbot has the same level of confidentiality as a private communication protected by end-to-end encryption. The sense of privacy generated by having an individual conversation with artificial intelligence can lead users to lower their guard and provide more information than necessary. Therefore, Salgado advises always acting with the awareness that what we input into an internet-connected platform may be stored or handled in different ways.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →