Expertos advierten sobre la confianza en respuestas de chats de IA
La Intel·ligència Artificial (IA) ha irromput en les nostres vides de manera irreversible, convertint-se en una eina quotidiana per a milions de persones. Des de consultes sobre recomanacions de pel·lícules fins a l'organització de viatges o la planificació de dietes, els assistents virtuals s'han integrat en les nostres rutines diàries, oferint respostes immediates i estructurades que abans buscàvem en motors de cerca tradicionals.
El professor i investigador de la Universitat Politècnica de València, Javier Palanca, destaca que la facilitat d'ús d'aquests sistemes ha captivat usuaris de totes les edats, des de joves fins a jubilats. "És tan fàcil d'usar que tothom hi està entrant sense cap dubte", afirma Palanca.
No obstant això, sorgeix una pregunta crítica: hem de confiar cegament en les respostes que ens proporcionen aquests xats d'IA? Segons Palanca, la resposta és no. "Cal tenir cura en confiar en aquestes recomanacions que ens fa la IA, no tenen per què ser certes i hem de ser molt conscients de com funciona internament una IA. No tracta de buscar la resposta correcta sinó la més satisfactòria per a tu", adverteix l'investigador.
La introducció de la IA en l'educació també planteja desafiaments significatius. Palanca assenyala que és un repte aprendre noves formes d'ensenyar i avaluar, promovent un ús responsable i crític d'aquestes tecnologies. "Encara no tenim una solució prou bona", admet.
A més, Palanca expressa la seva preocupació sobre l'impacte cognitiu de la IA: "Em genera por, perquè una eina que pensa tan fàcilment per nosaltres em fa qüestionar fins a quin punt ens perjudicarà i desentrenarà l'ús del nostre propi cervell".
La Inteligencia Artificial (IA) ha irrumpido en nuestras vidas de manera irreversible, convirtiéndose en una herramienta cotidiana para millones de personas. Desde consultas sobre recomendaciones de películas hasta la organización de viajes o la planificación de dietas, los asistentes virtuales se han integrado en nuestras rutinas diarias, ofreciendo respuestas inmediatas y estructuradas que antes buscábamos en motores de búsqueda tradicionales.
El profesor e investigador de la Universidad Politécnica de Valencia, Javier Palanca, destaca que la facilidad de uso de estos sistemas ha cautivado a usuarios de todas las edades, desde jóvenes hasta jubilados. «Es tan fácil de usar que todo el mundo está entrando en ella sin ninguna duda», afirma Palanca.
Sin embargo, surge una pregunta crítica: ¿debemos confiar ciegamente en las respuestas que nos proporcionan estos chats de IA? Según Palanca, la respuesta es no. «Hay que tener cuidado en confiar en esas recomendaciones que nos hace la IA, no tienen por qué ser certeras y tenemos que ser muy conscientes de cómo funciona internamente una IA. No trata de buscar la respuesta correcta sino la más satisfactoria para ti», advierte el investigador.
La introducción de la IA en la educación también plantea desafíos significativos. Palanca señala que es un reto aprender nuevas formas de enseñar y evaluar, promoviendo un uso responsable y crítico de estas tecnologías. «Aún no tenemos una solución lo bastante buena», admite.
Además, Palanca expresa su preocupación sobre el impacto cognitivo de la IA: «Me genera miedo, porque una herramienta que piensa tan fácil por nosotros me hace cuestionar hasta qué punto nos va a perjudicar y va a desentrenar el uso de nuestro propio cerebro».
Artificial Intelligence (AI) has entered our lives irreversibly, becoming an everyday tool for millions of people. From queries about movie recommendations to travel planning or diet organisation, virtual assistants have integrated into our daily routines, offering immediate and structured responses that we previously sought in traditional search engines.
Professor and researcher at the Polytechnic University of Valencia, Javier Palanca, highlights that the ease of use of these systems has captivated users of all ages, from young people to retirees. "It is so easy to use that everyone is getting into it without any doubt," says Palanca.
However, a critical question arises: should we blindly trust the responses provided by these AI chats? According to Palanca, the answer is no. "We must be careful in trusting those recommendations made by AI, they do not have to be accurate and we must be very aware of how an AI works internally. It does not try to find the correct answer but the most satisfactory one for you," warns the researcher.
The introduction of AI in education also poses significant challenges. Palanca points out that it is a challenge to learn new ways of teaching and assessing, promoting a responsible and critical use of these technologies. "We still do not have a good enough solution," he admits.
Furthermore, Palanca expresses his concern about the cognitive impact of AI: "It scares me because a tool that thinks so easily for us makes me question to what extent it will harm us and will untrain the use of our own brain."
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →