Sergi Marcén · EPICTETO, LA MENTIRA Y LA IA QUE NO SABE QUE MIENTE.

¿Puede mentir alguien que no sabe lo que es la verdad? Hace casi dos mil años, Epicteto reflexionaba sobre una de las contradicciones más humanes, ¿puede nuestra capacidad aceptar como verdadero aquello que nos conviene creer, incluso cuando la realidad nos ofrece motivos para dudar?
El filósofo estoico Epicteto no conoció ni por asomo los ordenadores, los algoritmos, ni mucho menos la inteligencia artificial. Pero algunas de sus reflexiones sobre el juicio, la verdad y el autoengaño resultan sorprendentemente actuales.
Hay una idea de Epicteto que me interesa especialmente. En sus “Discursos” escritos entre los años 108 y 125 d.C., sostiene que la mente humana rechaza por naturaleza la contradicción, pero que puede mantener creencias contradictorias mientras no sea consciente de ello. Dicho de otra manera, somos capaces de defender algo falso sin reconocer nuestra propia equivocación.
Y aquí empieza una reflexión que hace tiempo que me ronda por la cabeza. ¿Qué diferencia existe entre una persona que miente y una inteligencia artificial que inventa una respuesta y nos la presenta como si fuera cierta?
A primera vista, el resultado puede ser idéntico. Recibimos una información falsa, la consideramos verdadera y, en ocasiones, tomamos decisiones basándonos en ella. Pero lo que sucede detrás de esa falsedad es radicalmente distinto.
Una persona puede mentir por miedo, por interés, por satisfacción, vergüenza o simplemente para evitar una situación incómoda. Puede conocer perfectamente la verdad y decidir ocultarla. También puede engañarse a sí misma hasta acabar creyendo su propia versión de los hechos. Somos bastante buenos haciendo esto último, aunque nos cueste reconocerlo.
La inteligencia artificial, en cambio, no necesita conocer la verdad para producir una mentira aparente. Cuando un sistema de IA generativa alucina, puede inventar una cita, atribuir una afirmación a alguien que nunca la pronunció, construir una explicación científica equivocada o describir acontecimientos que jamás sucedieron. Y puede hacerlo con una seguridad desconcertante.
No duda. No se sonroja. No siente la incomodidad de quien sabe que está faltando a la verdad. Pero tampoco tenemos motivos para atribuirle, por ese comportamiento, una intención consciente de engañarnos. Los modelos actuales generan respuestas mediante procesos computacionales que no equivalen a las creencias, las intenciones o la conciencia moral de una persona.
Por eso creo que conviene distinguir dos conceptos que muchas veces mezclamos, la mentira y la falsedad. Toda mentira deliberada contiene una intención de engañar, pero no toda falsedad es una mentira.
Parece una distinción sencilla. Sin embargo, aplicada a la inteligencia artificial tiene consecuencias importantes. Durante siglos los hemos aprendido a interpretar la comunicación humana teniendo en cuenta quién nos habla, qué intereses tiene, cuánto sabe y por qué podría querer engañarnos. Hemos desarrollado una cierta intuición para desconfiar de algunas afirmaciones. No siempre funciona, evidentemente, pero forma parte de nuestra experiencia social.
Con la inteligencia artificial aparece algo distinto. Nos encontramos ante sistemas capaces de construir explicaciones extraordinariamente convincentes sin que esa capacidad garantice la verdad de lo que explican. Y nuestro cerebro no siempre está preparado para distinguir una cosa de la otra.
Una respuesta bien escrita, ordenada, detallada y expresada con seguridad nos transmite una sensación de conocimiento. Si además procede de una tecnología que asociamos con millones de datos y una enorme capacidad de procesamiento, resulta todavía más fácil otorgarle credibilidad. Confundimos la calidad de la explicación con la calidad de la información.
Creo que este es uno de los grandes riesgos cognitivos de la inteligencia artificial. No porque las personas seamos incapaces de pensar críticamente, sino porque estamos acostumbrados a relacionar la coherencia del lenguaje con la existencia de alguien que comprende aquello que está diciendo. Con la IA, esa relación deja de ser una garantía.
Y aquí vuelvo a Epicteto. El filósofo insistía en la importancia de examinar nuestros juicios antes de aceptarlos. No son los acontecimientos por sí mismos los que determinan nuestra interpretación de la realidad, sino los juicios que construimos sobre ellos. Una idea que hoy adquiere una dimensión nueva.
Porque ya no examinamos únicamente nuestros propios pensamientos o las afirmaciones de otras personas. Ahora debemos aprender a examinar también las respuestas de máquinas que pueden expresarse con una precisión lingüística admirable y, al mismo tiempo, equivocarse por completo.
Pero hay otra cuestión que me preocupa todavía más. Si una máquina no sabe que está mintiendo, ¿quién responde por sus mentiras?
Imaginemos una empresa que desarrolla una inteligencia artificial para ayudar a tomar decisiones médicas, jurídicas o económicas. Sus responsables saben que el sistema puede inventar información. Conocen sus limitaciones y saben que algunas respuestas pueden ser incorrectas. A pesar de ello, deciden presentarlo comercialmente como una herramienta fiable, sin explicar adecuadamente esos riesgos. La máquina puede estar generando una falsedad sin intención de engañar. Pero las personas que conocen sus limitaciones y las ocultan ya se encuentran en un terreno moral muy diferente.
Aquí la responsabilidad vuelve a ser profundamente humana. No podemos exigir honestidad moral a un algoritmo como se la exigimos a una persona. Pero sí podemos exigirla a quienes lo diseñan, lo comercializan, lo incorporan a las organizaciones y deciden qué grado de autonomía le conceden. Y también debemos exigirnos cierta responsabilidad como usuarios.
No tiene demasiado sentido reclamar una inteligencia artificial responsable si estamos dispuestos a aceptar cualquier respuesta que confirme aquello que ya pensábamos. Ese comportamiento, por cierto, nos devuelve a una de las viejas preocupaciones de Epicteto, “nuestra facilidad para confundir lo que creemos con lo que sabemos.”
Quizá la IA no ha inventado un problema nuevo. Quizá ha amplificado, a una escala desconocida, una debilidad que siempre ha formado parte de nuestra manera de pensar. Nos gusta tener razón. Nos incomoda la incertidumbre. Y una respuesta inmediata, convincente y aparentemente fundamentada resulta mucho más agradable que reconocer que todavía no sabemos algo. Por eso me parece tan importante que los sistemas de inteligencia artificial aprendan a expresar sus limitaciones, a reconocer la incertidumbre y, cuando corresponda, a responder sencillamente, “No lo sé”.
Durante años hemos medido el progreso tecnológico por la capacidad de las máquinas para ofrecer respuestas. Tal vez deberíamos empezar a valorar también su capacidad para no ofrecerlas cuando no disponen de fundamentos suficientes.
Una inteligencia artificial que reconoce sus límites puede resultar menos espectacular, pero probablemente será mucho más útil para construir una relación de confianza con las personas. Y esa confianza no debería basarse en la apariencia de inteligencia, sino en la posibilidad de comprobar lo que se nos dice, corregir los errores y saber quién asume las consecuencias cuando algo falla.
Hay una diferencia fundamental entre equivocarse, mentir y permitir conscientemente que otros sean engañados. Si no somos capaces de distinguirlas, corremos el riesgo de trasladar a las máquinas responsabilidades que siguen perteneciendo a las personas. Epicteto situaba la libertad humana en nuestra capacidad para gobernar nuestros propios juicios. Casi dos mil años después, la inteligencia artificial nos enfrenta a una nueva dificultad: una parte creciente de la información con la que construimos esos juicios procede de sistemas que pueden generar afirmaciones sin comprenderlas como lo hacemos nosotros.
No creo que la respuesta sea desconfiar de toda la tecnología. Sería absurdo renunciar a una herramienta con tantas posibilidades para mejorar el conocimiento, el trabajo y la vida de las personas. Pero tampoco podemos confundir su capacidad para producir lenguaje con una autoridad incuestionable sobre la verdad.
Al final, hay algo que ninguna revolución tecnológica debería hacernos olvidar. Una máquina puede equivocarse sin saberlo. Una persona puede mentir sabiendo que lo hace. Pero cuando una persona utiliza conscientemente la capacidad de una máquina para generar falsedades y engañar a los demás, la mentira vuelve a tener un responsable humano.
Y quizá esta sea la pregunta que deberíamos hacernos con más frecuencia, no si la inteligencia artificial es capaz de mentir, sino si nosotros estamos siendo suficientemente honestos sobre lo que realmente es capaz de hacer.
Porque la tecnología puede cambiar radicalmente nuestra manera de acceder al conocimiento, pero la responsabilidad de distinguir entre lo verdadero, lo falso y lo que simplemente queremos creer sigue siendo nuestra.

Sergi Marcén
Este artículo ha sido publicado directamente por su autor, un colaborador de confianza de BarcelonaDot.org. Su contenido refleja exclusivamente su perspectiva personal y no ha pasado por el proceso editorial habitual del medio.