ChatGPT le prometió 800€ al mes de pensión. Recibió 200€. Para siempre.
Recientemente se ha difundido un caso paradigmático que ilustra con claridad los riesgos derivados de un uso acrítico de herramientas de inteligencia artificial en ámbitos jurídicamente sensibles.
Un hombre de 60 años, con la intención de iniciar su proceso de jubilación, recurrió a una herramienta de inteligencia artificial para informarse sobre los requisitos aplicables y la cuantía estimada de su pensión. El sistema no solo le proporcionó una explicación detallada de los pasos a seguir, sino que además fundamentó su respuesta en una supuesta disposición legal y ofreció un cálculo concreto: una pensión aproximada de 800 euros mensuales.
Sobre la base de esta información, el interesado formalizó su solicitud sin recabar asesoramiento profesional adicional.
La resolución administrativa posterior fijó, sin embargo, una pensión de aproximadamente 200 euros mensuales, con carácter permanente. La discrepancia no obedecía a una mera interpretación discutible de la norma, sino a un hecho sustancialmente más grave: la disposición legal invocada por la inteligencia artificial no existía en el ordenamiento jurídico español.
Este supuesto pone de manifiesto una cuestión de especial relevancia desde la óptica del Derecho: la información generada por sistemas de inteligencia artificial puede presentar un grado de verosimilitud suficiente para inducir a error, incluso cuando carece de fundamento normativo real. La apariencia de precisión técnica —citas legales, cálculos detallados, lenguaje especializado— puede generar en el usuario una confianza indebida.
Tal y como advirtió el letrado que analizó el caso, las consecuencias de este tipo de errores no son meramente teóricas, sino que pueden traducirse en perjuicios económicos sostenidos en el tiempo y de difícil o imposible reversión.
Desde una perspectiva de diligencia debida, resulta imprescindible insistir en que las herramientas de inteligencia artificial no constituyen una fuente de asesoramiento jurídico en sentido estricto. Su utilización en la toma de decisiones con trascendencia legal o económica debe ir necesariamente acompañada de un proceso de verificación independiente y, en su caso, de la intervención de un profesional cualificado.
En definitiva, este tipo de situaciones evidencian que el riesgo no reside únicamente en la existencia de errores, sino en la confianza que pueden generar cuando se presentan con apariencia de rigor jurídico. Y es precisamente en ese punto donde la prudencia del usuario se convierte en un elemento determinante para evitar consecuencias irreversibles.
