Un abogado citó 48 sentencias que no existían: se las inventó ChatGPT y acabó multado
El Tribunal Superior de Justicia de Canarias sancionó a un letrado que presentó un recurso con 48 citas de jurisprudencia inventadas. No es un caso aislado, y los estudios explican por qué se repite.
Un abogado presentó un recurso de apelación con 48 citas de sentencias del Tribunal Supremo y un informe del Consejo General del Poder Judicial. Ninguno de esos documentos existe. Se los dio ChatGPT.
Qué ha pasado
El recurso llegó a la Sala de lo Penal del Tribunal Superior de Justicia de Canarias contra un fallo de la Audiencia Provincial de Santa Cruz de Tenerife. Dentro había 48 referencias a resoluciones del Supremo, con sus números, sus fechas y sus identificadores. Todas inventadas.
El letrado no comprobó ninguna. Ni siquiera cruzó los datos con el Cendoj, la base de jurisprudencia del propio Poder Judicial, que es gratuita y de acceso universal. Y no usó una herramienta jurídica especializada: usó ChatGPT, un modelo de propósito general.
La sanción tiene su punto de ironía: 450 euros, calculados como la mitad de lo que cuesta al año suscribirse a una IA jurídica fiable. Un tirón de orejas más simbólico que económico.
No es el primero, ni de lejos
La lista de casos idénticos ya cruza fronteras. Steven Schwartz fue sancionado en Nueva York en 2023 con 5.000 dólares por citar resoluciones inventadas por ChatGPT. Tres abogados de Alabama fueron apartados de un caso por la jueza Annemarie Carney Axon tras colar cinco citas falsas. Un letrado de Utah tuvo que pagar las costas de la parte contraria y donar 1.000 dólares a una ONG legal. En España, el Tribunal Constitucional llegó a reprochar «falta del debido respeto» a un abogado que citó pasajes literales de 19 sentencias del propio tribunal que jamás se dictaron.
En julio de 2026, el Tribunal Superior de Xustiza de Galicia impuso 1.800 euros —el doble que Canarias— por 24 referencias inventadas o manipuladas en un recurso laboral, apoyándose en la Instrucción 2/2026 del CGPJ y en la falta de «control humano consciente y efectivo». Solo un caso, en el TSJ de Navarra, acabó archivado sin sanción, porque la letrada rectificó a tiempo.
Los números explican por qué pasa tanto
El estudio Large Legal Fictions, del RegLab de Stanford, midió 800.000 preguntas jurídicas verificables y encontró tasas de invención de entre el 58% de GPT-4 y el 88% de Llama 2 cuando se piden datos concretos de casos reales.
Lo más incómodo llegó en la segunda entrega, Hallucination-Free?, que auditó las herramientas jurídicas de pago que prometían cero errores: Lexis+ AI falló el 17% de las veces y Westlaw AI-Assisted Research el 33%. Pagar por una herramienta especializada reduce el problema. No lo elimina.
Por qué esto no se arregla solo con modelos mejores
Los modelos de hoy inventan bastante menos que los de 2023 al resumir documentos. Pero la jurisprudencia es un caso especialmente traicionero: el formato de una cita judicial es muy regular, así que un modelo puede generar una referencia perfectamente verosímil —número plausible, fecha plausible, sala plausible— sin que exista.
Y ahí entra lo que los académicos llaman sesgo de automatización: preferimos la respuesta rápida a la verificación que cuesta tiempo. Un estudio del MIT pidió a 300 personas evaluar respuestas médicas de un profesional, de una plataforma digital y de una IA. Calificaron las de la IA como más completas y fiables incluso sabiendo que uno de cada cuatro diagnósticos era incorrecto.
Qué significa para ti
La regla que sale de aquí sirve mucho más allá de un juzgado: cuando una IA te dé un dato con nombre, número y fecha, ese es exactamente el tipo de dato que hay que comprobar. Un modelo que inventa una referencia no duda, no avisa y no cambia de tono. Lo dice con la misma seguridad que cuando acierta.
Lo verificable se verifica. Si es una sentencia, en el Cendoj. Si es un precio, en la tienda. Si es una ficha técnica, en la web del fabricante. Cuesta dos minutos, y es la diferencia entre usar la herramienta y que la herramienta te use a ti.
¿Has llegado a comprobar alguna vez un dato que te dio una IA y resultó ser falso?
Fuentes
Sigue leyendo
Hugging Face, el almacén donde vive la IA abierta, negocia venderse por 13.000 millones
La plataforma donde se comparten los modelos abiertos ha recibido ofertas por 13.000 millones de dólares. Su consejero delegado lleva meses diciendo que su responsabilidad es con la comunidad.
Un modelo de IA gratis arrasa entre programadores y nadie sabe quién lo fabricó
Se llama Ox Alpha, resuelve casi seis de cada diez pruebas de programación y su dueño se niega a dar la cara. Qué se sabe, qué se especula y por qué conviene medir lo que le mandas.
WhatsApp prueba agentes de IA de otras empresas, y esos chats no van cifrados
La beta de Android 2.26.35.3 permite conectar hasta cinco asistentes externos. Los mensajes pasan por un servicio de Meta que puede leerlos: el cifrado de extremo a extremo no aplica ahí.
Una IA corrigiendo los fallos de otra IA: 4 dólares la hora contra 150 del humano
Anthropic puso a Claude a buscar arreglos para diez fallos de comportamiento de sus propios modelos. Los encontró para los diez, superó a 28 investigadores humanos y cobró 4 dólares la hora en vez de 150.