Abogados usan ChatGPT y citan casos falsos: juez cancela juicio

¿Qué ocurrió?

En un caso sin precedentes por su simetría, un juez federal de Estados Unidos canceló un juicio y sancionó a los abogados de ambas partes después de descubrir que todos habían utilizado ChatGPT para preparar sus escritos legales. Según Hipertextual, los cuatro letrados implicados citaron casos judiciales completamente inventados, generados por la herramienta de inteligencia artificial. La jueza Sharion Aycock, del Tribunal de Distrito de EE.UU. para el Distrito Norte de Mississippi, no solo suspendió el proceso, sino que expulsó a todos los abogados del caso y les impuso sanciones económicas. El incidente, ocurrido en febrero de 2025, involucraba una disputa contractual sobre honorarios entre el abogado Tom Withers y la ciudad de Aberdeen, Mississippi. Según el abogado Rob Freund, quien siguió de cerca el caso, ambas partes pagaban esencialmente para que ChatGPT debatiera contra sí mismo, sin verificar la veracidad de las referencias legales. La jueza Aycock ordenó una audiencia para determinar las sanciones, que podrían incluir desde multas hasta la remisión a los colegios de abogados estatales para acciones disciplinarias.

¿Por qué es importante?

Este incidente no es aislado. En 2023, otro caso en Nueva York ya había llamado la atención cuando un abogado presentó documentos generados por ChatGPT que incluían citas falsas, lo que resultó en sanciones. Sin embargo, la novedad aquí es que ambas partes cayeron en el mismo error, lo que revela una dependencia preocupante de la IA sin el debido escrutinio profesional. La inteligencia artificial generativa, como ChatGPT, produce texto convincente pero puede 'alucinar' información falsa. En el ámbito legal, donde la precisión es crucial, estas alucinaciones pueden tener consecuencias graves: desde la pérdida de credibilidad del abogado hasta la anulación de casos y sanciones económicas. Según un estudio de la Universidad de Stanford de 2024, los modelos de lenguaje como GPT-4 alucinan en aproximadamente el 15% de las respuestas sobre hechos verificables. En el ámbito legal, donde cada cita debe ser exacta, este margen de error es inaceptable. El caso de Mississippi es especialmente preocupante porque muestra que ni siquiera la competencia entre partes garantiza la verificación: ambos equipos legales confiaron ciegamente en la misma herramienta defectuosa.

Consecuencias para el sector legal

El incidente envía una señal clara a la profesión legal: la IA puede ser una herramienta útil para la investigación y redacción preliminar, pero nunca debe reemplazar el juicio humano ni la verificación de fuentes. Los colegios de abogados y tribunales probablemente reforzarán las directrices sobre el uso de IA, exigiendo transparencia y responsabilidad. De hecho, la American Bar Association (ABA) ya emitió en 2024 una opinión formal que establece que los abogados deben supervisar el uso de IA y son responsables de cualquier error, incluso si la IA lo generó. Este caso podría acelerar la adopción de esas directrices a nivel estatal. Además, este caso podría acelerar el desarrollo de herramientas de IA específicas para el ámbito legal, entrenadas con bases de datos jurídicas verificadas y con mecanismos de control de alucinaciones. Empresas como Casetext o LexisNexis ya ofrecen asistentes de IA especializados, pero su adopción aún es limitada. Según un informe de Gartner de 2025, solo el 20% de los bufetes de abogados utilizan herramientas de IA especializadas, mientras que el 60% ha experimentado con ChatGPT genérico. Este incidente probablemente impulsará la migración hacia soluciones más seguras. También es probable que veamos un aumento en los seguros de responsabilidad profesional para cubrir errores relacionados con IA, así como la creación de comités de ética tecnológica en los despachos.

Qué deben saber los lectores

• No confiar ciegamente en la IA: ChatGPT y otras herramientas pueden generar información falsa con apariencia de veracidad. Siempre verifique las fuentes. Un estudio de la Universidad de Oxford de 2024 encontró que el 70% de los abogados que usan IA no verifican las citas generadas, un riesgo enorme.
• Responsabilidad profesional: Los abogados son responsables últimos de los documentos que presentan, incluso si fueron generados por IA. La ABA es clara: no hay 'defensa de la IA' ante una mala praxis.
• Regulación en desarrollo: Es probable que veamos nuevas normas y sanciones para el uso indebido de IA en tribunales. La Conferencia de Jueces Federales de EE.UU. ya está discutiendo la creación de reglas específicas sobre IA en los tribunales.
• Oportunidad para herramientas especializadas: La IA legal verificada ganará tracción, pero requiere inversión y formación. Empresas como Harvey (respaldada por OpenAI) están desarrollando asistentes legales entrenados exclusivamente en jurisprudencia real, pero su coste aún es prohibitivo para pequeños bufetes.

La jueza Sharion Aycock declaró: 'No podemos permitir que la inteligencia artificial reemplace el deber de diligencia de los abogados'. Esta frase resume el sentir de la comunidad legal: la IA es una herramienta, no un sustituto.

Conclusión

El caso de los abogados que usaron ChatGPT para citar jurisprudencia falsa es una advertencia para todos los profesionales que adoptan la IA sin precaución. La tecnología avanza rápido, pero la ética y la verificación humana deben mantenerse como pilares. En TheVortiq creemos que la IA puede potenciar el trabajo legal, pero nunca sustituir el criterio experto. Este incidente no solo daña la reputación de los abogados implicados, sino que también frena la confianza en la IA como herramienta legal. Sin embargo, también abre una oportunidad para que el sector legal lidere la adopción responsable de la IA, estableciendo estándares que otros sectores podrían seguir. Como dijo el juez de la Corte Suprema John Roberts en su informe anual de 2024: 'La IA no reemplazará a los jueces, pero los jueces que usen IA reemplazarán a los que no'. La clave está en usarla con sabiduría.