El abogado sancionado por citar casos inventados por ChatGPT | inicIA

Respuesta directa

En junio de 2023, el juez federal P. Kevin Castel sancionó con $5.000 a los abogados Steven A. Schwartz y Peter LoDuca —y a su firma, Levidow, Levidow & Oberman P.C.— por presentar un escrito con seis casos judiciales que no existían: los había inventado ChatGPT. El caso, Mata v. Avianca, Inc., se convirtió en la advertencia más famosa del mundo sobre el riesgo de usar inteligencia artificial sin verificar (orden judicial, Mata v. Avianca, Inc., 678 F. Supp. 3d 443, 22 de junio de 2023; Reuters, 22 de junio de 2023).

Qué pasó

Roberto Mata demandó a la aerolínea Avianca por una lesión sufrida en un vuelo de El Salvador a Nueva York: un carrito de servicio le golpeó la rodilla izquierda. La aerolínea pidió desestimar el caso. En el escrito de oposición, el abogado Schwartz citó más de media docena de decisiones judiciales —casos como Martinez v. Delta Air Lines o Varghese v. China Southern Airlines— con citas textuales y análisis jurídico que parecían completamente reales.

Ninguno existía. ChatGPT los había fabricado: nombres de casos, citas, extractos y razonamientos, todo inventado con total seguridad. Cuando la contraparte intentó localizar esas decisiones y no las encontró, el juez ordenó a los abogados presentar copias. No pudieron, porque no había nada que presentar (orden judicial, 2023; Reuters, 2023).

La sanción y el motivo real

El juez Castel impuso una multa de $5.000 —solidaria entre los abogados y la firma— bajo la Regla 11, con un hallazgo explícito de mala fe: "evitación consciente" y declaraciones falsas y engañosas al tribunal.

El detalle que casi nadie cuenta es el más importante: el juez no los sancionó por usar ChatGPT. Los sancionó por usarlo sin supervisión y por no corregir el error cuando se los señalaron. La orden judicial dice que si los abogados hubieran reconocido el problema de inmediato, el resultado habría sido distinto; en cambio, "redoblaron la apuesta" y tardaron mes y medio en empezar a contar la verdad (orden judicial, 2023). Además de la multa, el juez les ordenó notificar la sanción a su cliente y a los jueces cuyos nombres habían sido citados falsamente.

La firma declaró a Reuters: "cometimos un error de buena fe al no creer que una pieza de tecnología pudiera inventar casos de la nada" (Reuters, 2023).

Septiembre de 2026: volvió a pasar

Tres años después del caso Avianca, el error se repitió. La Corte Suprema de Nuevo México sancionó al abogado Stephen D. Aarons con $5.000 de multa y desacato por presentar un recurso de apelación —en un caso de asesinato— con testigos y testimonios inventados por ChatGPT, sin verificar el contenido antes de firmarlo. En la audiencia del 21 de agosto, la magistrada C. Shannon Bacon cuestionó que un profesional del derecho alegara desconocer las "alucinaciones" de la IA, que aparecen habitualmente en los medios (cobertura, septiembre de 2026: elperiodico.digital; kchcomunicacion.com; notebookcheck.org).

La lección se repite porque la causa se repite: publicar lo que genera la IA sin que un humano lo revise.

La lección para tu negocio: 5 reglas para usar IA sin riesgos

El caso del abogado no es un argumento contra la inteligencia artificial: es el manual de cómo usarla bien. Estas son las reglas que separan un negocio potenciado por IA de un titular de escándalo:

  1. La IA propone; el humano firma. Nada que lleve tu nombre, tu marca o tu dinero sale sin revisión humana. La responsabilidad final siempre es de una persona.
  2. Verifica contra la fuente primaria. Si la IA cita un dato, una cifra o un caso, pide la fuente y ábrela tú. Lo que no tiene fuente verificable no se publica.
  3. Usa bases de conocimiento cerradas. Un agente bien configurado responde solo con tu información aprobada —tu catálogo, tus precios, tus políticas— y dice claramente cuando no sabe algo, en lugar de inventar.
  4. Define qué puede prometer el agente y qué datos puede pedir. Reglas escritas: qué ofrece, qué nunca promete, qué información solicita y cuándo pasa la conversación a un humano.
  5. Corrige rápido y de frente. Si la IA se equivoca en público, admítelo y corrígelo de inmediato. El juez Castel lo dejó por escrito: el error se perdona, el encubrimiento se sanciona.

Explora el clúster de agentes

Preguntas frecuentes

¿ChatGPT inventa información a propósito?

No. Genera el texto más probable palabra por palabra, y a veces ese texto es falso aunque suene completamente seguro. A ese fenómeno se le llama alucinación, y es una limitación conocida de los modelos de lenguaje.

¿Entonces no debería usar IA en mi negocio?

Claro que sí: con verificación humana y reglas claras, la IA multiplica tu capacidad de atender, vender y dar seguimiento. El caso del abogado muestra exactamente qué pasa cuando se salta el paso de la verificación.

¿Cómo evito que mi agente invente datos de mi negocio?

Con una base de conocimiento cerrada: el agente responde únicamente con tu información aprobada —catálogo, precios, políticas— y está configurado para decir que no sabe algo antes que inventar una respuesta.

¿La sanción fue por usar ChatGPT?

No. El juez fue explícito en la orden: la sanción respondió a la mala fe y a no corregir el error a tiempo, no al uso de la herramienta. Usar IA con supervisión y honestidad no fue el problema; publicar sin verificar y ocultarlo, sí.

Da el siguiente paso

Un agente de IA bien configurado responde con tu información verificada y pasa a un humano cuando no sabe algo: así aprovechas la velocidad de la IA sin el riesgo del caso Avianca. Si quieres implementar agentes con reglas claras y verificación en tu negocio, habla con inicIA por WhatsApp: https://wa.me/17866120930

Hablar por WhatsApp

Por inicIA