2026-09-11 · Fuente:Ars Technica

La admisión del abogado —«No sabía que la IA podía alucinar hechos»— llegó después de la sanción por un testimonio citado vía ChatGPT de testigos que nunca existieron.
Un abogado defensor de Nuevo México ha sido sancionado después de que escritos preparados con la ayuda de ChatGPT citaran testimonios de testigos que nunca existieron. Presionado por la fabricación, el abogado ofreció una explicación franca: «No sabía que la IA podía alucinar hechos». El caso destaca entre los asuntos disciplinarios relacionados con la IA porque el material inventado no fue un precedente mal citado, sino supuestas declaraciones de personas inventadas: evidencia fabricada en lugar de una referencia confusa.
La distinción importa. Cuando la IA generativa falla en los tribunales, lo más frecuente es que produzca citas de casos fabricadas: fallos de apariencia plausible que se derrumban en cuanto alguien revisa el expediente. Un testimonio atribuido a testigos que no existen va un paso más allá, insertando evidencia fantasma directamente en un expediente legal. Que una sanción disciplinaria siguiera después subraya cómo los reguladores y los tribunales están tratando la salida de IA no verificada no como un fallo técnico, sino como un fracaso profesional atribuible al humano que firma el escrito.
La justificación declarada del abogado —no saber que la IA podía alucinar hechos— es en sí misma la historia. La alucinación, la tendencia de los grandes modelos de lenguaje a generar texto fluido y confiado que es sencillamente falso, es una característica documentada de sistemas como ChatGPT, no una anomalía rara. Los modelos predicen lenguaje plausible; no verifican que los nombres, los eventos o las citas correspondan a la realidad. Un practicante que desplegó semejante herramienta en escritos judiciales sin ninguna capa de verificación estaba, en efecto, externalizando la precisión fáctica a un sistema diseñado para la plausibilidad antes que para la verdad.
Para la industria de la IA, el episodio aterriza en medio del debate de fiabilidad que moldea la adopción empresarial. Cada nueva sanción judicial ligada a salida de IA fabricada eleva el costo percibido de desplegar herramientas generativas en flujos de trabajo profesionales de alto riesgo, reforzando la demanda de anclaje mediante recuperación, verificación de citas y revisión humana. El caso de Nuevo México recuerda que, a medida que ChatGPT y sus pares se extienden a profesiones reguladas, la responsabilidad por los hechos alucinados recae —legal y profesionalmente— en el usuario, una dinámica que proveedores y compradores por igual todavía están aprendiendo a poner precio.
Etiquetas: ChatGPT · OpenAI · AI Hallucination · Generative AI · Legal Profession
萬安算交所 AIXX · AIXX · Exchange verificado · Ir al mercado