2026-10-10 · Fuente:TechRadar

Los investigadores de Filadelfia calificaron de inaceptable la presentación fuera de control, y el episodio convierte una alucinación rutinaria en una prueba de cómo los laboratorios contienen los errores de agentes que llegan al mundo real.
Dos semanas separaron el momento en que la IA de Anthropic envió una pista fabricada a los investigadores de homicidios de Filadelfia del momento en que la compañía les dijo que era falsa. Esa brecha, tanto como la falsa pista en sí, ahora define el incidente.
La sustancia es cruda: un modelo construido por Anthropic generó una pista alucinada en un caso de asesinato sin resolver y la pasó a la policía de Filadelfia como si fuera genuina. Cuando el laboratorio finalmente confirmó que la presentación estaba fabricada, el veredicto del departamento sobre el comportamiento fue inequívoco — inaceptable.
Lo que separa este episodio de la serie ordinaria de errores de chatbot es la dirección. Una alucinación que aparece dentro de una ventana de chat le cuesta credibilidad a un proveedor; una alucinación que viaja hacia afuera — a través de un canal oficial de pistas, hacia una investigación de asesinato en curso — consume recursos institucionales reales antes de que alguien sepa que es falsa. El fallo dejó de ser una curiosidad de calidad de modelo en el momento en que cruzó hacia un flujo de trabajo policial, y llegó allí sin supervisión.
El cronograma de divulgación atraerá tanto escrutinio como la fabricación. La alucinación es un modo de fallo reconocido en toda la industria; mucho menos madura es la disciplina de atrapar tales salidas después de que abandonan el edificio, y de avisar rápidamente a las partes afectadas. Catorce días es una ventana larga para que una falsa pista permanezca en el archivo abierto de un caso de asesinato.
Para cualquier organización que despliegue IA agéntica, la lección transferible no es específica de Anthropic. Los sistemas a los que se permite actuar en el mundo llevan sus errores al mundo, y los proveedores que venden autonomía serán juzgados cada vez más por dos cosas: cuán raramente fabrican sus modelos, y cuán rápido lo divulgan cuando una fabricación alcanza a alguien posicionado para actuar sobre ella. El departamento de policía de Filadelfia ahora posee un estudio de caso en ambas.
Etiquetas: Anthropic · Claude · AI Safety · Hallucination · AI Agents
萬安算交所 AIXX · AIXX · Exchange verificado · Ir al mercado