2026-09-17 · Fuente：Unite AI
Un nuevo estudio de Lasso Security firmado por Andrea Siposova encuentra que el marcaje de agua SynthID-Text puede alterar si los modelos rechazan solicitudes dañinas y qué llamadas a herramientas hacen los agentes, un efecto bautizado como "sampling drift".
El marcaje de agua de texto, una técnica construida para señalar contenido como generado por máquinas con fines de procedencia, puede acarrear consecuencias conductuales no previstas para los grandes modelos de lenguaje, según una nueva investigación de la firma de seguridad Lasso Security. Andrea Siposova, investigadora de la compañía, publicó el estudio, titulado "The Provenance Tax: Understanding the Impact of LLM Watermarking on AI Agent Behavior", el 17 de septiembre de 2026. El documento examina SynthID-Text, un esquema de marcaje de agua de texto, e informa que puede alterar el comportamiento central del modelo.
Según los hallazgos, el marcaje de agua puede cambiar si un modelo de lenguaje rechaza una solicitud dañina, un viraje con consecuencias directas para las barreras de seguridad. También puede cambiar qué llamadas a herramientas genera un agente de IA, lo que significa que los sistemas agénticos pueden tomar acciones distintas según si la salida de su modelo subyacente lleva marca de agua. El estudio de Siposova bautiza este fenómeno como "sampling drift" y lo atribuye a la forma en que el marcaje de agua altera el proceso por el que un modelo produce texto.
La distinción entre el rol previsto del marcaje de agua y sus efectos observados ocupa el corazón del documento. La detección de procedencia es el objetivo de diseño declarado de la técnica, que permite identificar el texto generado como hecho por máquina. Sin embargo, el estudio encuentra que SynthID-Text no deja intacto el comportamiento del modelo: el mecanismo reconfigura la generación de salida en sí misma, cambiando tanto las decisiones de rechazo como las llamadas a herramientas que los agentes producen.
El título del estudio enmarca explícitamente el contrapeso: un "provenance tax" (impuesto de procedencia). Para los equipos que despliegan LLM y agentes autónomos, la investigación sugiere que activar el marcaje de agua no es una capa neutral sobre la generación, sino un factor que puede desplazar el comportamiento del modelo, incluidas las respuestas a prompts dañinos y las acciones que los agentes eligen. Los hallazgos aumentan la carga de evaluación para las organizaciones que sopesan adoptar el marcaje de agua junto a las pruebas de seguridad y fiabilidad.
Etiquetas: Lasso Security · Andrea Siposova · SynthID-Text · Watermarking · AI Agents
萬安算交所 AIXX · AIXX · Exchange verificado · Ir al mercado