Responsabilidad cuando el agente actúa fuera del mandato

Durante años, la discusión sobre sistemas autónomos se resolvió con una palabra: fallo. Un error de código, un dato corrupto, una latencia inesperada. Esa lectura era cómoda porque concentraba la responsabilidad en el proveedor técnico y dejaba intacta la posición de la entidad que desplegaba el sistema. Los marcos de Know Your Agent están rompiendo esa comodidad.

Lo que aparece en las consultas recientes es una distinción que antes no existía. Un fallo técnico es un evento aislado: el agente hace lo que debía, pero mal. Una desviación de estrategia es otra cosa: el agente opera dentro de sus límites formales, pero su comportamiento se aleja del patrón esperado. Y la actuación fuera de mandato es un tercer caso, el más incómodo, donde el agente ejecuta algo que nunca estuvo autorizado, aunque el sistema funcione correctamente.

Esa separación importa porque cada categoría apunta a un responsable distinto. El proveedor del modelo responde por el fallo. La entidad que despliega responde por la supervisión de la desviación. Y el cliente que autorizó el uso del agente entra en la ecuación cuando el mandato mismo era ambiguo o estaba desactualizado.

Criterios que se repiten en los borradores

Tres exigencias aparecen una y otra vez en los textos en consulta, y conviene leerlas juntas porque se sostienen entre sí.

• Mandato explícito y versionado. El agente debe operar bajo un documento que declare alcance, límites y vigencia. Cada cambio de estrategia genera una versión nueva. Sin versión, no hay forma de saber qué estaba autorizado en el momento de la orden.
• Límites verificables en tiempo real. No basta con declarar un techo de exposición en un contrato. El sistema tiene que poder demostrar que ese techo se estaba comprobando en cada decisión, no solo al cierre de la jornada.
• Obligación de detener al agente. Cuando se detecta una desviación, la entidad debe poder interrumpir la operativa. La pregunta regulatoria no es si existe el botón, sino si alguien tiene el deber de pulsarlo y en cuánto tiempo.

El tercer punto es el que más fricción genera. Detener un agente autónomo en medio de una posición abierta tiene consecuencias económicas inmediatas, y ninguna entidad quiere asumirlas por una alerta que podría ser un falso positivo. Los borradores reconocen ese margen, pero dejan claro que la duda no exime de la obligación de actuar.

Dónde la redacción todavía deja margen

Hay al menos dos zonas donde el texto regulatorio no cierra del todo. La primera es la definición de "desviación de estrategia". Los documentos hablan de comportamiento que se aleja del patrón declarado, pero no fijan umbrales. Eso deja a cada entidad la tarea de justificar por qué consideró que una operación era normal y otra no.

La segunda zona es la responsabilidad compartida entre proveedor y entidad. Cuando el agente es un producto de terceros, ¿quién responde si el mandato estaba bien redactado pero el modelo interpretó mal los límites? Los borradores apuntan a la entidad que despliega, con la condición de que pueda demostrar que el proveedor declaró las capacidades reales del sistema. Esa demostración, en la práctica, depende de documentación que muchos contratos actuales no incluyen.

Para los equipos de cumplimiento, el trabajo inmediato no es esperar el texto final. Es revisar qué mandatos están vigentes hoy, si están versionados, y si los límites declarados se comprueban en el mismo momento en que el agente decide. Lo demás llegará con la redacción definitiva, pero esas tres preguntas ya tienen respuesta exigible.