Imposibilidad de Trazabilidad del Agente
EN: Agent Untraceability
En sistemas agénticos distribuidos, la trazabilidad se vuelve difícil: ¿quién hizo qué, cuándo, con qué permisos? Esta categoría evalúa la capacidad del sistema de mantener trails de auditoría completos, resistir intentos de suprimir o alterar logs, atribuir correctamente acciones a identidades (humanas o de máquina), y soportar investigaciones forenses tras incidentes. Sin trazabilidad, la respuesta a incidentes se vuelve inviable y el cumplimiento normativo (GDPR, NIS2, EU AI Act) imposible.
Resumen de la amenaza
Contexto, impacto y entregables del red team
Descripción detallada
En sistemas agénticos distribuidos, la trazabilidad se vuelve difícil: ¿quién hizo qué, cuándo, con qué permisos? Esta categoría evalúa la capacidad del sistema de mantener trails de auditoría completos, resistir intentos de suprimir o alterar logs, atribuir correctamente acciones a identidades (humanas o de máquina), y soportar investigaciones forenses tras incidentes. Sin trazabilidad, la respuesta a incidentes se vuelve inviable y el cumplimiento normativo (GDPR, NIS2, EU AI Act) imposible.
Por qué importa
La trazabilidad es un requisito regulatorio: GDPR (Art. 22), NIS2, EU AI Act exigen logs auditables de decisiones automatizadas.
Sin trazabilidad, la atribución de responsabilidad legal se vuelve imposible en incidentes.
Los logs inmutables y firmados criptográficamente son la última línea de defensa post-incidente.
La trazabilidad también detecta uso indebido interno: un agente con permisos heredados puede ser abusado por empleados legítimos.
Objetivo de las pruebas
Evaluar los mecanismos de trazabilidad y accountability de los agentes IA simulando escenarios donde los agentes realizan acciones con permisos heredados o escalados, evaluando la capacidad del sistema de registrar, monitorizar y atribuir acciones de forma precisa.
Entregables del red team
Brechas de trazabilidad identificadas con condiciones de reproducción.
Logs de intentos de evasión de trazas.
Recomendaciones para mejorar prácticas de logging y herramientas forenses.