Manipulación de Memoria y Contexto del Agente

Descripción detallada

Los agentes agénticos mantienen estado entre interacciones: memoria a corto plazo (la conversación), memoria a largo plazo (preferencias, hechos aprendidos), memoria compartida con otros agentes. Cada uno de estos almacenamientos es una superficie de ataque. Esta categoría evalúa: amnesia del contexto (qué pasa cuando se resetea la memoria), fugas entre sesiones/aplicaciones, envenenamiento de memoria, ataques temporales (aprovechar el lag entre acciones), memory overflow y fallos de aislamiento entre sesiones.

Por qué importa

• La memoria persistente convierte al agente en un objetivo acumulativo: cada interacción es una nueva superficie de ataque.

• El envenenamiento de memoria a largo plazo persiste entre sesiones: el agente 'aprende' cosas falsas.

• Las fugas cross-session exponen datos de un usuario a otro, lo que tiene impacto regulatorio severo (GDPR, etc.).

• Los ataques temporales aprovechan el desfase entre la acción y la verificación humana.

Objetivo de las pruebas

• Probar la resiliencia de los agentes IA frente a ataques de manipulación de memoria y contexto, identificando vulnerabilidades en mecanismos de gestión de estado, persistencia de contexto y aislamiento de sesión.

Entregables del red team

• Hallazgos sobre problemas de aislamiento de sesión con sus condiciones de reproducción.

• Logs de intentos de manipulación con condiciones de reproducción.

• Recomendaciones para mejorar la retención y validación de contexto.