Catálogo técnico de red teaming para sistemas de IA Agéntica (Agentic AI). 12 categorías de amenaza, 86 sub-tests con pasos accionables y 15 prompts de ejemplo para entornos de laboratorio. Basado en la guía conjunta de Cloud Security Alliance + OWASP AI Exchange.
Cada sub-test se enmarca en un ciclo estructurado: preparación → ejecución → análisis → reporte.
Definir el alcance, los entornos aislados y las herramientas antes de ejecutar cualquier prueba.
Llevar a cabo las pruebas siguiendo los actionable steps documentados para cada sub-test.
Evaluar los resultados de las pruebas, identificar vulnerabilidades y priorizar hallazgos.
Generar entregables accionables para el equipo de desarrollo, seguridad y stakeholders.
Un agente agéntico no es solo un LLM con un system prompt. Planifica, razona, actúa sobre sistemas externos y orquesta herramientas (MCP, APIs, otros agentes). Esto crea superficies de ataque que no existen en los LLMs conversacionales:
Filtra por severidad, categoría, framework o referencia OWASP LLM. La búsqueda cubre código, nombre, descripción, sub-tests y prompts.
EN: Agent Authorization and Control Hijacking
Pruebas de ejecución no autorizada de comandos, escalada de privilegios y herencia de roles. Incluye inyección de comandos maliciosos, simulación de señales de control falsificadas y validación de revocación de permisos.
EN: Checker-Out-of-the-Loop
Verifica que los checkers (humanos o automatizados) estén informados durante operaciones inseguras o cuando se superan umbrales críticos. Incluye simulación de brechas de umbral, supresión de alertas y validación de mecanismos de fallback.
EN: Agent Critical System Interaction
Evalúa las interacciones del agente con sistemas físicos y digitales críticos. Cubre simulación de entradas inseguras, seguridad de la comunicación con dispositivos IoT y validación de mecanismos de failsafe.
EN: Agent Goal and Instruction Manipulation
Evalúa la resiliencia del agente frente a cambios adversariales en sus objetivos o instrucciones. Incluye instrucciones ambiguas, exfiltración de datos, modificación de la secuencia de tareas y manipulación recursiva de objetivos.
EN: Agent Hallucination Exploitation
Identifica vulnerabilidades derivadas de outputs fabricados o falsos. Incluye crafting de inputs ambiguos, simulación de errores en cascada (confabulation chains) y pruebas de mecanismos de validación.
EN: Agent Impact Chain and Blast Radius
Examina los riesgos de fallos en cascada e intenta limitar el blast radius de las brechas. Incluye simulación de compromiso del agente, prueba de relaciones de confianza y evaluación de mecanismos de contención.
EN: Agent Knowledge Base Poisoning
Evalúa los riesgos de datos de entrenamiento envenenados, conocimiento externo manipulado y almacenamiento interno comprometido. Incluye inyección de datos maliciosos, simulación de inputs externos envenenados y prueba de capacidades de rollback.
EN: Agent Memory and Context Manipulation
Identifica vulnerabilidades en gestión de estado y aislamiento de sesión. Incluye reset de contexto, simulación de fugas de datos cross-session/cross-application y pruebas de memory overflow.
EN: Agent Orchestration and Multi-Agent Exploitation
Evalúa vulnerabilidades en comunicación inter-agente, confianza y coordinación. Incluye intercepción de comunicaciones, prueba de relaciones de confianza y simulación de feedback loops.
EN: Agent Resource and Service Exhaustion
Prueba la resiliencia ante depletion de recursos y ataques de denegación de servicio. Incluye simulación de cómputo intensivo, pruebas de límites de memoria y agotamiento de cuotas de API.
EN: Agent Supply Chain and Dependency Attacks
Examina riesgos en herramientas de desarrollo, librerías externas y APIs. Incluye introducción de dependencias manipuladas, simulación de servicios comprometidos y prueba de seguridad del pipeline de despliegue.
EN: Agent Untraceability
Evalúa la trazabilidad de acciones, la rendición de cuentas y la preparación forense. Incluye supresión de logging, simulación de uso indebido de herencia de roles y obfuscación de datos forenses.
Ecosistema de herramientas y benchmarks usados para detectar y mitigar las amenazas agénticas.
Framework de threat modeling multi-capa para sistemas de IA agéntica. Cubre evaluación, despliegue, frameworks de agente, operaciones de datos y orquestación.
Framework de evaluación dinámica que mide la vulnerabilidad de agentes LLM a prompt injection en 97 tareas realistas con 629 casos de test.
Benchmark de seguridad con 349 entornos interactivos y 2.000 casos de test en 8 categorías de riesgo. Modelo de scoring automatizado con 91,5% de precisión.
Framework open-source que ofrece probing automatizado para prompt injection y secret leakage, con SDK para LangChain y OpenAI agents.
Scanner de seguridad que analiza sistemas agénticos, identifica herramientas (MCP, email, JIRA) y las mapea a vulnerabilidades conocidas.
Benchmark ICLR 2025 que evalúa 27 métodos de ataque/defensa en 10 escenarios. Cubre amenazas como Plan-of-Thought backdoors y memory poisoning.
Repositorio estructurado de vulnerabilidades de seguridad relacionadas con LLMs y Agentic AI.
Integrado en Azure AI Foundry para evaluación automatizada de riesgos con métricas como Attack Success Rate (ASR).
Solución automatizada de red teaming con generación de inputs context-aware y soporte para many-shot jailbreaking.
Este catálogo se centra en la fase 2 (explotación) de sistemas agénticos. Para la fase 1 (controles ISO 42001, OWASP LLM Top 10) consulta el catálogo principal.
Ir a AI Security Testing