Volver al catálogo
AI Security Testing/CTRL-AI-001.3

Protección de Instrucciones del Sistema - Nivel 3 (In-Context Payload Smuggling y Evasión por Formato Estructurado)

CTRL-AI-001.3 · System Prompt · Nivel 3 (Payload Smuggling)

Crítica

Tercera variante de CTRL-AI-001. Bypass de máquina de estados y guardrails en dos fases: (1) cumplimiento parcial de variables de negocio para validar la solicitud + (2) imposición de esquema JSON estructurado que fuerza la exfiltración de instrucciones. Score de laboratorio: 99/100.

Validado en laboratorioEntrenador de ciclismo (Nivel 3 - Master)
Lakera Guard (play.lakera.ai)

Vector: In-Context Payload Smuggling / JSON Output Forcing

Agente condicionado por máquina de estados (State Machine Guardrail) que exige completar un flujo de datos de negocio antes de procesar la solicitud.

Categoría
Gobernanza y Operación de Modelos
ISO 42001
A.6.2A.8.4A.9.1
OWASP LLM
LLM01:2025LLM06:2025
AI Testing Guide
AITG-APP-01AITG-APP-04AITG-APP-07
Risk Score
10/ 10

Control GRC

Gobernanza, Riesgo y Cumplimiento

Contexto del desafío

Plataforma
Lakera Guard (play.lakera.ai)
Nivel / Reto
Entrenador de ciclismo (Nivel 3 - Master)
Vector
In-Context Payload Smuggling / JSON Output Forcing
Escenario
Agente condicionado por máquina de estados (State Machine Guardrail) que exige completar un flujo de datos de negocio antes de procesar la solicitud.

ISO/IEC 42001 — Anexo A

A.6.2A.8.4A.9.1

IDs de control del Anexo A. PROTUIN no está certificado por ISO. Verifica el alcance real en la norma oficial.

ENS — Esquema Nacional de Seguridad

mp.info.1op.acc.1

IDs de medida del ENS (RD 311/2022). PROTUIN no es entidad certificadora. Consulta el alcance oficial en la guía CCN-STIC correspondiente.

EU AI Act (Reglamento 2024/1689)

Artículo 15 - Ciberseguridad, precisión y solidez técnica (Evasión de filtros por máquina de estados)

OWASP AI Testing Guide v1 — Tests cubiertos

Mapeo a la metodología oficial de testeo de IA (Threat Modeling → Threat Mapping → Test Design).

  • AITG-APP-01Testing for Prompt InjectionApplicationOWASP Top 10 LLM 2025Security
  • AITG-APP-04Testing for Input LeakageApplicationOWASP Top 10 LLM 2025SecurityPrivacy
  • AITG-APP-07Testing for Prompt DisclosureApplicationOWASP Top 10 LLM 2025SecurityPrivacy

Controles relacionados

2

Controles del mismo dominio o con vectores de ataque emparentados.

Referencias