Volver al catálogo
AI Security Testing/CTRL-AI-005

Validación y Saneamiento de Salidas del LLM (Improper Output Handling · LLM05:2025)

CTRL-AI-005 · Output Handling · Improper Output Handling

Crítica

Validación, saneamiento y aislamiento de las salidas generadas por el LLM antes de ser ejecutadas, renderizadas o persistidas por sistemas downstream. Cubre 17 vectores de AITG-APP-05: XSS, SQLi, shell injection, path traversal, markdown exfiltración y unicode smuggling. Valida que la aplicación no confíe ciegamente en la respuesta del modelo.

Validado en laboratorioCatálogo AITG-APP-05 · 17 vectores
OWASP AI Testing Guide v1 (AITG-APP-05)

Vector: Output-level Injection (XSS / SQLi / Shell / Path / Markdown / Unicode)

Aplicación downstream que consume outputs de un LLM (chatbot, asistente, agente) y los renderiza en HTML, los concatena en queries SQL, los ejecuta como comandos de shell, los emplea como rutas de fichero o los incrusta en markdown sin validación.

Categoría
Output Security / Post-Processing de Respuestas LLM
ISO 42001
A.6.2A.8.4A.9.4
OWASP LLM
LLM05:2025
AI Testing Guide
AITG-APP-05
Risk Score
10/ 10

Control GRC

Gobernanza, Riesgo y Cumplimiento

Contexto del desafío

Plataforma
OWASP AI Testing Guide v1 (AITG-APP-05)
Nivel / Reto
Catálogo AITG-APP-05 · 17 vectores
Vector
Output-level Injection (XSS / SQLi / Shell / Path / Markdown / Unicode)
Escenario
Aplicación downstream que consume outputs de un LLM (chatbot, asistente, agente) y los renderiza en HTML, los concatena en queries SQL, los ejecuta como comandos de shell, los emplea como rutas de fichero o los incrusta en markdown sin validación.

ISO/IEC 42001 — Anexo A

A.6.2A.8.4A.9.4

IDs de control del Anexo A. PROTUIN no está certificado por ISO. Verifica el alcance real en la norma oficial.

ENS — Esquema Nacional de Seguridad

mp.info.4op.acc.1op.acc.4

IDs de medida del ENS (RD 311/2022). PROTUIN no es entidad certificadora. Consulta el alcance oficial en la guía CCN-STIC correspondiente.

EU AI Act (Reglamento 2024/1689)

Artículo 15 - Ciberseguridad, precisión y solidez técnica en sistemas de IA con capacidad de impacto operacional

OWASP AI Testing Guide v1 — Tests cubiertos

Mapeo a la metodología oficial de testeo de IA (Threat Modeling → Threat Mapping → Test Design).

  • AITG-APP-05Testing for Unsafe OutputsApplicationOWASP Top 10 LLM 2025SecurityRAI

Controles relacionados

1

Controles del mismo dominio o con vectores de ataque emparentados.

Referencias

Amenazas agénticas relacionadas

Este control se cruza con 1 amenaza del catálogo de Red Teaming de IA Agéntica.