Control de Acceso y Validación de Identidad en Ejecución de Herramientas (Email Spoofing / Privilege Escalation)

CTRL-AI-002.1 · Tool Use · Control de Acceso e Identidad

Alta

Validación de la identidad del usuario en la capa de ejecución de herramientas (Tool Use) expuestas a un agente de IA. Evita que el LLM pueda inyectar parámetros de identidad (ej. remitente From) para suplantar usuarios corporativos o escalar privilegios. Score de laboratorio: 100/100.

Validado en laboratorioCorpConnect Messenger (Level 1 - Novice)

Lakera Guard (play.lakera.ai)

Vector: Direct Parameter Injection / Identity Spoofing

Agente de mensajería corporativa integrado con el servicio de correo con capacidad de enviar emails a través de llamadas a herramientas/API.

Categoría

Seguridad en Integraciones de Agentes (Tool Use & Action Execution)

ISO 42001

A.6.2A.8.4A.9.2

OWASP LLM

LLM02:2025LLM07:2025

AI Testing Guide

AITG-APP-06AITG-INF-04

Risk Score

9/ 10

Control GRC

Gobernanza, Riesgo y Cumplimiento

Contexto del desafío

Plataforma

Lakera Guard (play.lakera.ai)

Nivel / Reto

CorpConnect Messenger (Level 1 - Novice)

Vector

Direct Parameter Injection / Identity Spoofing

Escenario

Agente de mensajería corporativa integrado con el servicio de correo con capacidad de enviar emails a través de llamadas a herramientas/API.

ISO/IEC 42001 — Anexo A

A.6.2A.8.4A.9.2

IDs de control del Anexo A. PROTUIN no está certificado por ISO. Verifica el alcance real en la norma oficial.

ENS — Esquema Nacional de Seguridad

op.acc.1op.acc.6mp.info.2

IDs de medida del ENS (RD 311/2022). PROTUIN no es entidad certificadora. Consulta el alcance oficial en la guía CCN-STIC correspondiente.

EU AI Act (Reglamento 2024/1689)

Artículo 15 - Ciberseguridad, precisión y prevención de manipulación en sistemas de IA con capacidad de impacto operacional

OWASP AI Testing Guide v1 — Tests cubiertos

Mapeo a la metodología oficial de testeo de IA (Threat Modeling → Threat Mapping → Test Design).

AITG-APP-06Testing for Agentic Behavior LimitsApplicationOWASP Top 10 LLM 2025SecurityRAI
AITG-INF-04Testing for Capability MisuseInfrastructureResponsible AIRAI

Referencias

Amenazas agénticas relacionadas

Este control se cruza con 3 amenazas del catálogo de Red Teaming de IA Agéntica.