Ciberseguridad de la IA de alto riesgo: los ataques y las medidas de la guía 11 del sandbox
El artículo 15 del Reglamento de IA exige que los sistemas de alto riesgo resistan los intentos de alterar su funcionamiento. La guía 11 del sandbox español describe los ataques propios de la IA y las medidas para el proveedor y para quien despliega el sistema.
Un sistema de inteligencia artificial puede fallar porque alguien lo ataca. Y los ataques a la IA no son solo los clásicos de cualquier sistema informático: hay técnicas específicas que manipulan los datos con los que aprende o las entradas que recibe. La Guía 11, «Ciberseguridad», del piloto español de sandbox regulatorio, las explica.
Su versión 2.0 es de 17 de julio de 2026, adaptada al Ómnibus Digital; la 1.0 es de 10 de diciembre de 2025. Figura como obra del Ministerio para la Transformación Digital y de la Función Pública y, como el resto de la serie, no es vinculante.
La base: el artículo 15 del Reglamento de IA
La guía se centra en dos apartados del artículo 15 del Reglamento (UE) 2024/1689, sobre precisión, solidez y ciberseguridad de los sistemas de alto riesgo:
- Apartado 1: los sistemas deben alcanzar un nivel adecuado de ciberseguridad y funcionar de manera uniforme durante todo su ciclo de vida.
- Apartado 5: deben ser resistentes a los intentos de terceros no autorizados de alterar su uso, sus resultados o su funcionamiento.
La precisión y la solidez se tratan en otras guías de la serie.
Los ataques propios de la IA
| Ataque | En qué consiste, según la guía |
|---|---|
| Envenenamiento de datos | Manipular el conjunto de datos de entrenamiento |
| Envenenamiento de modelos | Manipular componentes previamente entrenados |
| Ejemplos adversarios | Entradas diseñadas para que el modelo cometa un error |
| Ataques a la confidencialidad | Mencionados expresamente en el artículo 15.5, según la guía |
| Defectos del modelo | Mencionados también en el artículo 15.5, según la guía |
Quién debe hacer qué
El proveedor debe adoptar las medidas organizativas y técnicas, planificar la ciberseguridad desde el diseño, incluir recomendaciones específicas en las instrucciones de uso y definir indicadores y auditorías periódicas.
El responsable del despliegue debe leer y aplicar las instrucciones del proveedor, distribuir en su organización la información de instalación y configuración y, si el sistema está en sus instalaciones o lo gestiona, tratarlo como un activo a proteger dentro de su política de ciberseguridad. Si reentrena el sistema, asume responsabilidades parecidas a las del proveedor en materia de datos.
Algunas de las medidas que propone
- Inventario de datos, modelos, software y actores, con responsabilidades asignadas.
- Modelo de amenazas alineado con el análisis de riesgos, especialmente para los derechos y libertades.
- Políticas de acceso, con separación de funciones cuando sea posible.
- Formación específica en ciberseguridad de la IA.
- Control de versiones de los datos y de los modelos, y cifrado en tránsito y en reposo.
- Detección de entradas anómalas y limitación de consultas.
- Pruebas de seguridad, incluidas pruebas de penetración orientadas al aprendizaje automático.
- Autenticación multifactor, registros detallados y monitorización continua.
La guía recuerda además que el Reglamento de Ciberresiliencia será aplicable, a partir del 11 de diciembre de 2027, a los productos con elementos digitales clasificados como sistemas de IA de alto riesgo.
Utilidad para los abogados
En la contratación. La distinción entre lo que corresponde al proveedor y lo que corresponde al responsable del despliegue es útil para redactar los contratos de suministro de sistemas de alto riesgo: quién audita, quién actualiza y quién responde de cada capa de seguridad.
En la gestión de incidentes. Si un sistema es atacado, saber qué medidas debían estar implantadas ayuda a valorar responsabilidades.
En la propia casa. Aunque un despacho no use sistemas de alto riesgo, las ideas básicas, como el control de accesos, la formación o la autenticación multifactor, son igual de aplicables a sus herramientas de IA generativa. Las pautas de la AEPD van en la misma línea, como explicamos en el artículo sobre la IA agéntica y la protección de datos.
La serie de guías
Esta es la cuarta guía del sandbox que resumimos. Las anteriores tratan la gobernanza de datos, la transparencia y los casos prácticos de alto riesgo.
Más análisis en IA jurídica.
Fuentes
- Ministerio para la Transformación Digital y de la Función Pública. Guía 11. Ciberseguridad, versión 2.0, 17 de julio de 2026 (PDF). Consultada el 18 de octubre de 2026.
Los datos concretos de este artículo proceden de las fuentes oficiales citadas.
