La Agencia Española de Protección de Datos (AEPD) recibió la primera notificación de una brecha de datos personales en la que un agente de inteligencia artificial habría ejecutado de forma autónoma distintas fases de un ciberataque, desde la búsqueda de vulnerabilidades hasta el acceso a información y la modificación de datos.
De acuerdo con la información comunicada por la organización afectada, el agente comenzó buscando vulnerabilidades en archivos genéricos y consiguió realizar correctamente un inicio de sesión en el sistema. Una vez dentro, continuó de manera autónoma examinando la aplicación hasta encontrar una vulnerabilidad que le permitió modificar datos personales y acceder a facturas.
La AEPD, sin embargo, ha pedido cautela. La información disponible procede de la notificación presentada por la propia organización y todavía debe ser objeto de análisis. Por ello, la Agencia no da por confirmados todos los detalles del incidente.
El organismo también aclara que el hecho de que en el ataque se haya utilizado un determinado modelo de inteligencia artificial no significa que ese modelo o la infraestructura de su proveedor hayan sido comprometidos, ni que la herramienta haya sido diseñada para realizar actividades maliciosas. Lo relevante, desde el punto de vista de la protección de datos, es que un tercero habría empleado un agente de IA para encadenar distintas etapas de un ataque.
El salto de la IA como herramienta a la IA que actúa
El uso de inteligencia artificial en actividades maliciosas no es nuevo. Los modelos generativos ya han sido utilizados para elaborar mensajes de phishing, traducir campañas fraudulentas, suplantar identidades, analizar código y facilitar la búsqueda de vulnerabilidades.
La diferencia en este caso está en el nivel de autonomía.
Un agente de IA puede recibir un objetivo, dividirlo en tareas, utilizar herramientas, ejecutar código, consultar información, interpretar los resultados y modificar sus siguientes acciones en función de lo que encuentra. La propia AEPD ha señalado que esta autonomía permite a estos sistemas ejecutar tareas y operar sobre fuentes y repositorios de información con una intervención humana limitada.
Por eso, la Agencia considera que la inteligencia artificial no necesariamente crea nuevas modalidades de amenaza, pero sí puede aumentar la velocidad, la escala y la capacidad de adaptación de ataques que ya existen, reduciendo el tiempo del que disponen las organizaciones para detectarlos y detenerlos.
Una primera señal, no todavía una tendencia
La AEPD subraya que una sola notificación no permite establecer una tendencia estadística. Sin embargo, considera significativo que un ataque apoyado en un agente de IA haya sido comunicado en el contexto de un tratamiento real de datos personales.
El caso supone así una señal para las organizaciones que manejan información personal, especialmente porque un agente capaz de actuar de manera autónoma puede encadenar varias acciones en un período mucho más corto que un atacante que dependa exclusivamente de la intervención humana.
La AEPD pide revisar los análisis de riesgo
A partir de este incidente, la Agencia considera necesario incorporar expresamente los ataques asistidos o ejecutados mediante inteligencia artificial en los análisis de riesgos relacionados con el tratamiento de datos personales.
Según la AEPD, no basta con contemplar de manera genérica amenazas como el malware, el phishing o los accesos no autorizados. La automatización mediante agentes puede modificar la probabilidad de que ocurra una brecha, así como la velocidad con la que se desarrolla y el alcance que puede alcanzar.
También cobra especial importancia la protección de las identidades digitales y las credenciales. Un agente que consiga una cuenta, una clave de acceso o un token con permisos excesivos podría utilizar esos privilegios para acceder a diferentes servicios a una velocidad mucho mayor que la de un atacante que actúa manualmente.
Menos tiempo para reaccionar
La aparición de agentes capaces de actuar de manera autónoma también obliga a revisar los protocolos de respuesta ante incidentes.
Los procedimientos diseñados para ataques ejecutados paso a paso por una persona pueden resultar insuficientes si un agente es capaz de analizar diferentes activos, probar distintas vías de acceso y adaptar sus acciones en cuestión de segundos.
Por ello, la AEPD sostiene que la supervisión humana continúa siendo necesaria, pero debe estar acompañada de sistemas automáticos de detección, contención y respuesta capaces de actuar con rapidez.
La Agencia considera que esta primera notificación marca un punto de atención para la protección de datos: los agentes de inteligencia artificial ya no deben contemplarse únicamente como una posibilidad futura dentro de los escenarios de ciberseguridad, sino como una capacidad que las organizaciones deben incorporar a sus evaluaciones de riesgo.
