La inteligencia artificial comienza a cambiar también la forma en la que se producen los ciberataques, la Agencia Española de Protección de Datos (AEPD) ha recibido la que identifica como la primera notificación de una brecha de datos personales en la que el ataque habría sido ejecutado mediante un agente de inteligencia artificial, utilizando un conocido modelo de lenguaje. El organismo ha dado a conocer el caso este 14 de septiembre, aunque advierte de que la información disponible procede de la notificación realizada por la organización afectada y todavía debe ser analizada.
Lo que sí considera relevante la Agencia es el papel que habría desempeñado el agente de IA durante el ataque, según la información comunicada, el sistema comenzó buscando vulnerabilidades en archivos genéricos y posteriormente consiguió realizar un inicio de sesión correcto. Una vez dentro, habría continuado trabajando de forma autónoma para localizar vulnerabilidades en la aplicación, hasta conseguir modificar datos personales y acceder a facturas.
La diferencia respecto a otros ataques en los que se utilizan herramientas de inteligencia artificial está precisamente en ese grado de autonomía, la IA generativa ya se emplea desde hace tiempo para determinadas actividades relacionadas con el fraude y la ciberdelincuencia, como la elaboración de campañas de phishing, la traducción de mensajes fraudulentos, la suplantación de identidades o el análisis de código.
Para la AEPD, este cambio supone una diferencia importante en materia de ciberseguridad, la inteligencia artificial no crea necesariamente nuevas técnicas de ataque, pero puede aumentar la velocidad, la escala y la capacidad de adaptación de procedimientos que ya existen. En un ataque tradicional, determinadas fases requieren intervención humana y, por tanto, tiempo, en cambio, un agente automatizado puede realizar determinadas operaciones de manera mucho más rápida y encadenar diferentes acciones sin que el atacante tenga que intervenir continuamente.
Esta posibilidad afecta directamente a la protección de datos personales, si un agente consigue acceder a una cuenta con permisos suficientes, una API o un token, podría utilizar esas credenciales para desplazarse entre diferentes servicios y acceder a información antes de que los mecanismos de seguridad detecten el comportamiento anómalo. La propia AEPD considera que esta situación obliga a modificar la forma en la que las organizaciones analizan sus riesgos. Los ataques asistidos o ejecutados mediante IA deberían incorporarse expresamente a estas evaluaciones y no quedar incluidos únicamente dentro de categorías genéricas como malware, phishing o accesos no autorizados.
Uno de los principales problemas que plantea este nuevo escenario es la velocidad, los sistemas de seguridad diseñados pensando en ataques ejecutados principalmente por personas pueden encontrarse con dificultades cuando el adversario dispone de un agente capaz de analizar diferentes activos, probar distintas vías de acceso y adaptar sus acciones rápidamente.
Por este motivo, la Agencia señala la necesidad de reforzar los mecanismos de detección, contención y respuesta automática, sin que esto implique eliminar la supervisión humana. La identidad digital también adquiere una importancia especial, una cuenta comprometida puede proporcionar al atacante acceso a numerosos recursos si dispone de permisos excesivos. En este contexto, controlar las credenciales, las claves API y los tokens, además de limitar los privilegios de cada usuario o servicio, adquiere todavía más relevancia.
La Agencia Española de Protección de Datos insiste en que esta primera notificación no permite establecer todavía una tendencia estadística, se trata de un único incidente comunicado por una organización y el caso deberá ser objeto del correspondiente análisis. Sin embargo, el organismo considera que sí constituye una señal relevante porque demuestra que los ataques mediante agentes de inteligencia artificial han dejado de ser únicamente una posibilidad teórica y ya aparecen relacionados con incidentes que afectan a tratamientos reales de datos personales.
La advertencia coincide además con las recomendaciones del Centro Criptológico Nacional, que en su guía sobre buenas prácticas frente al modelo de IA ofensiva señala la evolución de estas tecnologías hacia capacidades que pueden integrarse en campañas reales. Entre sus recomendaciones figuran reforzar los controles de seguridad, acelerar la gestión de vulnerabilidades, proteger las identidades y establecer mecanismos adecuados para gobernar el uso de agentes de IA.
El escenario que plantea la AEPD no significa que los agentes de inteligencia artificial vayan a sustituir inmediatamente a los ciberdelincuentes, pero sí que las organizaciones tendrán que asumir que la automatización puede convertirse en una nueva variable dentro de sus modelos de amenaza.