La Agencia Española de Protección de Datos (AEPD) ha recibido la primera notificación en España de una brecha de datos personales atribuida a un ataque ejecutado mediante un agente de inteligencia artificial autónomo.
Según la información difundida por el organismo, el incidente afectó a una organización en España y se produjo utilizando un modelo de lenguaje conocido como herramienta para localizar vulnerabilidades y acceder a información protegida.
El ataque se basó en la búsqueda de fallos en archivos genéricos con el objetivo de realizar un inicio de sesión. Una vez dentro del sistema, el agente fue capaz de identificar de forma autónoma nuevas vulnerabilidades que le permitieron modificar datos personales y acceder a facturas almacenadas en la aplicación afectada.
La AEPD ha señalado, no obstante, que la información disponible procede de la notificación realizada por la propia organización afectada y que deberá someterse al correspondiente análisis antes de extraer conclusiones definitivas.
Francisco Pérez Bes, adjunto de la AEPD, también ha precisado que el uso de un determinado modelo de lenguaje no implica que el propio modelo o la infraestructura de su proveedor hayan sido comprometidos, ni que la herramienta utilizada haya sido diseñada específicamente para desarrollar actividades maliciosas.
La AEPD pide revisar los modelos de gestión de riesgos
El organismo pone el foco en la utilización de agentes autónomos de IA como instrumentos para ejecutar ciberataques, independientemente del proveedor o del modelo empleado.
La AEPD destaca que este tipo de sistemas puede desempeñar tareas que hasta ahora requerían una mayor intervención humana. Entre sus capacidades se encuentran planificar acciones intermedias, utilizar herramientas, ejecutar código, consultar fuentes, interpretar datos y modificar su comportamiento de forma autónoma según la evolución del ataque.
Esta capacidad introduce, según la agencia, un cambio relevante en el panorama de la ciberseguridad y obliga a las organizaciones a revisar sus escenarios de gestión de riesgos.
La AEPD considera necesario incorporar expresamente los ataques asistidos o ejecutados mediante inteligencia artificial a los análisis de riesgos relacionados con el tratamiento de datos personales. La automatización que permiten estos agentes puede modificar de forma importante la probabilidad, velocidad y alcance de los incidentes.
Uno de los aspectos que las empresas deberán revisar es el tiempo de respuesta ante una intrusión. Un agente de IA puede analizar simultáneamente distintos activos, probar diferentes vías de acceso y adaptar rápidamente su comportamiento.
También adquiere especial importancia la protección de las identidades digitales y las credenciales. La agencia advierte de que, si un agente logra obtener una cuenta, una clave API o un ‘token’ con permisos elevados, su capacidad operativa puede permitirle acceder rápidamente a diferentes servicios antes de que la organización detecte la actividad anómala.
Responsables, encargados y delegados de protección de datos deberán, por tanto, prepararse para un escenario en el que este tipo de ataques pueda desarrollarse a mayor velocidad.
Pese a la aparición de esta nueva modalidad de amenaza, la AEPD recuerda que continúan siendo fundamentales las medidas tradicionales de protección, como minimizar los datos almacenados, limitar los accesos, corregir vulnerabilidades, controlar a los proveedores y contar con capacidad de respuesta ante incidentes.
