El Diario Oficial de la Unión Europea (DOUE) del 16 de julio publica el Aviso de la Junta Europea de Riesgo Sistémico (JERS) sobre los ciberriesgos sistémicos derivados de modelos de inteligencia artificial (IA) de frontera. Los principales proveedores de inteligencia artificial han desarrollado modelos de IA de frontera (FAIM, por sus siglas en inglés), que tienen una gran capacidad en el ámbito de la ciberseguridad y pueden llevar a cabo ciberataques totalmente automatizados contra sistemas complejos, en particular mediante el descubrimiento de vulnerabilidades y el desarrollo y el uso como arma de los aprovechamientos, cambiando así radicalmente el panorama de ciberamenazas.
Los FAIM son significativamente mejores que los modelos de IA anteriores a la hora de encontrar formas de llevar a cabo ciberataques, superando a los modelos anteriores en coste, rapidez y precisión, lo que actualmente rivaliza con los principales expertos humanos. Tienen la capacidad de amenazar los sistemas que sustentan los entornos de tecnologías de la información y la comunicación (TIC) de los que depende la infraestructura financiera, aumentando la probabilidad y la gravedad de ciberincidentes con repercusiones sistémicas.
Los FAIM han demostrado la capacidad para descubrir vulnerabilidades y crear nuevos aprovechamientos, exponiendo así a los principales sistemas operativos y programas informáticos utilizados en casi todas las organizaciones al riesgo de ciberataques.
Históricamente, el descubrimiento de estas vulnerabilidades ha sido poco frecuente y, a menudo, las han detectado investigadores de seguridad, lo que ha permitido aplicar medidas correctivas específicas. En esos casos, a los proveedores de programas informáticos se les concede a menudo un plazo normalizado —por lo general, 90 días— para corregir la vulnerabilidad antes de que se haga pública. Sin embargo, es probable que los FAIM aumenten el volumen de vulnerabilidades detectadas.
Las prácticas actuales del sistema financiero para corregir vulnerabilidades son predominantemente reactivas y se basan en actualizaciones periódicas y respuestas ad hoc a las vulnerabilidades reveladas. Este enfoque funciona en un entorno de amenazas en el que el tiempo permite que el descubrimiento de vulnerabilidades siga siendo manejable. No obstante, con el aumento del volumen de vulnerabilidades, las prácticas actuales pueden resultar insuficientes para mantener la resiliencia operativa.
Este aumento del volumen también expone a los actuales procesos de corrección de vulnerabilidades a una sobrecarga, ya que priorizan las medidas correctoras basadas en el riesgo y requieren pruebas de los parches de software antes de su aplicación para garantizar la estabilidad operativa. Si se descubren demasiadas vulnerabilidades con repercusiones graves en un breve plazo de tiempo, de modo que se incremente sustancialmente el número de parches de software críticos necesarios, las entidades financieras pueden tener que decidir entre quedar expuestas a riesgos cibernéticos significativos o reducir los requisitos relativos a las pruebas de parcheado, con el consiguiente riesgo de incidentes operativos e interrupciones.
Anteriormente, la creación de aprovechamientos utilizados como arma se realizaba en gran medida manualmente y a los expertos humanos les requería días o semanas, mientras que ahora los FAIM pueden hacerlo en cuestión de minutos u horas. Esto supone un colapso de los márgenes de tiempo defensivos, que son necesarios para mantener la continuidad de las funciones esenciales e importantes durante la corrección del problema.
Con la proliferación de aprovechamientos utilizados como armas correspondientes a vulnerabilidades críticas impulsados por la IA y la correspondiente reducción de los márgenes de tiempo defensivos, el riesgo para las funciones y entidades esenciales o importantes individuales aumenta considerablemente. Si estos riesgos se materializan de forma simultánea entre esas funciones y entidades, podría producirse un aumento permanente del ciberriesgo sistémico para el que, en la actualidad, no se dispone de un marco de mitigación plenamente eficaz. Debido a la fuerte interconexión dentro del sector financiero de la Unión, así como entre dicho sector y otros sectores y jurisdicciones, esta situación plantea un riesgo sistemático y puede crear fragilidades sistémicas.
Además, solo un pequeño número de proveedores de IA están desarrollando FAIM, y varios de ellos han manifestado su preocupación por que los futuros FAIM puedan ser demasiado potentes como para permitir un acceso público sin restricciones.
Agentes malintencionados ya están haciendo uso de la IA para mejorar los ciberataques. Es probable que estos agentes acaben obteniendo, ya sea a través de filtraciones, robos, desarrollo independiente o acceso abierto, modelos de IA con capacidades comparables a las actualmente desplegadas en entornos defensivos controlados.
Si bien los FAIM pueden aumentar significativamente las capacidades ofensivas y la probabilidad de ciberataques sofisticados, también reforzarán las capacidades defensivas, en particular en lo que respecta al descubrimiento de vulnerabilidades, la correlación de datos y las medidas correctoras por parte de las distintas instituciones. Sin embargo, a corto y medio plazo, es probable que el aumento de la velocidad, la escala y la precisión de las capacidades ofensivas supere los beneficios.
El rápido desarrollo de los FAIM hace necesario abordar sin demora los riesgos para la estabilidad financiera identificados, con el fin de evitar su materialización o, al menos, mitigar sus posibles repercusiones.
Para garantizar la estabilidad financiera en los mercados financieros de la Unión, todos los miembros de la JERS deben considerar las implicaciones de los FAIM en la capacidad operativa y la resiliencia de las entidades financieras en el contexto de sus medidas de política macroprudencial y microprudencial. Esto se entiende sin perjuicio de los mandatos de política monetaria de los bancos centrales de la Unión. Por ejemplo, y entre otras iniciativas actuales de las autoridades, el BCE, en su función de supervisor bancario, ha solicitado a las entidades significativas que evalúen sin demora las repercusiones del panorama de amenazas en constante evolución y que elaboren, a más tardar el 31 de octubre de 2026, un plan de acción exhaustivo en el que se describan medidas concretas para hacer frente a dichos riesgos.
A medida que la tecnología de IA prolifera, es importante garantizar que todas las infraestructuras esenciales, y especialmente las entidades financieras, estén preparadas para hacer frente a los ciberataques provocados por los FAIM, y adopten las medidas oportunas y adecuadas. No obstante, estos esfuerzos defensivos por parte de entidades individuales resultarían insuficientes. Una respuesta eficaz y la mitigación del riesgo requieren una respuesta coordinada en la que participen todas las partes afectadas, incluidos los proveedores de IA, los proveedores de software, las empresas de seguridad, los responsables del mantenimiento de proyectos de código abierto, las entidades financieras y las autoridades tanto a escala nacional como de la Unión
El Reglamento (UE) 2022/2554 establece un marco exhaustivo para que las entidades financieras identifiquen, gestionen, supervisen y mitiguen los riesgos relacionados con las TIC, incluidos los riesgos derivados de ciberataques. Dada la interconexión del sector financiero y su dependencia de los sistemas de TIC y de proveedores de servicios terceros, un ciberataque eficaz que afecte a una o varias entidades financieras o a sus proveedores de servicios esenciales podría tener implicaciones sistémicas significativas. Las autoridades de supervisión financiera deben dar la prioridad adecuada a las actividades de supervisión en este ámbito, teniendo en cuenta las posibles repercusiones de dichos ciberataques en la estabilidad, la integridad y la fiabilidad del sistema financiero, así como los daños operativos, financieros y para los consumidores que puedan ocasionar.
El Reglamento (UE) 2024/1689 establece normas armonizadas para la introducción en el mercado, la puesta en servicio y el uso de sistemas de IA y modelos de IA de uso general en la Unión, incluidos, en determinadas circunstancias, los sistemas y modelos de IA ofrecidos por proveedores de IA establecidos en terceros países cuando el resultado generado por el sistema de IA se utilice en la Unión, o un modelo de IA se integre en un sistema introducido en el mercado de la Unión. Este reglamento también establece normas específicas, incluido un régimen regulador más estricto, para los modelos clasificados como modelos de IA de uso general con riesgo sistémico.
El Reglamento (UE) 2024/2847 introduce requisitos obligatorios de ciberseguridad para los fabricantes que comprenden la planificación, el diseño, el desarrollo y el mantenimiento de productos de hardware y software con elementos digitales introducidos en el mercado de la Unión. También exige que los fabricantes se ocupen de las vulnerabilidades durante el ciclo de vida de sus productos. Una vez sea plenamente aplicable en diciembre de 2027, las entidades financieras que introduzcan dichos productos en el mercado de la Unión también tendrán que garantizar que estos cumplen estos requisitos.
Dado el carácter altamente digitalizado e interconectado del sistema financiero, estos efectos adversos en la ciberseguridad podrían propagarse rápidamente, afectando a funciones esenciales e importantes en todas las entidades financieras, y, en última instancia, provocando perturbaciones sistémicas y pérdida de confianza en el sistema financiero.Los nuevos FAIM aumentan el riesgo inherente relacionado con las TIC, lo que da lugar a un debilitamiento de la resiliencia operativa en todo el sector financiero, en particular en cuatro ámbitos:
Además, es difícil establecer y mantener la visibilidad del uso de la IA en cualquier entidad financiera, incluido el pleno entendimiento de dónde y cómo se utiliza la IA, teniendo en cuenta que se utiliza en las interfaces de clientes, los agentes internos, los procesos empresariales y la integración con terceros.
Los desarrollos identificados pueden alterar sustancialmente tanto la magnitud como la estructura del riesgo cibernético, aumentando los riesgos tanto directos como indirectos para la estabilidad financiera. Las capacidades de los FAIM pueden someter a los marcos de resiliencia existentes a una presión considerable, especialmente si los incidentes son generalizados y se producen simultáneamente. Los incidentes también pueden propagarse rápidamente en todas las entidades y mercados financieros si se ven afectados proveedores terceros esenciales, ecosistemas tecnológicos compartidos o componentes de código abierto ampliamente utilizados, lo que aumenta el riesgo de perturbaciones conexas con implicaciones sistémicas.
Los FAIM alteran tres fuentes de asimetría en el sector financiero:
En primer lugar, la actual concentración geográfica de los principales proveedores de IA fuera de la Unión deja a esta expuesta a una dependencia estratégica y a un riesgo geopolítico. Con el fin de mitigar la asimetría tecnológica y de conocimientos entre jurisdicciones, es necesario adoptar medidas para facilitar un acceso adecuado y proporcionado de la Unión y sus Estados miembros a los FAIM de reciente creación. Dichas medidas deben ser oportunas, coherentes y eficientes, tanto en términos de política como de aplicación, y deben tener debidamente en cuenta los diferentes sectores financieros de la Unión, aprovechando la experiencia de las AES correspondientes. Esto aliviará no solo la asimetría entre la Unión y las jurisdicciones de terceros países, sino también entre entidades financieras establecidas en diferentes Estados miembros, preservando unas condiciones de competencia equitativas dentro y fuera de la Unión y minimizando el riesgo sistémico. Los acuerdos que facilitan el acceso a los FAIM solo para determinadas categorías de entidades o en jurisdicciones seleccionadas contribuirían a la fragmentación del mercado único de las finanzas, reduciendo su liquidez y profundidad.
En segundo lugar, por lo que se refiere a la asimetría entre atacantes y expertos en ciberseguridad, los FAIM reducen el precio de admisión de los atacantes. Es probable que los agentes de riesgo recurran cada vez más a los FAIM para llevar a cabo las partes más avanzadas técnicamente e intensivas en mano de obra de las operaciones ofensivas, reduciendo los costes. En cambio, los expertos en ciberseguridad se ven limitados por los requisitos operativos, las dependencias y las obligaciones reglamentarias, lo que limita el efecto y la magnitud respecto a lo que pueden beneficiarse de los FAIM a corto y medio plazo, lo que en última instancia requiere períodos más largos para ajustarse.
En tercer lugar, existen diferencias en la manera en que las entidades financieras cuentan con los recursos y los equipos necesarios para hacer frente a los retos que plantean los FAIM. Estas diferencias pueden deberse a costes fijos en lugar de escalonados, a limitaciones de recursos y a un acceso limitado a especialistas. Cuando existe una asimetría en la capacidad de hacer frente a tales retos, el eslabón más débil de la cadena puede afectar a la estabilidad del sistema.ImplicacionesEs esencial garantizar que los sistemas de pago y liquidación de importancia sistémica y las infraestructuras de los mercados financieros sigan estando protegidos frente a las vulnerabilidades derivadas del uso y el desarrollo de FAIM. Los operadores públicos y privados deben revisar y actualizar exhaustivamente sus marcos de ciberseguridad para tener en cuenta dichas vulnerabilidades. Las autoridades encargadas de la supervisión o vigilancia deben adoptar medidas para garantizar que los sistemas estén adecuadamente protegidos. Se debe fomentar la cooperación entre las autoridades y las entidades financieras privadas siempre que sea necesario para aumentar la seguridad y la resiliencia del sistema financiero de la Unión.En su informe de 2020 sobre ciberriesgos sistémicos (10), la JERS identificó la velocidad, la magnitud y la intención maliciosa de las ciberamenazas como posibles fuentes de propagación del riesgo sistémico. Las autoridades deben ser conscientes de que, si bien los FAIM representan una nueva fuente de propagación, también amplifican las fuentes ya identificadas anteriormente, y deben integrar esta idea en sus medidas de política monetaria.
Teniendo en cuenta todos los riesgos para la estabilidad financiera derivados de la exposición operativa al ciberriesgo en el sector financiero, es importante garantizar que las preocupaciones señaladas en el presente aviso se reflejen en el trabajo de supervisión y vigilancia y en las posiciones políticas adoptadas por las autoridades pertinentes, en el marco de sus respectivos mandatos.
Las autoridades pertinentes, dentro de sus respectivas competencias, deben considerarse acuerdos de cooperación y coordinación sectorial junto con los marcos de pruebas existentes. Las autoridades financieras también deben garantizar que los consejos de las entidades financieras privadas se comprometan plenamente a mitigar los ciberriesgos derivados de los FAIM, que existan marcos claros de gobierno y rendición de cuentas y que las respuestas oportunas se planifiquen adecuadamente, junto con las inversiones internas correspondientes.
Varios posibles desarrollos considerados en este aviso —ya sean las repercusiones sistémicas, el riesgo geopolítico o el cambio de equilibrio entre atacantes y expertos en seguridad— pueden afectar al funcionamiento del sistema financiero y a la confianza en él. Para evaluarlos continuamente, la JERS considerará la necesidad de reflejar estos desarrollos en las evaluaciones de riesgos, los marcos de pruebas y las expectativas de supervisión, así como en la evolución de los escenarios futuros. La JERS también realizará un seguimiento del uso y el desarrollo de los FAIM y sus repercusiones en el sector financiero desde la perspectiva del riesgo sistémico. Además, la JERS volverá a evaluar la evolución de cada evaluación trimestral de riesgos de la Junta General y estudiará otras medidas cuando sea necesario.