La Comisión Europea ha presentado un plan de acción para dar una respuesta estructurada a fin de abordar los riesgos y aprovechar las oportunidades de los modelos avanzados de inteligencia artificial (IA) para la ciberseguridad. Este Plan de Acción reunirá a los Estados miembros, la industria y las organizaciones a escala de la UE para reforzar la ciberseguridad de nuestro panorama digital frente a las vulnerabilidades que plantea la IA avanzada.
En concreto, el documento detalla una serie de medidas con el objetivo de evaluar los modelos de IA, acceder a modelos avanzados y reforzar la ciberseguridad, entre otras cosas.
Evaluación de modelos de IA
La seguridad efectiva requiere, según la propia Comisión Europea, una comprensión profunda de cómo las nuevas tecnologías pueden ser utilizadas, mal utilizadas y explotadas. En virtud de la Ley de IA, los modelos avanzados de inteligencia artificial deben evaluarse, y las medidas de mitigación deben evaluarse cuidadosamente, antes de que los modelos se introduzcan en el mercado de la UE.
Para fomentar los conocimientos especializados adquiridos a nivel nacional, la Comisión pondrá en marcha una convocatoria específica para establecer una capacidad de evaluación de la UE que abarque la ciberseguridad, que se espera esté operativa en 2027. Esta nueva capacidad contribuirá a la función reguladora de la Oficina de IA al reforzar la evaluación por terceros de las capacidades y los riesgos de la IA a escala mundial.
Acceso a modelos avanzados y pruebas de IA
La Comisión advierte, por otro lado, que Europa también necesita condiciones claras y transparentes para acceder a los sistemas de IA más avanzados. Por ello, el organismo trabajará con la Agencia de la UE para la Ciberseguridad (Enisa) para definir un plan europeo para el acceso estructurado a capacidades avanzadas de inteligencia artificial para la ciberseguridad. Estas orientaciones ayudarán a las organizaciones públicas y privadas europeas pertinentes a acceder a modelos avanzados de IA.
Asimismo, Enisa y el Centro Común de Investigación de la Comisión crearán una plataforma segura para probar la IA en materia de ciberseguridad, incluido el uso de entornos simulados. Esto aportará conocimientos técnicos sobre el uso seguro de la IA a los operadores de sectores críticos, como las finanzas, la energía, la salud, el transporte y la Administración Pública.
Reforzar la ciberseguridad y corregir las vulnerabilidades
La UE debe proteger sus infraestructuras críticas contra las vulnerabilidades derivadas del posible uso indebido de estas tecnologías. Por ello, desde la Comisión advierten que las organizaciones deben intensificar las prácticas de ciberhigiene, las medidas de gestión de riesgos y los principios de seguridad desde el diseño.
Las organizaciones han de empezar a utilizar, según el organismo, las capacidades de IA ya disponibles, también a través de modelos de código abierto, para identificar y corregir las vulnerabilidades más rápidamente; así como para prevenir y responder a los ciberataques.
Así, para ayudar a las organizaciones en esta transición, Enisa apoyará y facilitará las asociaciones entre las autoridades públicas, las empresas y las comunidades de código abierto en el ecosistema cibernético. Esto incluirá orientación, recomendaciones y mejores prácticas, además de una campaña para asegurar el software de código abierto crítico.
Finalmente, para estimular la expansión del mercado europeo, la Comisión pondrá en marcha el Gran Desafío de la UE en materia de IA para la ciberseguridad. Este concurso reunirá a empresas, investigadores y organizaciones para desarrollar soluciones de IA para la ciberseguridad.
Archivado en:
