El Consejo de Ministros, a propuesta del Ministerio para la Transformación Digital y de la Función Pública, ha aprobado, para su remisión al Congreso de los Diputados, el proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial (IA). Con esta norma, que adapta al ordenamiento jurídico español el Reglamento europeo de Inteligencia Artificial (RIA), en vigor desde agosto de 2024, España se dota de un instrumento que permitirá una supervisión humana y un uso confiable de la IA.
En rueda de prensa, el ministro para la Transformación Digital y de la Función Pública, Óscar López, ha defendido que esta ley refuerza el liderazgo de España como potencia referente. «España es un país líder mundial en el desarrollo y la adopción de la IA, pero también es el líder mundial en la regulación de la IA», ha afirmado citando diversos estudios como los de la Universidad de Standford o de Microsoft.
En ese sentido, ha recordado que nuestro país cuenta con dos fábricas de IA de la Unión Europea y un proyecto de gigafactoría. También con un modelo propio de IA en español, ALIA, al tiempo que abandera la apuesta por una IA ética y confiable.
El proyecto de ley identifica en España los organismos de supervisión del Reglamento de IA y establece su régimen sancionador. Además, incorpora como novedad una serie de premisas para fomentar que en el sector público estatal se adopte la IA.
Marco de gobernanza
La Ley establece un marco de gobernanza mediante la designación de autoridades notificantes y autoridades de vigilancia del mercado, encargadas de supervisar el cumplimiento de la normativa. Establece que aquellos productos ya regulados por normas sectoriales, como maquinaria, juguetes, vehículos o productos sanitarios, mantendrán su misma autoridad notificante y autoridad de vigilancia del mercado, en línea con la propuesta del Reglamento de IA.
El resto de los sistemas no regulados por legislación de producto, como los relativos al empleo, biometría o educación, se atribuyen principalmente a la Agencia de Supervisión de Inteligencia Artificial (AESIA), a la Agencia Española de Protección de Datos y al Consejo General del Poder Judicial, en función del ámbito a supervisar.
También promueve un modelo de colaboración institucional reforzado, incluyendo mecanismos de coordinación entre autoridades y un punto de contacto único para cuestiones de supervisión a través de la AESIA.
Impulso de España al Reglamento de IA y nuevos sistemas prohibidos
El Reglamento de IA constituye una norma armonizada de aplicación directa en todos los Estados miembros. Clasifica los sistemas de IA en función de su potencial riesgo para las personas, prohíbe aquellos que tienen un riesgo inaceptable para la seguridad o salud de las personas y establece las obligaciones que deben cumplir el resto para su puesta en servicio o comercialización en el mercado europeo.
A iniciativa de España, con el apoyo de Francia, el 7 de mayo, la UE acordó añadir dos sistemas prohibidos que se suman a los ocho en vigor: prohibir en todo el territorio comunitario la introducción en el mercado, puesta en servicio y el uso de sistemas de IA que generen deepfakes sexuales, tras la polémica generada por los desnudos de mujeres y menores creados por Grok, el asistente virtual de la red social X.
Otros ejemplos de sistemas prohibidos son aquellos que usan técnicas subliminales (imágenes o sonidos imperceptibles) para manipular decisiones sin consentimiento, causando un perjuicio considerable a la persona (adicciones, violencia de género o menoscabo de su autonomía); explotan vulnerabilidades relacionadas con la edad, la discapacidad o situación socioeconómica para alterar sustancialmente comportamientos de modo que les provoque o pueda provocar perjuicios considerables; clasifican con biometría a las personas por raza u orientación política, religiosa o sexual; o puntúan a individuos o grupos basándose en comportamientos sociales o rasgos personales como método de selección para, por ejemplo, denegarles la concesión de subvenciones o préstamos.
Régimen sancionador del proyecto de Ley Orgánica de IA
En cuanto al régimen sancionador, la Ley se rige por principios de proporcionalidad y eficacia. Las sanciones pueden alcanzar hasta los 35 millones de euros o el siete por ciento del volumen de negocio en los casos más graves y hasta 500.000 euros o el 0,5 por ciento del volumen de negocio en las más leves.
No obstante, el texto proporciona flexibilidad para las autoridades en la aplicación de las sanciones, adaptándolas a la gravedad, intencionalidad o reincidencia. Además, se incorporan mecanismos que priorizan la corrección frente a la penalización, como las reducciones de sanción por pronto pago o la adopción de medidas correctoras, así como la consideración específica del tamaño empresarial para proteger a pymes y startups, en línea con lo indicado en el RIA.
Buen uso de la IA en el sector público estatal
Otra de las aportaciones de la norma es impulsar el buen uso de la IA en el sector público estatal; medida que se incluye a petición de numerosas propuestas incluidas en la audiencia pública. Para ello, introduce la creación de un inventario de sistemas de IA utilizados en procedimientos administrativos, no solo para sistemas de alto riesgo, reforzando la transparencia.
Además, establece la figura del delegado de IA, que estará encargado de coordinar la aplicación normativa y asesorar en proyectos y contratación pública. Tanto el inventario como el delegado se desarrollarán por Real Decreto. Adicionalmente, se dará impulso a la formación y concienciación de los empleados públicos en materia de IA.
Entornos de pruebas a escala nacional
Aunque ya el Ministerio para la Transformación Digital y de la Función Pública se anticipó con un entorno controlado de pruebas para ayudar a los proveedores de IA a cumplir la legislación, el proyecto de Ley Orgánica determina cómo articular la gobernanza de los sandboxes y medidas facilitadoras. El texto reconoce la necesidad de fomentar la innovación en un entorno controlado, incorporando el espacio controlado de pruebas a escala nacional de obligada creación por el Reglamento de IA, que será operado por la AESIA.
Asimismo, se permite la creación de sandbox de IA adicionales siempre que sean creados por autoridades de vigilancia del mercado o notificante y asociados a su sector de supervisión. Además, especifica que en todos los sandbox deberán participar las autoridades responsables de definir las políticas públicas en los sectores cubiertos por el sandbox y a las autoridades de derechos fundamentales relacionadas.
Archivado en:
