Analizamos la creación de la Agencia española de Supervisión de Inteligencia Artificial
1. Antecedentes
En abril de 2021, la Comisión Europea adoptó la primera respuesta regulatoria con la publicación de la propuesta de Reglamento europeo para la armonización de las normas sobre IA.
La propuesta de Reglamento tiene por objetivo establecer los requisitos legales que deben cumplir los sistemas de IA para garantizar los derechos fundamentales frente a los riesgos vinculados a determinados usos de estas tecnologías. Una vez aprobado, será de aplicación directa en todos los Estados Miembros.
Tras la aprobación del Parlamento Europeo de su posición sobre la propuesta del Reglamento este pasado 14 de junio de 2023, empezaron las negociaciones institucionales entre los eurodiputados, el Consejo de Ministros de la UE y la Comisión conocidas como “trílogos” para la adopción del texto legal final. La aprobación final del Reglamento sobre la IA está previsto para finales de este año, entrando en vigor a finales de 2025.
El Reglamento sobre la IA contiene una serie de obligaciones que deben ser asumidas por cada autoridad nacional, motivo por el que España se plantea la creación de una Agencia Estatal, apostando por una supervisión voluntaria de la implementación de estas tecnologías disruptivas, antes de la entrada en vigor de la normativa europea, a través de sellos de calidad y responsabilidad de Inteligencia Artificial, las relaciones con el ecosistema europeo que fomentarán el desarrollo del Pacto por la Inteligencia Artificial, así como el Código de Buenas Prácticas de Inteligencia Artificial Generativa, producido dentro del Consejo de Comercio y Tecnología entre EEUU y la UE.
2. Creación de la AESIA
En su artículo único, el Real Decreto crea la AESIA y aprueba su Estatuto.
La Agencia será una entidad de derecho público adscrita a la Secretaría de Estado de Digitalización e Inteligencia Artificial. Su función principal será la de llevar a cabo tareas de supervisión, asesoramiento, concienciación y formación, a empresas públicas y privadas para la adecuada implementación de la normativa entorno al adecuado uso de la IA y concretamente de los algoritmos.
Está prevista su efectiva puesta en funcionamiento se producirá con la constitución del Consejo Rector en el plazo máximo de 3 meses desde la entrada en vigor del Real Decreto, es decir, a principios de diciembre de este mismo año.
3. Competencias atribuidas a la nueva AESIA
Entre las competencias destacan:
- La ya indicada de supervisión del cumplimiento de la normativa, tanto nacional como europea, atribuyéndole una potestad sancionadora en lo que respecta a sus posibles vulneraciones.
- La promoción de entornos de prueba que permitan una correcta adaptación de los sistemas de IA para reforzar la protección de los usuarios y evitar sesgos discriminatorios.
Este Real Decreto va en sintonía con la publicación del borrador de Real Decreto que, establece una propuesta de Sandbox española en relación con la IA para el ensayo del cumplimiento del Reglamento de la IA. Este entorno de pruebas pionero puede ser atractivo para las empresas que pretendan desarrollar o darle uso a esta tecnología, además de fomentar un buen contexto europeo para el desarrollo del Pacto por la Inteligencia Artificial, así como el Código de Buenas Prácticas de Inteligencia Artificial Generativa.
- Además, le corresponde el apoyo técnico y/o asesor a jueces y tribunales en aquellos procesos relacionados con la inteligencia artificial y, la elaboración de guías prácticas para la implementación de sistemas de inteligencia artificial éticos y confiables.
- Todo ello con la finalidad de promover la difusión de información acerca de los requisitos de cumplimiento, además de proporcionar apoyo en la implementación de los cambios necesarios para garantizar dicho cumplimiento.
4. Conclusiones
Es más que evidente la necesidad de un órgano de control y supervisión de un sistema tecnológico del que no somos aun plenamente conscientes de su potencial y futuras implicaciones en nuestra sociedad y economía, llegando muy probablemente a ser omnipresente en nuestra vida diaria. De tal modo, la futura Agencia de Española de Supervisión de la IA, casi con seguridad se convertirá en una entidad pilar y de referencia en el desarrollo de la economía española.
Así pues, a la AESIA se le encomienda un objetivo de impulso del uso de la IA, tomando un papel clave la orientación, formación y sensibilización desde un punto de vista responsable y ético, basándose en los principios de desarrollo sostenible y perspectiva de género para suscitar confianza en la población hacia estas nuevas tecnologías.
Todo ello sin olvidar su futura capacidad sancionadora, supervisora y de vigilancia.
Tampoco debemos pasar por alto el papel en materia de Inteligencia Artificial de la Agencia Española de Protección de Datos, relevante en relación con este tipo de sistemas, pues muchas de las aplicaciones de la IA comportan el tratamiento de datos personales, con la posibilidad de tratar datos de carácter especial, y que están sujetos al cumplimiento del Reglamento General de Protección de Datos, cuya supervisión y vigilancia corresponde a la AEPD. Por ende, una colaboración y coordinación estrecha entre estas dos entidades será crucial para la efectiva protección de los derechos y libertades de los ciudadanos, de la que su Directora, ya ha declarado estar dispuesta.