Las organizaciones públicas que deseen adquirir un sistema de Inteligencia Artificial (IA) desarrollado por un proveedor externo disponen ahora de dos modelos de cláusulas contractuales tipo basados, en gran medida, en la Propuesta de Reglamento de Inteligencia Artificial de la Unión Europea, distinguiendo en función de si el sistema de IA pertenece o no a la categoría de sistema de Alto Riesgo.
Estos sets de cláusulas, que fueron inicialmente publicados en el mes de abril mediante una primera versión y, revisados el pasado mes de septiembre, pueden ser aplicados de forma voluntaria teniendo en cuenta que la propuesta europea de Reglamento de Inteligencia Artificial todavía se encuentra en fase de negociación.
En esta línea, el Grupo Procurement of AI Community de la Comisión Europea, responsable de su preparación:
- Recomienda llevar a cabo una evaluación caso por caso, para valorar si las cláusulas propuestas resultan suficientes para proteger los intereses de las partes y, en su caso, de terceros; e
- Invita a las organizaciones que hagan uso de estas cláusulas a personalizarlas según el contexto específico en el que se enmarque la adquisición del sistema de IA.
Extensible a otros sistemas
Asimismo, el Grupo prevé la posibilidad de que estas cláusulas –que están basadas en las cláusulas tipo para la contratación de sistemas algorítmicos, desarrolladas por el Ayuntamiento de Ámsterdam– se puedan utilizar para adquirir otros sistemas de software basados en reglas que empleen algoritmos y que no sean necesariamente calificados como IA, con el propósito de dotar de herramientas al sector público para asegurar una mayor capa de responsabilidad, transparencia y control sobre el uso de estos sistemas.
Sujetos a cambios y/o revisión
Sin perjuicio de lo anterior, debe recalcarse que las presentes cláusulas están supeditadas a cualquier cambio introducido en la fase de negociación de la Propuesta de Reglamento de Inteligencia Artificial de la Unión Europea, por lo que deberán ser objeto de revisión y adaptarlas al texto definitivo que adopten el Consejo y el Parlamento Europeo.
¿Qué aspectos regulan estas cláusulas?
Las cláusulas tipo propuestas se dividen en las siguientes secciones, cuyo articulado procedemos a describir de forma sintetizada:
- Los requisitos esenciales en relación con el sistema de IA.
Entre los requisitos que debe cumplir el proveedor, se encuentran el establecimiento de un sistema de gestión de riesgos; la garantía, en su caso, de que el conjunto de datos utilizados en el desarrollo del sistema de IA –incluyendo las fases de entrenamiento, validación y prueba– es adecuado al contexto así como a la finalidad prevista; la entrega de la documentación técnica e instrucciones de uso junto al sistema de IA; la implementación de un registro automático de sucesos que permita garantizar un nivel de trazabilidad del funcionamiento del sistema de IA durante su ciclo de vida; y la garantía de que el sistema de IA cumple con los. principios de transparencia, supervisión humana y seguridad desde el diseño y por defecto
- Las obligaciones del proveedor en relación con el sistema de IA.
Entre estas obligaciones se encuentra la de garantizar el cumplimiento de los requisitos mencionados en el punto anterior durante toda la vigencia del contrato; el establecimiento de un sistema de gestión de calidad y un procedimiento de evaluación de la conformidad a los requisitos en las cláusulas; la necesidad de aplicar medidas correctoras de forma inmediata y la obligación de explicar el funcionamiento del sistema de IA y su toma de decisiones o resultados.
- Los derechos por utilización de los conjuntos de datos.
Regulación de los derechos relacionados con la propiedad intelectual de los conjuntos de datos de los organismos públicos, así como los de los proveedores, en función de su titularidad, la transmisión de éstos y el régimen de indemnizaciones por reclamaciones de terceros.
- El registro y auditoría del sistema de IA.
Obligación del proveedor de ayudar al organismo público a llevar a cabo las auditorías pertinentes para demostrar el cumplimiento de estas cláusulas, así como a poner a disposición toda la información necesaria para ello.
- Costes adicionales.
Como norma general, no se pueden cargar costes adicionales por dar cumplimiento a estas cláusulas. Adicionalmente, se añaden siete anexos en los que se solicita una descripción de:
a) El sistema de IA;
b) La finalidad prevista;
c) Los conjuntos de datos utilizados para el entrenamiento junto a su prueba y validación;
d) La documentación técnica;
e) Las instrucciones de uso;
f) Las medidas para garantizar la supervisión humana;
g) Los niveles de precisión y
h) Las medidas para garantizar un nivel adecuado de solidez, seguridad y ciberseguridad.
Exclusiones
Es importante subrayar que este modelo de cláusulas no contiene disposiciones específicas sobre otras obligaciones o requisitos en virtud de la legislación aplicable como, por ejemplo el Reglamento General de Protección de Datos (RGPD), o por lo que se refiere a aspectos relativos a la propiedad intelectual e industrial, la responsabilidad o la aceptación, el pago y los plazos de entrega.
Asimismo, pese haber sido publicado por un grupo asociado a la Comisión Europea, estos modelos de cláusulas no son documentos oficiales ni pueden ser considerados como el reflejo de la posición o interpretación de la Comisión sobre este ámbito.
Aspectos como los advertidos con anterioridad deberán ser contrastados con los que imponga el futuro Reglamento de Inteligencia Artificial en la Unión Europea o, hasta entonces, por los previstos en códigos de conducta tendentes a agilizar el tráfico económico en cumplimiento con los principios éticos para la puesta en el mercado de una IA fiable y segura.
Conviene recordar asimismo que, la utilización de estos sets de cláusulas es complementario, siendo necesaria la la regulación y atención sobre aspectos que resultan esenciales para analizar los riesgos asociados a los sistemas de IA, como puede ocurrir también con otro tipo de modelo de cláusulas adjuntas al contrato principal. Por ello, resulta especialmente relevante prestar atención a las obligaciones que emanan de estas cláusulas y comprender el sistema de IA que se pretende contratar.
Conclusiones
Nos encontramos en un escenario en el que las herramientas que hacen uso de algoritmos y de los sistemas de IA para distintas funciones crecen exponencialmente a la espera de un marco regulador europeo. En este camino, incluso las autoridades locales y las organizaciones públicas están empezando a utilizar tecnologías de IA para gestionar sus competencias y prestar servicios a los ciudadanos. Dado que la IA tiene un gran impacto en la vida de las personas, existe la necesidad de establecer instrumentos que puedan garantizar el uso de la IA de una manera responsable, segura, transparente y ética, respetando los derechos fundamentales.
Estos modelos de cláusulas contractuales tipo para adquirir sistemas de IA representan una oportunidad para que el sector público pueda mejorar los procesos de contratación para futuras adquisiciones de tecnología basada en IA.
Además, pueden ampliar la aplicación de estas cláusulas a otros sistemas algorítmicos que no se definan como sistemas de IA para dotar estos procesos de una mayor responsabilidad y control.
La adopción de la IA en el sector público es un paso crucial hacia un futuro más eficiente y orientado al uso de conjuntos de datos respetando los derechos y libertades de los ciudadanos. Pero, para que esta transformación sea real, es esencial establecer cláusulas contractuales adaptadas caso por caso para cada contexto contractual especifico, junto a medidas para su cumplimiento efectivo en seguimiento continuo de los avances normativos en esta materia.
Los esfuerzos realizados por el sector público, asimismo, pueden servir de inspiración para los procesos de contratación del sector privado, a la vez que obligará a las compañías que ofrezcan este tipo de soluciones a contar con mecanismos para cumplir con estas cláusulas, como garantía de su voluntad por adaptarse a las cláusulas y, en definitiva, para avanzarse a la nueva propuesta europea de Reglamento de Inteligencia Artificial.