Alerta Informativa: Cláusulas estándar para la contratación de inteligencia artificial por las administraciones públicas
6 noviembre 2023En la misma semana en la que se celebraba en Londres una cumbre internacional sobre Inteligencia Artificial (IA) que culminaba con la Declaración de Bletchley (en la que España estaba representada), la Comisión Europea ha actualizado el set de cláusulas estándar publicado que deberán ser utilizados por los organismos públicos cuando adquieran sistemas que integren elementos de inteligencia artificial desarrollados por proveedores externos.
La base de este clausulado se encuentra en el proyecto de Reglamento de Inteligencia Artificial de la Unión Europea aún en fase de negociación. Sin embargo, estas cláusulas se proponen ya ante la demora en la actuación legislativa.
Por ello, la Comisión hace hincapié en que se trata cláusulas estándar cuya aplicación es voluntaria para los organismos públicos en tanto no se apruebe el Reglamento de IA y, a fin de que los sistemas de IA puedan mejorar en fiabilidad, anima a que comiencen a aplicarse no sólo en los casos de adquisición de sistemas de IA por las administraciones públicas, sino también en los casos de adquisición de otros «otros sistemas algorítmicos que no se consideren necesariamente inteligencia artificial», pues su uso en el sector público también puede requerir en determinados casos una mayor nivel de rendición de cuentas, control y transparencia.
La Comisión propone dos tipos de clausulado estándar aplicables en función del tipo de sistema de IA que el organismo público se encuentre contratando. Uno para sistemas de IA clasificados como «de alto riesgo» en el sentido del artículo 6 y anexos II y III de la propuesta de Reglamento de Inteligencia Artificial; y otro para los sistemas que no sean de alto riesgo.
Debe tenerse en cuenta que estas cláusulas estándar solo contienen disposiciones específicas para el cumplimiento de las obligaciones establecidas en el propio Reglamento IA. Por ello, las mismas deberán implementarse junto con cualesquiera otros términos contractuales necesarios para formalizar los contratos para la adquisición de IA por los organismos públicos. Deberán igualmente regularse en dichos contratos cualesquiera otras obligaciones o requisitos que deban ser aplicables en materia de protección de datos Reglamento General de Protección de Datos, en materia de propiedad intelectual, o cualquier otra particularidad que afecte a dicha contratación, como la aceptación, el pago, los plazos de entrega, la ley aplicable o la responsabilidad. En definitiva, las cláusulas contractuales tipo de IA han sido redactadas por la Comisión Europea de tal manera que pueden adjuntarse como anexo a un acuerdo en el que ya se hayan establecido dichas cuestiones.
Es importante destacar que, en virtud de dicho clausulado estándar de IA, las administraciones públicas se verán obligadas a requerir a los proveedores de los sistemas de IA, entre otras cuestiones, una evaluación de riesgos sobre el sistema de IA objeto de contratación. Esta evaluación de riesgos deberá contener como mínimo los siguientes aspectos:
- identificación y análisis de los riesgos conocidos y previsibles para la salud, la seguridad y los derechos fundamentales de la Unión Europea que probablemente surjan a la luz del propósito previsto del sistema de IA y el uso indebido razonablemente previsible;
- estimación y evaluación de los riesgos que pueden surgir cuando el sistema de IA se utiliza de acuerdo con su propósito previsto y en condiciones de uso indebido razonablemente previsible;
- evaluación de otros riesgos que puedan surgir;
- adopción de medidas adecuadas de gestión de riesgos
Área de TMT y Público y Regulatorio de ECIJA
Telf: + 34 91.781.61.60
