Inteligencia Artificial: el Gobierno publica la propuesta de sandbox
31 de mayo de 2023- Introducción: un entorno controlado de pruebas para una tecnología de alto impacto
El proyecto de Real Decreto reconoce la importancia de la IA y otras tecnologías digitales en la sociedad actual y, asume que estas tecnologías tienen el potencial de transformar todos los aspectos de la vida, desde la economía hasta la salud, pasando por la educación. Sin embargo, también expresa los desafíos que plantea, especialmente en términos de protección de datos, seguridad y ética.
Así, el objetivo del Sandbox de IA es proporcionar un entorno seguro y controlado en el que las empresas puedan experimentar con nuevas tecnologías y modelos de negocio. Este mecanismo permitirá a las empresas probar sus innovaciones sin el riesgo de infringir la normativa aplicable o la futura regulación del Reglamento de IA de la Unión Europea. Al mismo tiempo, el Sandbox de IA proporcionará a los reguladores una valiosa visión de las implicaciones prácticas de estas tecnologías, lo que les permitirá desarrollar regulaciones más efectivas y basadas en la evidencia.
Asimismo, destaca la importancia de la colaboración entre el sector público y el privado en el desarrollo de la IA. Se reconoce que el éxito de la IA depende de la capacidad de las empresas para innovar y adaptarse, pero también de la capacidad de los reguladores para entender y gestionar los riesgos asociados con estas tecnologías. Por lo tanto, el Sandbox de IA está diseñado para facilitar esta colaboración, proporcionando un espacio en el que las empresas y los reguladores pueden trabajar juntos para avanzar en el desarrollo de la IA. Lo que redundará en un marco jurídico que otorgue seguridad a todos los participantes y ayude a desarrollar este sector y el uso de la IA en la sociedad.
En resumen, el proyecto de Real Decreto busca equilibrar la necesidad de innovación con la protección de los derechos y la seguridad de los ciudadanos. A través del Sandbox de IA, España aspira posicionase como un líder en el desarrollo y la regulación de la IA, demostrando su compromiso con la innovación y la protección de los derechos de los ciudadanos en la era digital.
- Objeto y ámbito de aplicación
- Definiciones
- Entorno controlado de pruebas (sandbox): entorno seguro y regulado en el que las empresas pueden probar nuevas tecnologías y servicios financieros innovadores sin la obligación de cumplir con todas las regulaciones financieras existentes. Este entorno permite a las empresas experimentar y aprender de los errores sin el riesgo de sanciones regulatorias.
- Inteligencia Artificial (IA): rama de la informática que se centra en la creación de sistemas capaces de realizar tareas que normalmente requieren inteligencia humana. Estas tareas pueden incluir el aprendizaje, el razonamiento, la percepción, el reconocimiento de voz, la planificación y la toma de decisiones.
- Sistema de Inteligencia Artificial de alto riesgo: sistema de IA que cumple con uno de los siguientes criterios:
- Es un producto regulado por la legislación de armonización de la Unión y debe someterse a una evaluación de conformidad por un tercero antes de ser introducido en el mercado o puesto en servicio.
- Se utiliza como un componente de seguridad de un producto regulado por una norma armonizada de la Unión Europea y también requiere una evaluación de conformidad por un tercero.
- Está mencionado en el Anexo I del Real Decreto, y su respuesta es relevante para la acción o decisión a tomar, pudiendo provocar un riesgo significativo para la salud, la seguridad o los derechos fundamentales.
- Sistema de inteligencia artificial de propósito general: sistema de IA destinado a realizar funciones de aplicación general, como el reconocimiento de texto, imágenes y del habla; generación de contenido; detección de patrones; respuesta a preguntas; traducción y otros. Incluye modelos fundacionales y sistemas de IA generativa. Estos sistemas pueden utilizarse en múltiples contextos y tienen el potencial de transformarse en sistemas de IA de alto riesgo.
- Proveedor de Inteligencia Artificial (Proveedor IA): Es cualquier persona jurídica privada, Administración Pública, entidad del sector público en España, u organismo de otra índole, que ha desarrollado o ha encargado a un tercero el desarrollo de un sistema de IA que introduce en el mercado o pone en servicio bajo su propio nombre o marca comercial.
- Principios generales
En segundo lugar, se establece el principio de proporcionalidad. Este principio garantiza que las medidas regulatorias adoptadas en el marco del sandbox serán proporcionales a los riesgos que plantean las tecnologías de IA que se están probando. Esto significa que las medidas de supervisión y control serán más estrictas para las tecnologías de IA que presenten mayores riesgos, y menos estrictas para aquellas que presenten menores riesgos.
Por último, se establece el principio de integridad: todas las actividades llevadas a cabo en el marco del sandbox deben realizarse con integridad y ética. Esto significa que se deben respetar los derechos y libertades de los individuos.
Estos principios generales son fundamentales para garantizar que el sandbox sea un entorno de pruebas seguro, equitativo y beneficioso para el desarrollo de la IA y sus tecnologías habilitadoras en el sector financiero.
- Procedimiento de admisión
En las convocatorias, aprobadas por la Secretaría de Estado de Digitalización e Inteligencia Artificial, se especificarán las condiciones particulares de acceso al respectivo sandbox.
Asimismo, se dispone que el acceso al sandbox es un procedimiento administrativo de selección con número de plazas limitadas.
Por otro lado, se especifica que las solicitudes deberán ir acompañadas de: una memoria técnica que deberá contemplar el contenido previsto en el Anexo II; una declaración responsable que acredite el cumplimiento de la normativa relativa a la Protección de Datos Personales; y de aquella documentación que se estableciera en la convocatoria correspondiente.
- Derechos y obligaciones de los participantes
- Protección de datos personales: Los participantes deben cumplir con las regulaciones de protección de datos, incluyendo el Reglamento (UE) 2016/679 y la Ley Orgánica 3/2018. Todos los datos personales tratados en el entorno deben estar protegidos.
- Responsabilidad de los participantes: Los participantes son responsables de cualquier daño causado por la aplicación del sistema de IA, siempre que el daño resulte de su incumplimiento, culpa, negligencia o dolo.
- Garantías de confidencialidad: Se garantiza la confidencialidad de la información proporcionada por los participantes, incluyendo secretos comerciales y derechos de propiedad intelectual. La información recopilada puede ser utilizada para elaborar guías de buenas prácticas y documentación de conclusiones, siempre que se garantice la anonimización y el respeto a los intereses comerciales de los participantes.
- Modificaciones estructurales: Si se producen cambios sustanciales en el sistema de IA durante la ejecución del entorno de pruebas, estos deben ser comunicados al órgano competente.
- Obligaciones de cumplimiento de la legislación sectorial: La participación en el entorno de pruebas no exime a los sistemas de IA de la obligación de superar la evaluación de conformidad de acuerdo con la legislación específica una vez que sean puestos en el mercado.
- Contraprestación económica: Los participantes en el entorno de pruebas no recibirán ninguna contraprestación económica.
Reciba un cordial un saludo,
Área de TMT de ECIJA
Telf: + 34 91.781.61.60
[1] https://portal.mineco.gob.es/RecursosArticulo/mineco/ministerio/participacion_publica/audiencia/ficheros/Proyecto_RD_Sandbox_IA-1.pdf
