Gobernar la inteligencia artificial: de la fascinación tecnológica a la responsabilidad empresarial
Durante los últimos años, la conversación sobre inteligencia artificial ha estado dominada por sus posibilidades: automatización, eficiencia, productividad, personalización y capacidad de análisis se convirtieron en las protagonistas de un debate empresarial marcado por el entusiasmo.
Ese debate entra ahora en una etapa diferente. La pregunta relevante ya no es si las empresas deben utilizar o no inteligencia artificial. La cuestión verdaderamente importante es cómo deben gobernarla.
Este cambio revela una evolución significativa en el grado de madurez de las organizaciones. Hemos pasado de la experimentación al gobierno corporativo, de los proyectos piloto a la implantación y del entusiasmo inicial a la responsabilidad.
Hace un año, las compañías pedían ayuda para identificar casos de uso dentro de la organización. Necesitaban saber dónde podía aportar valor la inteligencia artificial y qué procesos podían automatizarse. Hoy son los consejos de administración los que formulan preguntas de naturaleza muy distinta. ¿Cómo se gestionan los riesgos derivados de la implantación de inteligencia artificial en las organizaciones? ¿Quién responde si un agente de inteligencia artificial toma una decisión equivocada? ¿Cómo se controlan cientos de asistentes desplegados en una misma organización? ¿Cómo deben documentarse las decisiones adoptadas por la inteligencia artificial? ¿Cómo se miden sus riesgos? ¿Cómo se demuestra el cumplimiento normativo en tiempos de inteligencia artificial?
Estas preguntas ponen de manifiesto que la conversación ya no es tecnológica. Es una conversación principalmente de gobernanza. Gobernar la inteligencia artificial significa, ante todo, conservar el control sobre su utilización. Supone saber qué sistemas emplea la organización, con qué finalidad y bajo la responsabilidad de quién. Exige identificar los riesgos, establecer controles, supervisar el funcionamiento de los modelos, gestionar las incidencias y revisar de manera continua las decisiones adoptadas.
También significa evitar que la responsabilidad quede diluida entre los departamentos de tecnología, negocio, cumplimiento normativo, auditoría interna, protección de datos y asesoría jurídica. Cuando una herramienta condiciona decisiones empresariales, deben estar claramente definidos quién autoriza su uso, quién supervisa sus resultados y quién responde cuando algo no funcionó como estaba previsto.
No todos los usos presentan el mismo nivel de riesgo. Una herramienta destinada a agilizar una tarea interna no tiene las mismas implicaciones que un sistema que interviene en decisiones que afectan a clientes, empleados o terceros. Gobernar implica, por tanto, evaluar cada caso de uso y aplicar controles proporcionales a su impacto.
Este es un terreno en el que los abogados tienen mucho que aportar. No en vano, la profesión jurídica lleva décadas ayudando a las organizaciones a gobernar riesgos societarios, regulatorios, de protección de datos o de ciberseguridad. La gobernanza de la inteligencia artificial constituye, sencillamente, el siguiente gran reto.
En este contexto aparece una herramienta especialmente útil: la norma ISO/IEC 42001, cuya misión no es competir con el Reglamento europeo de Inteligencia Artificial sino complementarlo.
El Reglamento europeo de Inteligencia Artificial explica el qué. La ISO 42001 ayuda a entender el cómo hacerlo: cómo asignar responsabilidades, cómo crear controles, cómo supervisar modelos, cómo gestionar incidencias y cómo establecer procesos de mejora continua. En definitiva, permite convertir principios jurídicos en procesos empresariales.
La gobernanza no puede consistir únicamente en aprobar una política interna o redactar una declaración de principios. Debe convertirse en un sistema real de gestión, capaz de operar en el día a día de la compañía y de adaptarse a la evolución de los modelos y de sus usos.
Eso es precisamente lo que demandan las organizaciones. Porque las empresas no necesitan únicamente cumplir. Necesitan demostrar que cumplen. Esta diferencia es esencial. En un entorno regulatorio cada vez más exigente, no basta con afirmar que un sistema se utiliza de forma responsable. Resulta necesario acreditar que se han identificado los riesgos, que existen controles, que los resultados se supervisan y que las incidencias se gestionan adecuadamente. La capacidad de aportar evidencias será tan importante como el propio cumplimiento. Y será, además, una fuente de confianza en el mercado.
La confianza será, probablemente, la verdadera moneda de cambio de la inteligencia artificial. No ganarán necesariamente las compañías que utilicen más IA, sino aquellas capaces de demostrar que la utilizan mejor. Utilizarla mejor significa hacerlo de forma responsable, explicable, auditable y segura.
En un mercado en el que muchas organizaciones tendrán acceso a herramientas similares, el elemento diferencial no estará únicamente en la tecnología empleada. Estará en la forma de integrarla en la organización, en la solidez de los controles y en la capacidad de responder ante clientes, empleados, reguladores y socios comerciales.
Alejandro Touriño, presidente de la sección TIC del ICAM y socio director de Ecija.
Sigue leyendo la noticia en expansión aquí