¿Deben ponerse límites a la inteligencia artificial?

INDICE:

1. Responsable de la Inteligencia Artificial (IA).
2. Geolocalización.
3. Reconocimiento facial.
4. Seguridad y privacidad.
5. Conclusión.
6. Responsable de la Inteligencia Artificial (IA)

Según la comunicación de la Comisión Europea sobre Inteligencia Artificial para Europa de 25 de abril de 2018: “El término «inteligencia artificial» (IA) se aplica a los sistemas que manifiestan un comportamiento inteligente, pues son capaces de analizar su entorno y pasar a la acción –con cierto grado de autonomía– con el fin de alcanzar objetivos específicos.” Pero una IA no surge de la nada, sino que requiere un programador original. Entonces, ¿quién es el responsable de la IA: (i) el ser humano que la diseñó –ex arts. 322 y 1105, a sensu contrario, del Código Civil–, (ii) quienes contribuyen a su “deep learning” (aprendizaje imitando el funcionamiento neuronal humano) –ex art. 1902 del Código Civil–, o (iii) la propia IA, considerada como “e-personality”, según aventura el art. 59-f de la resolución del parlamento europeo de 16 de febrero de 2017, con recomendaciones destinadas a la comisión sobre normas de derecho civil sobre robótica.

Y la cuestión no es baladí, porque ya se han producido casos en los que se ha perdido el control de la IA. En efecto, en 2016 los ingenieros de Google detectaron que su sistema de IA había creado un lenguaje propio con la red neuronal de traducción, sin que hubiera sido programado para ello ni hubiera reportado a ningún humano, de forma que era capaz de abstraer conceptos de un idioma que conocía (inglés) que le permitía traducir entre dos idiomas que nunca había traducido entre sí, sin necesidad de traducirlo previamente al inglés. Asimismo, en 2017 Facebook tuvo que desactivar su IA usada para los chatbots, debido a que había creado un idioma con su propio sistema de cifrado, que era comprensible para estos chatbots, pero ininteligible para las personas, lo que le convertía en potencialmente peligroso, al no poder saber lo que se comunicaban entre sí.

Y la trascendencia de esto es capital, pues grandes empresas tecnológicas como Google, Facebook, Amazon, PayPal, Tesla o Microsoft invierten en proyectos encaminados a lograr que la IA adquiera una suerte de sentido común, usando la lógica y la conexión de conceptos abstractos, emulando la capacidad de pensar de los seres humanos. Conscientes del riesgo que puede conllevar esto, paralelamente, se están trazando sistemas de vigilancia e intervención para evitar que una IA pueda llegar a ser ingobernable.

En esta línea, Google anunció en abril de 2019 la implantación de un “botón de emergencia” que permitiera desactivar instantáneamente su sistema de IA cuando pudiera ser considerado una amenaza, y evitar así casos como el que ocurrió con “Tay”, el bot de Microsoft que hacía comentarios racistas y sexistas en Twitter en 2016, o los sistemas de selección de personal de Facebook y Amazon, que debieron ser desactivados en 2018 debido a que discriminaban a las mujeres.

Sigue leyendo.