¿Real o IA? Alonso Hurtado se clona ante los peritos de ASCOM para demostrar que ya no pueden distinguirlo

Durante unos segundos, nadie en el Salón de Actos de la Asociación de la Prensa de Madrid dudó de que el Alonso Hurtado que aparecía en pantalla era real. Daba las gracias a los organizadores, se dirigía a los auditores e investigadores presentes y anunciaba que iba a hablar de cómo la inteligencia artificial está cambiando las reglas del juego. Pero el verdadero Alonso estaba en ese momento sentándose en la mesa. «Es de mentira», fueron sus primeras palabras.

Con ese golpe de efecto arrancó la ponencia «IA, deepfakes y evidencia digital como nuevos retos para la labor del experto independiente», que cerró la Jornada de Actualidad sobre peritaje del Registro de Expertos Peritos en Compliance de ASCOM. La sesión estuvo presentada y moderada por Elena Ballesteros Tejado, quien reconoció que durante unos segundos todos se lo habían creído.

Diez minutos y una grabación de un minuto

Alonso explicó cómo lo había hecho. La noche anterior se grabó durante apenas un minuto, en camiseta y pantalón corto, delante de su portátil. Con una herramienta comercial de suscripción mensual muy asequible, en unos diez minutos tenía listo a su doble.

No ocultó los defectos: los gestos de las manos eran forzados, la voz mejorable y el cuello hacía un movimiento poco natural por un renderizado apresurado. Con más tiempo, el resultado habría sido «mucho más perfecto». Pero la lección era otra: «Eso está al alcance de cualquiera. No es ciencia avanzada».

La tecnología, subrayó, tampoco es mala en sí misma. En ECIJA la utilizamos con clientes para crear vídeos formativos corporativos protagonizados por avatares, que pueden traducirse a otro idioma con un solo clic.

Cuánto cuesta engañar

El salto a una falsificación sofisticada es, según Alonso, una cuestión de dinero: se invierte en función de lo que haya en juego y, con recursos suficientes, el resultado puede ser prácticamente indetectable. Recordó el caso de Arup, la multinacional de ingeniería que perdió unos 25 millones de dólares en Hong Kong tras una videollamada en la que se suplantó a su director financiero.

También describió un escenario verosímil: un atacante que ya ha accedido a los sistemas de una gran empresa da de alta un usuario ficticio y coloca en él un avatar gobernado por IA generativa, capaz de conversar con naturalidad en una reunión rutinaria. Es en esos entornos de confianza donde más bajamos la guardia.

Sobre su llegada a los tribunales fue prudente. Reconoció que, a día de hoy, no conoce ningún caso real de evidencia manipulada de este tipo en un peritaje, aunque no descarta que aparezca pronto. Y el riesgo va más allá del vídeo: también afecta a audios, firmas, documentos y fotografías. La imagen estática, precisó, es «muchísimo más sencilla» de falsificar.

Máquinas contra máquinas

Para explicar cómo detectar estas manipulaciones, Alonso recurrió a Alan Turing y a la ruptura del cifrado Enigma: contra una máquina hacen falta máquinas. Aplicado al presente, una IA solo se descubre con otra entrenada específicamente para ello, no con una herramienta genérica.

Advirtió también del riesgo de los falsos positivos con una anécdota propia. Pasó por un detector de textos generados con IA un documento profesional escrito por él, y la herramienta lo identificó como artificial. «El motivo era que el documento estaba muy ordenado, numerado y lleno de conectores, rasgos habituales del lenguaje jurídico», explicó.

Por eso, a su juicio, el experto independiente «necesita saber que estas herramientas existen, debe saber utilizarlas y, sobre todo, saber explicarlas a quien tiene que decidir».

Dudar por sistema

La moderadora planteó la cuestión central: si hasta hace poco una imagen o un correo generaban confianza, hoy un audio o un vídeo han dejado de ser una prueba evidente. ¿Qué debe hacer un perito cuando una empresa solo aporta un vídeo?

La respuesta fue tajante: ponerlo todo en duda. Alonso contó que este verano estuvo a punto de caer en un intento de fraude, en un momento de relajación, y que lo desactivó verificando por un canal independiente. El segundo paso es conocer las herramientas disponibles en el mercado, hoy a precios que considera subvencionados. Como ejemplo, citó el caso de una entidad financiera supervisada por el Banco de España en la que un análisis masivo con IA coincidió al cien por cien con las operaciones que la propia entidad ya había identificado.

«Me lo ha dicho la IA» no basta

Un perito tiene que defender su informe ante un juzgado, con otro perito enfrente. Alonso recordó que la normativa europea impone obligaciones de explicabilidad y transparencia, y que los sistemas permiten pedir el razonamiento paso a paso y dejan registro de lo consultado. La fórmula correcta sería: «Yo sí utilicé inteligencia artificial, pero el proceso lógico que seguí para llegar a esta conclusión es este». El profesional tiene que entenderlo y hacerlo suyo.

Recomendó además someter cada informe a la IA y pedirle que actúe como abogado de la parte contraria, atacando el propio escrito. «Nunca os quedéis con lo primero que os dice un sistema de inteligencia artificial», advirtió. Estos sistemas tienden a ser «vagos y complacientes», por lo que las conclusiones clave deben contrastarse siempre con la evidencia original. El profesional no será sustituido, pero sí se convierte en un cuello de botella frente a la velocidad de la máquina.

Qué se puede subir a la IA

Sobre la información que puede introducirse en estos sistemas, Alonso señaló lo que hay que proteger: el secreto empresarial, los datos personales y la propiedad intelectual e industrial. Aconsejó distinguir entre el procesamiento local y el que se realiza en la nube, y advirtió de que, en Estados Unidos, las conversaciones alojadas en servidores pueden ser requeridas por las autoridades. La clave, explicó, está en la no retención: «Si no retienen, no pueden entrenar».

Más allá del peritaje

La advertencia se extiende a las redes sociales, donde los vídeos y audios falsos pueden generar tendencias con consecuencias graves, desde manifestaciones hasta la desestabilización de procesos electorales. Alonso contó que Instagram etiquetó automáticamente como editada con IA una foto de vacaciones que él había retocado. Las plataformas, subrayó, no lo hacen por voluntad propia, sino porque la normativa europea las obliga a identificar de forma proactiva el contenido manipulado o generado por IA.

Cerró con una idea que resume la jornada: «La IA es el correo electrónico de hace 25 años». Ha llegado para quedarse, y el viejo «ver para creer» ya no sirve.

Puedes leer la crónica completa en Confilegal, Derecho Práctico y Hay Canal.