Real o IA? Alonso Hurtado es clona davant dels experts d'ASCOM per demostrar que ja no el poden distingir

Durant uns segons, ningú a l'auditori de l'Associació de Premsa de Madrid no va dubtar que l'Alonso Hurtado que apareixia a la pantalla fos el de debò. Estava agraint als organitzadors, adreçant-se als auditors i investigadors presents, i anunciant que parlaria de com la intel·ligència artificial està canviant les regles del joc. Però el veritable Alonso, en aquell mateix moment, s'asseia a la taula. "És un fals", van ser les seves primeres paraules.

Amb aquesta obertura dramàtica, va començar la seva presentació, «IA, deepfakes i proves digitals com a nous reptes per a la tasca de l'expert independent», que va posar fi a la Conferència de Qüestions Actuals de l'ASCOM Registre d'Experts en Compliment Normatiu. La sessió va ser presentada i moderada per Elena Ballesteros Tejado, que va admetre que durant uns segons tothom s'ho havia cregut de debò.

Deu minuts i una gravació d'un minut

Alonso va explicar com ho havia fet. La nit anterior, s'havia gravat durant poc més d'un minut, amb una samarreta i uns pantalons curts, davant del seu ordinador portàtil. Fent servir una eina comercial molt assequible amb subscripció mensual, havia creat el seu doble en uns deu minuts.

No va amagar els defectes: els gestos de les mans eren rígids, la veu podria haver estat millor i el coll es movia de manera antinatural a causa d'un renderitzat massa ràpid. Amb més temps, el resultat hauria estat «molt més perfecte». Però la lliçó era una altra: «Qualsevol pot fer això. No és tan difícil».

La tecnologia, va emfatitzar, tampoc no és dolenta per si mateixa. A ECIJA la fem servir amb els clients per crear vídeos de formació corporativa amb avatars, que es poden traduir a una altra llengua amb un sol clic.

Quant costa enganyar?

El salt a la falsificació sofisticada és, segons Alonso, una qüestió de diners: la inversió depèn del que hi ha en joc i, amb recursos suficients, el resultat pot ser pràcticament indetectable. Va recordar el cas d'Arup, la multinacional d'enginyeria que va perdre uns 25 milions de dòlars a Hong Kong arran d'una videotrucada en la qual van suplantar el seu director financer.

També va descriure un escenari plausible: un atacant que ja ha accedit als sistemes d'una gran empresa crea un compte d'usuari fictici i li assigna un avatar impulsat per IA generativa, capaç de conversar de manera natural durant una reunió rutinària. És en aquests entorns de confiança on baixem la guàrdia més.

Va ser prudent a l'hora de parlar de la possible repercussió del tema als tribunals. Va reconèixer que, fins ara, no coneix cap cas real en què s'hagi manipulat aquest tipus de prova en un informe pericial, tot i que no descarta que n'aparegui aviat un. I el risc va més enllà del vídeo: també afecta les gravacions d'àudio, les signatures, els documents i les fotografies. Una imatge fixa, va assenyalar, és 'molt, molt més fàcil' de falsificar.

Màquines contra màquines

Per explicar com detectar aquest tipus de manipulació, Alonso va recórrer a Alan Turing i al descifratge del codi Enigma: per vèncer una màquina, calen màquines. Aplicat als nostres dies, la IA només es pot detectar amb una altra IA entrenada específicament per a aquest propòsit, no pas amb una eina genèrica.

També va advertir del risc de falsos positius, citant una anècdota personal. Va passar un document professional que havia escrit per un detector de text generat per IA, i la eina el va identificar com a artificial. «La raó era que el document estava molt ben organitzat, numerat i ple de connectors – característiques comunes del llenguatge jurídic», va explicar.

Per aquest motiu, al seu parer, l'expert independent «ha de ser conscient que aquestes eines existeixen, ha de saber com utilitzar-les i, sobretot, saber explicar-les a qui pren la decisió».

Escepticisme sistemàtic

El moderador va plantejar la qüestió central: mentre que fins fa poc una imatge o un correu electrònic inspiraven confiança, avui dia una gravació d'àudio o un vídeo ja no es consideren proves concloents. Què ha de fer un perit quan una empresa només proporciona un vídeo?

La resposta va ser inequívoca: qüestionar-ho tot. Alonso va explicar que aquest estiu gairebé va ser víctima d'un intent de frau, en un moment de autocomplaença, i que el va frustrar verificant la informació a través d'un canal independent. El segon pas és familiaritzar-se amb les eines disponibles al mercat, que ara tenen preus que ell considera subvencionats. Com a exemple, va citar el cas d'una entitat financera supervisada pel Banc d'Espanya, on una anàlisi d'IA a gran escala va coincidir al cent per cent amb les transaccions que la mateixa entitat ja havia identificat.

«Ho ha dit la IA» no n'hi ha prou

Un perit ha de defensar el seu informe davant d'un tribunal, enfrontant-se a un altre perit. Alonso va assenyalar que la normativa europea imposa obligacions pel que fa a l'explicabilitat i la transparència, i que els sistemes permeten un desglossament pas a pas del raonament i conserven un registre de les consultes que s'han fet. L'enfocament correcte seria: «He utilitzat intel·ligència artificial, però aquest és el procés lògic que he seguit per arribar a aquesta conclusió». El professional l'ha d'entendre i fer-se'l seu.

També va recomanar passar cada informe per la IA i demanar-li que actuï com a advocat de la part contrària, qüestionant l'informe mateix. «No us conformeu mai amb la primera cosa que us diu un sistema d'intel·ligència artificial», va advertir. Aquests sistemes tendeixen a ser «vagues i complaents», per la qual cosa les conclusions clau sempre s'han de contrastar amb les proves originals. El professional no serà substituït, però es converteix en un coll d'ampolla en comparació amb la velocitat de la màquina.

Què es pot introduir a la IA

Pel que fa a la informació que es pot introduir en aquests sistemes, Alonso va destacar allò que cal protegir: els secrets comercials, les dades personals i la propietat intel·lectual i industrial. Va aconsellar distingir entre el processament local i el basat en el núvol, i va advertir que, als Estats Units, les autoritats poden sol·licitar les converses allotjades en servidors. La clau, va explicar, rau en la no retenció: «Si no retenen dades, no poden entrenar el model».

Més enllà del testimoni d'expert

L'advertiment s'estén a les xarxes socials, on vídeos i àudios falsos poden desencadenar tendències amb conseqüències greus, que van des de protestes fins a la desestabilització dels processos electorals. Alonso va explicar que Instagram va etiquetar automàticament una foto de vacances que havia editat com a «editat amb IA». Les plataformes, va emfatitzar, no ho fan per voluntat pròpia, sinó perquè la normativa europea les obliga a identificar de manera proactiva el contingut manipulat o generat per IA.

Va concloure amb una reflexió que resumia la jornada: «La IA és el que era el correu electrònic fa 25 anys». Ha vingut per quedar-se, i el vell adagi «veure per creure» ja no s'aplica.

Podeu llegir l'informe complet a Confilegal.