Real ou IA? Alonso Hurtado é clonado perante os especialistas da ASCOM para demonstrar que estes já não conseguem distingui-lo

Durante alguns segundos, ninguém no auditório da Associação de Imprensa de Madrid duvidou de que o Alonso Hurtado que aparecia no ecrã fosse o verdadeiro. Ele estava a agradecer aos organizadores, a dirigir-se aos ouvintes e aos investigadores presentes e a anunciar que iria falar sobre a forma como a inteligência artificial está a mudar as regras do jogo. Mas o verdadeiro Alonso, naquele preciso momento, estava sentado à mesa. «É uma falsificação», foram as suas primeiras palavras.

Com esta abertura dramática, deu início à sua apresentação, «IA, deepfakes e provas digitais como novos desafios para os peritos independentes», que encerrou a Conferência sobre Questões Atuais da ASCOM relativa ao Registo de Peritos em Conformidade Regulamentar. A sessão foi apresentada e moderada por Elena Ballesteros Tejado, que admitiu que, durante alguns segundos, todos tinham acreditado que era verdade.

Dez minutos e uma gravação de um minuto

Alonso explicou como o fez. Na noite anterior, tinha-se gravado durante pouco mais de um minuto, vestindo uma t-shirt e calções, em frente ao seu computador portátil. Utilizando uma ferramenta comercial muito acessível, com uma subscrição mensal, criou o seu sósia em cerca de dez minutos.

Não escondeu as falhas: os gestos com as mãos eram rígidos, a voz poderia ter sido melhor e o pescoço movia-se de forma pouco natural devido a uma renderização excessivamente rápida. Com mais tempo, o resultado teria sido «muito mais perfeito». Mas a lição era outra: «Qualquer pessoa consegue fazer isto. Não é assim tão difícil.»

A tecnologia, sublinhou ele, não é má em si mesma. Na ECIJA, utilizamo-la com os clientes para criar vídeos de formação empresarial com avatares que podem ser traduzidos para outra língua com um único clique.

Quanto custa enganar?

O salto para a falsificação sofisticada é, segundo Alonso, uma questão de dinheiro: o investimento depende do que está em jogo e, com recursos suficientes, o resultado pode ser praticamente indetetável. Recordou o caso da Arup, a multinacional de engenharia que perdeu cerca de 25 milhões de dólares em Hong Kong devido a uma videochamada em que o seu diretor financeiro foi suplantado.

Descreveu ainda um cenário plausível: um atacante que já tenha acedido aos sistemas de uma grande empresa cria uma conta de utilizador fictícia e atribui-lhe um avatar controlado por IA generativa, capaz de conversar naturalmente durante uma reunião de rotina. É nestes ambientes de confiança que baixamos mais a guarda.

Mostrou-se cauteloso ao discutir as possíveis repercussões do tema em tribunal. Reconheceu que, até ao momento, não tem conhecimento de nenhum caso real em que este tipo de prova tenha sido manipulado num relatório pericial, embora não descarte a possibilidade de que tal venha a ocorrer em breve. E o risco vai além do vídeo: afeta também gravações de áudio, assinaturas, documentos e fotografias. Uma imagem estática, observou ele, é «muito, muito mais fácil» de falsificar.

Máquinas contra máquinas

Para explicar como detetar este tipo de manipulação, Alonso referiu-se a Alan Turing e à decifração do código Enigma: para vencer uma máquina, são necessárias máquinas. Aplicado aos nossos dias, a IA só pode ser detetada com outra IA especificamente treinada para esse fim, e não com uma ferramenta genérica.

Alertou ainda para o risco de falsos positivos, citando uma anedota pessoal. Submeteu um documento profissional que tinha redigido a um detetor de texto gerado por IA, e a ferramenta identificou-o como artificial. «A razão foi que o documento estava muito bem organizado, numerado e repleto de conectores — características comuns da linguagem jurídica», explicou.

Por esta razão, na sua opinião, o perito independente «deve estar ciente de que estas ferramentas existem, deve saber como utilizá-las e, acima de tudo, deve saber como as explicar aos decisores».

Ceticismo sistemático

O moderador levantou a questão central: enquanto até recentemente uma imagem ou um e-mail inspiravam confiança, hoje em dia uma gravação de áudio ou um vídeo já não são considerados provas conclusivas. O que deve um perito fazer quando uma empresa apenas fornece um vídeo?

A resposta foi inequívoca: questionar tudo. Alonso explicou que, neste verão, esteve prestes a ser vítima de uma tentativa de fraude num momento de descuido e que ficou frustrado por ter de verificar a informação através de um canal independente. O segundo passo consiste em familiarizar-se com as ferramentas disponíveis no mercado, cujos preços considera agora acessíveis. Como exemplo, citou o caso de uma entidade financeira supervisionada pelo Banco de Espanha, em que uma análise em grande escala com IA coincidiu a cem por cento com as transações que a própria entidade já tinha identificado.

«A IA disse que sim» não é suficiente

Um perito deve defender o seu relatório em tribunal, perante outro perito. Alonso salientou que a regulamentação europeia impõe obrigações em matéria de explicabilidade e transparência, e que os sistemas permitem uma descrição passo a passo do raciocínio e mantêm um registo das consultas efetuadas. A abordagem correta seria: «Utilizei inteligência artificial, mas este é o processo lógico que segui para chegar a esta conclusão.» O profissional deve compreendê-lo e torná-lo seu.

Recomendou ainda que cada relatório fosse submetido à IA e que se pedisse a esta que atuasse como advogado da parte contrária, questionando o próprio relatório. «Nunca se contente com a primeira coisa que um sistema de inteligência artificial lhe disser», advertiu. Estes sistemas tendem a ser «vagos e complacentes», razão pela qual as conclusões fundamentais devem ser sempre contrastadas com as provas originais. O profissional não será substituído, mas torna-se um estrangulamento quando comparado com a velocidade da máquina.

O que pode ser introduzido na IA

No que diz respeito à informação que pode ser introduzida nestes sistemas, Alonso destacou o que necessita de proteção: segredos comerciais, dados pessoais e propriedade intelectual e industrial. Aconselhou a distinguir entre o processamento local e o processamento na nuvem e alertou que, nos Estados Unidos, as autoridades podem solicitar o acesso a conversas armazenadas em servidores. A chave, explicou ele, reside na não retenção: «Se não reterem dados, não podem treinar o modelo.»

Para além do testemunho de peritos

O aviso estende-se às redes sociais, onde vídeos e áudios falsos podem desencadear tendências com consequências graves, que vão desde protestos até à desestabilização de processos eleitorais. Alonso explicou que o Instagram marcou automaticamente uma fotografia de férias que ele tinha editado como «editada com IA». As plataformas, sublinhou ele, não o fazem por vontade própria, mas porque a regulamentação europeia exige que identifiquem proativamente conteúdos manipulados ou gerados por IA.

Concluiu com uma reflexão que resumiu o dia: «A IA é o que o e-mail era há 25 anos.» Veio para ficar, e o velho ditado «ver para crer» já não se aplica.

Pode ler o relatório completo no Confilegal.