Vozes em legítima defesa: a batalha legal contra a clonagem de IA

Com o aparecimento do grande protagonista desta década, a Inteligência Artificial, surgiram inúmeras preocupações no sector audiovisual. Em particular, o aparecimento de ferramentas capazes de replicar as vozes humanas tem gerado uma série de riscos para os profissionais criativos e intérpretes, como a clonagem das suas vozes, a perda de controlo sobre a identidade vocal ou possíveis imitações de identidade, entre outros. Em última análise, ao alimentar os sistemas de IA com gravações reais, é possível gerar diálogos e narrativas com as vozes de pessoas que não as interpretaram originalmente, o que levanta sérias implicações éticas e jurídicas.

Perante esta situação, a PASAVE - Plataforma de Associações e Sindicatos de Artistas da Voz em Espanha - mobilizou-se no ano passado para promover a inclusão de limitações contratuais à utilização da IA com as vozes dos actores. O seu principal objetivo era evitar que as grandes distribuidoras pudessem utilizar a voz de um ator ou atriz de dobragem num projeto e depois replicá-la noutros projectos sem a sua participação direta. Por outras palavras, impedir que as produções audiovisuais que incluem a sua voz clonada sejam exibidas e exploradas sem consentimento ou compensação.

Em resposta, foi levada a cabo uma ação coordenada por todos os sindicatos e organizações de dobragem em Espanha nas negociações das suas condições contratuais. Tradicionalmente, tal como acontece com outros profissionais criativos, a regra geral tem sido a transferência absoluta e ilimitada de direitos a favor do produtor, para que este ou o terceiro financiador do projeto possa rentabilizar o investimento económico realizado por todos os meios possíveis. Em contrapartida, os intérpretes ficaram sem controlo sobre as utilizações posteriores do resultado do seu trabalho.

Este processo culminou com a elaboração de uma cláusula de exclusão de direitos, aceite por vários actores-chave do sector. Esta cláusula estabelece o seguinte:

"Não é permitida nem cedida a utilização da voz, modulação, tom, gestos e elementos análogos do locutor ou do ator/atriz de dobragem, para serem utilizados em treino, simulação ou quaisquer acções similares em programas ou projectos de inteligência artificial (IA), robótica, jogos de vídeo ou qualquer metodologia que transforme a interpretação original, para fins diferentes dos detalhados no presente contrato, que consiste em dar voz e interpretar uma ou mais personagens numa produção específica."

Em resumo, esta cláusula garante que a voz gravada do ator ou da atriz para um projeto não pode ser replicada através de IA para outros fins que não a interpretação de uma personagem específica nessa produção. Por outro lado, parece deixar em aberto a possibilidade de utilizar ferramentas de IA para este fim, desde que seja no âmbito do mesmo projeto e para a mesma personagem.

Como resultado deste novo cenário, vários distribuidores aceitaram incorporar a cláusula "PASAVE" ou limitações contratuais semelhantes que restringem a utilização de vozes através de inteligência artificial para fins diferentes dos acordados, e que exigem a obtenção do consentimento necessário para efetuar determinadas utilizações. Entre as empresas que adoptaram estas cláusulas encontram-se a Movistar, a Sony Pictures Entertainment, a Netflix, a AMC Networks e a RTVE.

Juntamente com estas limitações contratuais, é necessário ter em conta a regulamentação atual.

O Regulamento (UE) 2024/1689, conhecido como o Regulamento da Inteligência Artificial ou Lei da IA, classifica os sistemas em níveis de risco inaceitáveis (proibidos), elevados (sujeitos a requisitos rigorosos), limitados (sujeitos a obrigações de transparência) e mínimos ou nenhuns (não regulamentados), estabelecendo controlos mais rigorosos sobre os sistemas que apresentam maiores riscos para os direitos fundamentais, a saúde e a segurança dos cidadãos.

No caso de deepfakes ou ultrasubstituições - como acontece quando a voz se replica de forma convincente para interpretar textos não pronunciados por uma pessoa através da sua voz noutras interpretações -, estas enquadram-se na categoria de risco limitado e, por conseguinte, estão sujeitas a obrigações de transparência. Assim, o regulamento exige que seja incluído um aviso claro indicando que se trata de conteúdos gerados ou manipulados por IA. No entanto, o próprio regulamento isenta esta obrigação quando o conteúdo faz parte de uma obra manifestamente criativa, satírica, artística, ficcional ou similar, como é o caso dos filmes e das séries audiovisuais. Nestes casos, basta informar adequadamente sobre a existência de conteúdos gerados artificialmente, sem interferir com a exibição ou a fruição da obra.

É claro que esta exceção não implica que se possa fazer um deepfake de qualquer pessoa em projectos audiovisuais sem restrições, mesmo que haja um aviso adequado sobre a utilização de IA. Este novo regulamento deve ser analisado em conjunto com a Lei Orgânica 1/1982, de 5 de maio, sobre a proteção civil do direito à honra, à intimidade pessoal e familiar e à própria imagem. Embora este regulamento tenha sido promulgado há décadas, continua a ser o quadro jurídico fundamental para regular a utilização da imagem e da voz das pessoas e exige o consentimento expresso da pessoa afetada para qualquer utilização da sua imagem e voz, mesmo quando utilizada em ambientes artísticos ou tecnológicos.

Em suma, a nova cláusula PASAVE e as suas diferentes variantes criam um precedente no sector e podem abrir a porta a futuras regulamentações semelhantes noutras áreas. A batalha legal contra a clonagem de IA começou e já está a dar os seus primeiros frutos. E embora seja inegável que a transferência exaustiva de direitos é necessária para que produtores, plataformas e distribuidores rentabilizem os seus investimentos e garantam a viabilidade dos projectos audiovisuais, esta margem contratual não deve tornar-se um cheque em branco que permita a substituição do trabalho humano por vozes clonadas. O desafio será encontrar um ponto de equilíbrio em que a inovação tecnológica complemente o talento profissional sem o distorcer ou eliminar.

Artigo escrito por Clara Collado, associada sénior da área de Media da ECIJA Madrid.