A UE estabelece as regras para a identificação de conteúdos gerados por IA

As ferramentas de IA generativa permitem a criação de conteúdos sintéticos —texto, imagens, áudio, vídeo— com um nível de sofisticação que torna cada vez mais difícil distinguir o autêntico do artificial. Sem nos aprofundarmos nas complexas questões de propriedade intelectual que isto suscita —tanto no que diz respeito ao treino de algoritmos como à atribuição de autoria ao conteúdo gerado—, existe um risco ainda maior: o impacto que a proliferação deste tipo de conteúdo tem nas nossas democracias; o potencial de chantagem de figuras públicas ou de indivíduos anónimos, que pode decorrer da produção de conteúdos falsos que parecem autênticos; a manipulação e a possibilidade de alterar o comportamento dos consumidores; em suma, o risco é sistémico para a saúde da vida social e democrática moderna.

Se nós, enquanto cidadãos, formos incapazes de distinguir a realidade da ficção, corremos o risco de sermos enganados, manipulados e, em última análise, de tomarmos decisões — incluindo a forma como votamos — com base em informações falsas. Este não é um cenário hipotético. Deepfakes de figuras políticas e campanhas automatizadas de desinformação já perturbaram processos eleitorais em todo o mundo.

As redes sociais e o ambiente digital amplificam este problema de forma exponencial. O conteúdo falso pode tornar-se viral numa questão de minutos, alcançando milhões de pessoas antes que qualquer mecanismo de verificação de factos possa intervir. O ecossistema informativo fica sobrecarregado, e torna-se cada vez mais difícil para os cidadãos distinguir entre o que é real e o que é fabricado.

Consciente destes riscos, a União Europeia tem vindo a implementar um quadro regulamentar para tentar mitigá-los. A Lei dos Serviços Digitais (DSA) já introduziu obrigações específicas para as grandes plataformas, que devem realizar avaliações de riscos sistémicos — incluindo os relacionados com os processos democráticos e o discurso público —, a fim de estabelecer mecanismos para denunciar conteúdos ilegais e removê-los atempadamente. Além disso, o Código de Conduta sobre Desinformação, que faz parte do quadro da DSA, exige que as plataformas identifiquem e identifiquem como manipulado o conteúdo falsificado.

Mas isto não é suficiente. Precisamos, enquanto cidadãos, de ser capazes de distinguir quando um conteúdo é genuíno e quando foi gerado ou manipulado por uma máquina. Esta é a única forma de preservar o nosso pensamento crítico e tomar decisões informadas numa sociedade democrática.

A UE, plenamente consciente desta necessidade, deu um passo decisivo com o Regulamento Europeu sobre Inteligência Artificial (Regulamento (UE) n.º 2024/1689). O artigo 50.º estabelece uma série de obrigações de transparência que se aplicam, independentemente do nível de risco do sistema, em quatro cenários-chave: quando um sistema de IA interage diretamente com pessoas; quando gera conteúdo sintético (áudio, imagens, vídeo ou texto); quando é utilizado para o reconhecimento de emoções ou a categorização biométrica; e quando cria «deepfakes» ou publica textos sobre assuntos de interesse público. Estas obrigações aplicam-se, com disposições específicas em cada caso, tanto aos prestadores como aos responsáveis pela implementação destas ferramentas.

Essencialmente, os fornecedores devem conceber os seus sistemas de forma a que os utilizadores tenham consciência de que estão a interagir com uma IA e devem identificar o conteúdo gerado num formato legível por máquina, para garantir que este possa ser detetado. Os implementadores, por seu lado, devem divulgar quando o conteúdo constitui um «deepfake» ou quando um texto sobre assuntos de interesse público foi gerado por uma IA sem revisão humana ou supervisão editorial. Estas obrigações entram em vigor a partir de 2 de agosto de 2026, com um período de carência até dezembro de 2026 para os sistemas já existentes no mercado, em conformidade com o «AI Omnibus».

Para facilitar o cumprimento destas obrigações de transparência, a Comissão Europeia complementou estas disposições com dois instrumentos fundamentais. Em primeiro lugar, as orientações sobre a interpretação do artigo 50.º, publicadas em julho de 2026, que esclarecem o âmbito de aplicação, as definições e as exceções aplicáveis. Em segundo lugar, o Código de Boas Práticas sobre a rotulagem e marcação de conteúdos gerados por IA, publicado em junho de 2026. Este código, de caráter voluntário, estabelece medidas específicas, tais como a implementação de uma abordagem de rotulagem em vários níveis — que combina metadados assinados digitalmente e marcas de água impercetíveis — e a utilização de ícones normalizados da UE para rotular visualmente os conteúdos gerados por IA. A Comissão e o Comité da IA confirmaram que o código constitui uma ferramenta adequada para demonstrar o cumprimento das obrigações de transparência.

A mensagem da UE é clara: a transparência quanto à origem do conteúdo sintético não é opcional. É uma condição necessária para a integridade do ecossistema informativo e, em última análise, para a saúde das nossas democracias e dos nossos cidadãos. Resta saber se a interpretação e a aplicação das regras irão dificultar a produção de conteúdos e se os mecanismos técnicos de marcação e rotulagem serão suficientemente robustos para acompanhar a rápida evolução da IA generativa, mas o quadro já está estabelecido. As regras do jogo já estão sobre a mesa.

Aceda ao artigo completo publicado no El Confidencial.