Espanha: a AEPD identifica novos riscos jurídicos na utilização de imagens por IA generativa

A AEPD publicou uma nota informativa que alerta para os riscos visíveis e invisíveis associados à utilização de imagens e vídeos de terceiros em sistemas de IA. O documento aborda o impacto crescente da IA generativa e centra-se na forma como estas tecnologias amplificam os potenciais danos para além da simples disseminação de conteúdos.

Pontos principais:

• A IA como amplificador de risco: a AEPD sublinha que os sistemas de IA aumentam significativamente o impacto da utilização indevida de imagens, uma vez que permitem a geração de conteúdos credíveis, reutilizáveis e facilmente escaláveis.
• Conteúdo sintético de alto risco: é dada especial atenção à geração de imagens sexualizadas ou íntimas, à atribuição de factos falsos, à descontextualização de imagens e ao impacto em menores ou indivíduos particularmente vulneráveis.
• Riscos invisíveis de formação e processamento: o carregamento de uma imagem para um sistema de IA já implica riscos, mesmo sem publicar o resultado, como a perda de controlo, a criação de cópias persistentes, metadados e a reutilização de caraterísticas identificáveis em conteúdos futuros.
• Identificação persistente: a IA pode tornar uma pessoa reconhecível ou replicável em múltiplos contextos, reforçando os riscos de rastreio, definição de perfis ou utilização indevida continuada.
• Múltiplos intervenientes tecnológicos: o envolvimento de diferentes fornecedores e sistemas complica o controlo efetivo da utilização subsequente das imagens.
• Impacto intensificado em ambientes digitais: a difusão em redes ou plataformas altamente visíveis pode intensificar os danos pessoais, sociais ou profissionais resultantes de conteúdos gerados por IA.
• Para além da proteção de dados: a AEPD salienta que estas utilizações podem afetar outros direitos fundamentais, como a honra, a privacidade ou a imagem pessoal, e podem mesmo ter relevância penal.
• Função preventiva e governação da IA: a nota visa sensibilizar para a necessidade de uma utilização responsável da IA, antecipando os riscos antes que ocorram danos irreversíveis.

Ligação: 

• Nota informativa da AEPD: guia-aepd-uso-de-imagenes-de-terceros-en-sistemas-ia.pdf

Artigo escrito pelo departamento de TMT da ECIJA Madrid.