Espanya: l'AEPD identifica nous riscos legals en l'ús d'imatges per part de la IA generativa

L'AEPD ha publicat una nota informativa que adverteix sobre els riscos visibles i invisibles associats a l'ús d'imatges i vídeos de tercers en sistemes d'IA. El document aborda el creixent impacte de la IA generativa i se centra en com aquestes tecnologies amplifiquen el dany potencial més enllà de la simple difusió de contingut.

Punts clau:

• La IA com a amplificador de riscos: l'AEPD subratlla que els sistemes d'IA augmenten significativament l'impacte de l'ús indegut d'imatges, ja que permeten la generació de contingut creïble, reutilitzable i fàcilment escalable.
• Contingut sintètic d'alt risc: s'hi dedica una atenció especial a la generació d'imatges sexualitzades o íntimes, l'atribució de fets falsos, la descontextualització d'imatges i l'impacte en menors d'edat o persones especialment vulnerables.
• Riscos invisibles de l'entrenament i el processament: pujar una imatge a un sistema d'IA ja comporta riscos, fins i tot sense publicar-ne el resultat, com ara la pèrdua de control, la creació de còpies persistents, les metadades i la reutilització de característiques identificables en continguts futurs.
• Identificació persistent: la IA pot fer que una persona sigui reconeixible o replicable en múltiples contextos, reforçant els riscos de seguiment, perfils o ús indegut continuat.
• Múltiples actors tecnològics: la implicació de diferents proveïdors i sistemes dificulta el control efectiu de l'ús posterior de les imatges.
• Impacte intensificat en entorns digitals: la difusió en xarxes o plataformes molt visibles pot intensificar el dany personal, social o professional derivat de continguts generats per IA.
• Més enllà de la protecció de dades: l'AEPD assenyala que aquests usos poden afectar altres drets fonamentals, com ara l'honor, la intimitat o la imatge personal, i fins i tot poden tenir rellevància penal.
• Funció preventiva i de governança de la IA: la nota pretén conscienciar sobre la necessitat d'un ús responsable de la IA, anticipant els riscos abans que es produeixi un dany irreversible.

Enllaç: 

• Nota informativa de l'AEPD: guia-aepd-uso-de-imagenes-de-terceros-en-sistemas-ia.pdf

Article escrit pel departament TMT d'ECIJA Madrid.