España: la AEPD identifica nuevos riesgos jurídicos en el uso de imágenes por IA generativa

La AEPD ha publicado una nota informativa alertando sobre los riesgos, tanto visibles como invisibles, asociados al uso de imágenes y vídeos de terceros en sistemas de IA. El documento se enmarca en el creciente impacto de la IA generativa y pone el foco en cómo estas tecnologías amplifican daños potenciales más allá de la simple difusión de contenidos.

Puntos clave:

• IA como amplificador de riesgos: la AEPD subraya que los sistemas de IA incrementan de forma significativa el impacto de usos indebidos de imágenes, al permitir generar contenidos verosímiles, reutilizables y fácilmente escalables.
• Contenidos sintéticos de alto riesgo: especial atención a la generación de imágenes sexualizadas o íntimas, atribución de hechos falsos, descontextualización de imágenes y afectación a menores o personas especialmente vulnerables.
• Riesgos invisibles del entrenamiento y procesamiento: subir una imagen a un sistema de IA ya implica riesgos, incluso sin publicación del resultado, como la pérdida de control, la creación de copias persistentes, metadatos y la reutilización de rasgos identificables en futuros contenidos.
• Identificación persistente: la IA puede permitir que una persona sea reconocible o replicable en múltiples contextos, reforzando riesgos de seguimiento, perfilado o uso indebido continuado.
• Multiplicidad de actores tecnológicos: la intervención de distintos proveedores y sistemas dificulta el control efectivo sobre el uso posterior de las imágenes.
• Impacto reforzado en entornos digitales: la difusión en redes o plataformas con alta visibilidad puede intensificar el daño personal, social o profesional derivado de contenidos generados por IA.
• Más allá de la protección de datos: la AEPD recuerda que estos usos pueden afectar a otros derechos fundamentales, como el honor, la intimidad o la propia imagen, y llegar a tener relevancia penal.
• Función preventiva y de gobernanza de la IA: la nota busca concienciar sobre la necesidad de un uso responsable de la IA, anticipando riesgos antes de que se materialicen daños irreversibles.

Link:

• Nota informativa de la AEPD: guia-aepd-uso-de-imagenes-de-terceros-en-sistemas-ia.pdf

Artículo escrito por el área de TMT de ECIJA Madrid.