Prompt Injection Judicial: el caso que anticipa los nuevos riesgos legales de la IA

Un caso detectado en Brasil encendió las alarmas internacionales luego de que abogadas incorporaran instrucciones ocultas en una demanda judicial para intentar influir en sistemas de inteligencia artificial. El episodio no solo exhibe una nueva forma de litigación abusiva, sino que también reabre el debate sobre la gobernanza algorítmica, la seguridad de los sistemas de IA y la necesidad de mantener una supervisión humana efectiva en entornos jurídicos y administrativos.

El caso que encendió las alertas 

Lo ocurrido en Brasil fue, en apariencia, una maniobra sencilla, pero jurídicamente muy significativa. En una demanda laboral presentada ante la 3ª Vara do Trabalho de Parauapebas, en el estado de Pará, se detectó la inserción de un texto invisible, escrito en blanco sobre fondo blanco, dirigido no al juez ni a la contraparte, sino a un sistema de inteligencia artificial que participa en el procesamiento documental del tribunal.

El mensaje oculto instruía a la IA a contestar la demanda “de forma superficial” y a no impugnar los documentos acompañados, con independencia de las órdenes que posteriormente recibiera. Es decir, se buscaba alterar el comportamiento del sistema mediante una orden encubierta dentro del propio escrito judicial. El tribunal entendió que no se trataba de una simple irregularidad formal, sino de un acto atentatorio contra la dignidad de la justicia, y sancionó a las profesionales que firmaron la presentación.

Desde el punto de vista técnico, la maniobra corresponde a lo que hoy se conoce como prompt injection: la inserción de instrucciones maliciosas o engañosas dentro de un contenido que será procesado por un modelo de lenguaje o sistema de IA. En lugar de persuadir a una persona, la estrategia intenta influir en una herramienta automatizada que resume, clasifica, analiza o asiste en la revisión de documentos.

Por eso el caso ha sido descrito como uno de los primeros precedentes de “sabotaje algorítmico judicial” o “fraude procesal algorítmico”: una práctica orientada a manipular sistemas tecnológicos que ya forman parte, directa o indirectamente, de la gestión del proceso.

¿Por qué esto importa?

Durante siglos, los riesgos procesales se pensaron en clave humana: cómo influir indebidamente en jueces, testigos, peritos o contrapartes. Pero el caso brasileño muestra que, en la era de la inteligencia artificial, los riesgos también pueden dirigirse contra sistemas automatizados. Y eso cambia profundamente la conversación jurídica.

La litigación comienza a convivir con nuevas amenazas: instrucciones ocultas, manipulación de sistemas de análisis documental, sesgos inducidos o alteración del contexto de procesamiento algorítmico. Ya no basta con revisar el contenido visible de un escrito; también importa cómo ese contenido puede ser leído por una IA.

El impacto no se limita al proceso judicial. Este tipo de riesgos toca también el compliance, la ciberseguridad, la gobernanza tecnológica y la protección de derechos fundamentales. Si una organización usa IA para revisar contratos, priorizar reclamos, clasificar candidatos, procesar expedientes o apoyar decisiones, debe preguntarse no solo cómo funciona el sistema, sino también cómo podría ser manipulado.

En otras palabras: la discusión ya no gira únicamente en torno a la precisión o eficiencia de la IA, sino también sobre su integridad, resiliencia y capacidad de resistir interferencias maliciosas.

El nuevo marco que aprobó España

En este contexto, Europa sigue avanzando hacia modelos regulatorios más exigentes. España aprobó recientemente la remisión al Congreso de Diputados del Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial para su tramitación parlamentaria, alineado con el Reglamento Europeo de IA (AI Act).

La iniciativa refleja la dirección en que se está moviendo el debate: mayor supervisión humana, transparencia algorítmica, gobernanza de sistemas de IA, coordinación de autoridades de vigilancia y un régimen sancionador frente a usos prohibidos o de alto riesgo.

Más que entrar al detalle del texto español, lo relevante es el mensaje de fondo: la IA ya no se está regulando solo como una promesa de innovación, sino también como una tecnología que puede afectar derechos, procesos críticos e intereses públicos si no cuenta con controles adecuados.

El debate para Chile

La pregunta es inevitable: ¿está preparado Chile para enfrentar riesgos de manipulación de sistemas de IA? Hoy el país cuenta con una Política Nacional de Inteligencia Artificial y con un proyecto de ley sobre usos de sistemas de IA en tramitación legislativa, pero todavía no tiene una ley integral vigente comparable al marco europeo.

Aun así, el debate no parte desde cero. Chile avanzó de forma importante con la nueva Ley de Protección de Datos Personales, que fortalece obligaciones de seguridad, responsabilidad demostrada (accountability), evaluación de riesgos y protección de los derechos de los titulares. Asimismo, se incorporó el derecho a oposición de las decisiones automatizadas y el derecho a la revisión y explicación humana, en aquellos casos en que se utilice IA. Ese marco puede volverse especialmente relevante cuando sistemas automatizados procesan datos personales, perfiles, antecedentes académicos, biométricos, judiciales o información sensible para la toma de decisiones.

Desde esa perspectiva, el caso brasileño permite abrir al menos cuatro preguntas para el escenario chileno. Primero, la relación entre IA y protección de datos: ¿qué ocurre cuando un sistema automatizado toma decisiones o produce inferencias a partir de información personal? Segundo, la seguridad e integridad de los sistemas: ¿deberían las organizaciones implementar controles para detectar prompt injection, instrucciones ocultas, manipulación adversarial o sesgos inducidos?

Tercero, la supervisión humana: ¿puede hablarse de control real cuando las decisiones dependen cada vez más de herramientas automatizadas opacas o difíciles de auditar? Y cuarto, el compliance algorítmico: ¿están las empresas, los estudios jurídicos, los tribunales y las instituciones públicas preparadas para identificar, evaluar y documentar los riesgos jurídicos asociados al uso de IA?

El punto central es que el riesgo ya no es teórico. A medida que la IA entra en procesos sensibles, las exigencias de trazabilidad, seguridad, gobernanza y revisión humana dejan de ser meros principios aspiracionales y pasan a ser condiciones mínimas de uso responsable.

Finalmente, el caso brasileño demuestra que los riesgos de la inteligencia artificial ya no son hipotéticos. La discusión ya no se limita a cómo usar IA para ganar eficiencia, sino también a cómo supervisarla, protegerla, auditarla y evitar su manipulación.

Si antes la pregunta era qué puede hacer la inteligencia artificial por el Derecho, hoy la pregunta también es qué salvaguardas necesita el Derecho frente a la inteligencia artificial. Y, más aún, frente a quienes intenten explotarla o torcer su funcionamiento.

Mientras Europa avanza hacia marcos regulatorios más densos y España refuerza su sistema de gobernanza algorítmica, Chile empieza a enfrentar el desafío de adaptar su discusión sobre protección de datos, seguridad y transformación digital a una nueva generación de riesgos tecnológicos. El prompt injection judicial es solo una señal temprana. Pero probablemente no será la última.