Errores generativos y responsabilidad profesional: el caso Deloitte-Australia y la nueva frontera de la gobernanza de la IA

En octubre de 2025, el gobierno australiano confirmó que Deloitte había utilizado inteligencia artificial generativa, específicamente GPT-4o, para elaborar un informe sobre innovación tecnológica encargado por la administración federal. El documento, que debía servir como insumo estratégico para la planeación digital del país, contenía múltiples errores fácticos, citas inexistentes y referencias fabricadas. La firma reconoció el uso de IA en el proceso y devolvió parte de los honorarios, estimados en 440,000 dólares australianos[1].

El episodio marca un antes y un después en la relación entre automatización, responsabilidad profesional y confianza institucional. Lo que falló en Australia fue algo que cualquiera que haya usado ChatGPT, Gemini o Copilot conoce bien. Los modelos de lenguaje grandes inventan información con una confianza desconcertante. El fenómeno técnico se llama "alucinación" y funciona así: el sistema genera contenido que suena plausible pero es completamente falso, citando estudios que no existen, atribuyendo frases a personas que nunca las dijeron, fabricando estadísticas creíbles. Y lo hace sin avisar, sin dudar, con la misma certeza con la que responde correctamente otras preguntas.

OpenAI, Anthropic, Google y Meta advierten sobre esta característica en sus términos de uso. La investigación académica la ha documentado extensamente. Cualquier profesional que use estas herramientas debería saberlo. El quid del caso Deloitte está ahí. Alguien entregó al gobierno australiano un producto generado por IA sin verificar su contenido. En términos legales, eso es negligencia profesional.

La responsabilidad profesional en servicios de consultoría tiene raíces profundas. Mucho antes de la inteligencia artificial, el derecho establecía que quien ofrece conocimiento especializado debe actuar con cuidado y competencia. En México, el Código Civil Federal dispone en sus artículos 2615 y 2616 que el prestador de servicios profesionales responde por negligencia, impericia o dolo. El consultor, el abogado, el auditor entregan además de su servicio la confianza de que su trabajo ha sido revisado, contrastado y verificado[2]. Esa obligación se intensifica cuando el cliente es el Estado.

La Ley de Adquisiciones, Arrendamientos y Servicios del Sector Público contempla sanciones administrativas y rescisiones contractuales cuando el proveedor incumple con la calidad o especificaciones pactadas[3]. Si un informe estratégico contiene información falsa porque nadie verificó el output de una herramienta automatizada, estamos ante un incumplimiento contractual evidente. Si además ese informe influye en decisiones de política pública basadas en datos inventados, el daño potencial es enorme.

El derecho comparado ofrece pistas sobre cómo resolverán estos casos los tribunales. En Estados Unidos, varios estados enfrentan demandas contra abogados que presentaron escritos con jurisprudencia falsa generada por ChatGPT[4]. Los tribunales han sido contundentes. En uno de los casos más comentados, un juez federal de Nueva York sancionó a dos abogados que citaron casos inexistentes en una moción, argumentando que tenían el deber afirmativo de asegurar la exactitud de todo lo que presentaban ante la corte, independientemente de las herramientas utilizadas.

El Solicitors Regulation Authority del Reino Unido emitió lineamientos claros en 2024. Los abogados pueden usar IA pero mantienen responsabilidad personal y profesional por todo el trabajo que firman[5]. La Law Society inglesa publicó una guía de buenas prácticas[6] que incluye advertir al cliente cuando se usa IA, documentar qué herramientas se emplearon y establecer protocolos de revisión humana para detectar errores.

Europa regula de forma más sistemática. El AI Act clasifica ciertos usos de IA como de alto riesgo cuando se emplean en decisiones que afectan derechos fundamentales, acceso a servicios esenciales o cumplimiento legal. Los proveedores de estos sistemas deben garantizar trazabilidad de datos, supervisión humana y mecanismos de corrección de errores. La responsabilidad recae tanto en quien desarrolla la IA como en quien la usa profesionalmente y laas empresas que contraten servicios donde se empleó IA de alto riesgo pueden exigir auditorías y documentación del proceso[7].

Los estándares técnicos avanzan con rapidez, como la norma ISO/IEC 42001 que fija los requisitos para una gestión responsable de la inteligencia artificial, desde la evaluación de riesgos hasta los controles de calidad y la gobernanza de los sistemas[8]. El AI Risk Management Framework del NIST, aunque es voluntario, funciona ya como referencia entre empresas que buscan demostrar diligencia y transparencia[9]. Ambos marcos comparten el principio esencial de que la confianza tecnológica depende de procesos sólidos para detectar errores, corregirlos y aprender de ellos.

México probablemente tendrá pronto su propio "caso Deloitte". Las consultoras, despachos de abogados, firmas de auditoría y empresas de servicios profesionales usan ya IA generativa para elaborar reportes, análisis, presentaciones y documentos legales. Algunas lo hacen con controles rigurosos. Otras, probablemente apenas están experimentando sin protocolos claros. Cuando salga a la luz el primer caso de un informe estratégico, un dictamen legal o una auditoría elaborada con IA que contenga errores graves, las preguntas jurídicas llegarán de inmediato. ¿Quién responde cuando algo falla? ¿La empresa que entregó el documento? ¿El profesional que lo firmó sin revisar? ¿Ambos? ¿Puede un proveedor alegar que el cliente asumió el riesgo si nunca se le advirtió que se usó IA? ¿Existe una obligación legal de transparentar las herramientas empleadas?

En el mundo de los contratos privados, estas cuestiones podrían resolverse con cláusulas bien redactadas que distribuyan responsabilidades y establezcan expectativas claras. En contratación pública, donde los pliegos suelen ser estandarizados y las obligaciones de calidad están implícitas en la naturaleza misma del servicio, el margen de maniobra es menor. Y es justamente ahí, en la intersección entre tecnología y obligaciones públicas, donde el próximo caso mexicano probablemente va a estallar.

Lo sensato sería anticiparse. Las firmas que ofrecen servicios profesionales deberían establecer políticas claras sobre cómo y cuándo usar inteligencia artificial. La IA puede servir para borradores iniciales, para organizar ideas, para resumir documentos extensos o para explorar enfoques preliminares. Cuando un informe incluye datos fácticos, citas de jurisprudencia, referencias técnicas o conclusiones estratégicas generadas por IA, alguien con el conocimiento necesario tiene que revisarlo línea por línea antes de que salga de la firma. La verificación humana debe ser obligatoria y documentada.

Documentar el proceso internamente es trazabilidad básica. Saber qué herramientas se usaron en cada proyecto, en qué fase del trabajo y quién fue responsable de la revisión final permite demostrar diligencia si algo sale mal. La capacitación del personal es igualmente crítica. Un analista junior que desconoce que GPT-4 puede inventar estudios académicos completos con autores y revistas ficticias representa un riesgo importante.

La transparencia con el cliente merece atención especial. Algunas firmas incluyen ya en sus contratos advertencias sobre el uso de herramientas automatizadas, explicando sus limitaciones y el alcance de la revisión humana aplicada[10]. Gestionar expectativas y proteger a ambas partes resulta más prudente que enfrentar después un conflicto por falta de información. Lo mismo aplica con proveedores tecnológicos. Si una firma subcontrata el desarrollo de sistemas de IA, los contratos deben incluir cláusulas de responsabilidad compartida, garantías de calidad y mecanismos de auditoría. Cuando falla un algoritmo integrado a un servicio profesional, la responsabilidad persiste aunque un tercero haya escrito el código.

Del lado gubernamental, la conversación también debe cambiar. Cuando una entidad pública licita servicios de consultoría, auditoría o análisis técnico, los pliegos de contratación podrían empezar a incluir preguntas que hasta hace poco habrían sonado extrañas. ¿Se usará inteligencia artificial en alguna etapa de este trabajo? ¿Qué modelos específicamente? ¿Con qué protocolos de verificación? La transparencia debería ser el estándar. Un proveedor que oculta que generó medio informe con IA y luego entrega datos falsos enfrenta las mismas consecuencias que si hubiera mentido deliberadamente: rescisión del contrato, devolución de pagos e inhabilitación temporal o permanente para contratar con el Estado.

El caso Deloitte-Australia funciona como llamada de atención para toda la industria de servicios profesionales. La inteligencia artificial puede aumentar productividad, agilizar procesos y mejorar análisis. También puede generar errores costosos si se usa sin los controles adecuados. Los errores de la IA se convierten en errores del profesional que no los detectó. La negligencia radica en confiar ciegamente en la tecnología sin aplicar el juicio crítico que cualquier prestación de servicios especializados exige.

Y mientras el riesgo legal se hace evidente, la industria tecnológica intenta responder. Han comenzado a aparecer plataformas diseñadas específicamente para el mundo legal. Herramientas como Harvey AI, que usan firmas del nivel de Allen & Overy[11] o PwC[12], o Casetext CoCounsel, ahora parte de Thomson Reuters[13], están entrenadas en corpus jurídicos masivos y conectadas a bases de datos verificadas de jurisprudencia. En lugar de imaginar qué dice una ley o inventar un precedente, estas plataformas buscan en repositorios reales. vLex Vincent hace algo similar para mercados latinoamericanos. La promesa es tentadora: precisión jurídica sin sacrificar velocidad.

Estas herramientas tampoco son infalibles. Harvey AI incluye advertencias explícitas para que los abogados revisen todo antes de usarlo. Thomson Reuters mantiene capas de verificación humana en Practical Law porque saben que el margen de error, aunque menor, persiste. La apuesta de estas tecnologías radica en cambiar dónde se invierte el tiempo. Menos en búsquedas mecánicas, más en análisis crítico. Menos en copiar y pegar jurisprudencia, más en interpretarla y aplicarla correctamente. Representa un cambio de rol en la profesión.

Esa diferencia probablemente dividirá al mercado. Algunas firmas seguirán usando ChatGPT o Copilot, sin controles serios porque es accesible y rápido, asumiendo riesgos que quizá no entienden completamente. Otras invertirán en plataformas especializadas, en protocolos de verificación rigurosos y en capacitación continua de su gente, construyendo una reputación de confiabilidad que terminará siendo su activo más valioso. Para los clientes, sobre todo para gobiernos y grandes empresas que contratan servicios de alto valor, esa diferencia importará cada vez más al momento de decidir con quién trabajar.

La especialización tecnológica abre una vía paralela a la regulación. Mientras los legisladores intentan ponerse al día con marcos normativos que todavía están en borrador, los desarrolladores de herramientas legales especializadas construyen barreras técnicas contra las alucinaciones. Conectar los modelos a bases de datos verificadas, entrenarlos con jurisprudencia real, incorporar mecanismos de citación automática y validación de fuentes representa un avance pragmático. La solución al problema de la IA en el derecho puede venir tanto de la ley como de mejor tecnología. Ambas vías son necesarias y complementarias.

En la era de la inteligencia artificial, la confianza profesional sigue siendo profundamente humana. Las máquinas pueden asistir pero la verificación, el criterio experto y la rendición de cuentas permanecen en manos de personas. Quien firme un documento generado por IA sin revisarlo asume todos los riesgos. Esos riesgos, como acaba de descubrir Deloitte en Australia, pueden ser muy costosos.

La lección para México llega en el momento justo. La regulación se acerca, con casos concretos o sin ellos. Las firmas que establezcan protocolos sólidos de gobernanza de IA evitarán responsabilidades futuras mientras construyen una ventaja competitiva basada en algo que ninguna tecnología puede replicar: la credibilidad. Cuando un cliente contrata servicios profesionales, compra confianza. Esa confianza, en el mundo de la inteligencia artificial, se gana demostrando que hay un humano responsable detrás de cada palabra que se entrega. Y más profundamente, demostrando que existe una conciencia profesional que entiende que la tecnología amplifica tanto nuestras capacidades como nuestras responsabilidades éticas.