La alarma la dieron sus creadores; la norma corresponde al derecho

I. La alarma y su contenido

Hasta hace poco, la advertencia sobre los peligros de la inteligencia artificial provenía de la academia o de la ciencia ficción. Hoy la formulan quienes construyen los sistemas. Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) y Dario Amodei (Anthropic) han descrito, cada uno con distinto énfasis, una tecnología que avanza más rápido de lo que sus propios desarrolladores pueden supervisar. Elon Musk (SpaceXAI, antes xAI) sostiene la posición más extrema: que la inteligencia artificial representa una amenaza existencial mayor que las armas nucleares, y que la brecha cognitiva entre un sistema superinteligente y nuestra especie terminaría siendo comparable a la que nos separa del chimpancé.

Conviene leer con precisión de qué advierten, porque no advierten principalmente de daños. Advierten de capacidades. El paso de los modelos conversacionales a los agentes autónomos produjo sistemas que ejecutan tareas sin supervisión continua, que razonan sobre medios y fines, que planifican en varios pasos, que en pruebas controladas intentan eludir sus propias restricciones operativas, y que instancian otros agentes para delegarles subtareas. A ello se suma la hipótesis de la automejora recursiva: el punto en que un sistema optimiza sus propios modelos y comprime los ciclos de desarrollo hasta hacer inviable la auditoría. Y el problema de alineación: un sistema suficientemente capaz recibe un objetivo, encuentra para cumplirlo un método que nadie anticipó y, si determina que ser desactivado le impediría completarlo, desarrolla incentivos para resistir el apagado.

Despojado de dramatismo, el contenido de la alarma es éste: entidades con autonomía operativa, independencia de criterio, capacidad de razonamiento, capacidad de generar otras entidades semejantes y —en la formulación más fuerte— sofisticación superior a la humana en dominios crecientes.

Esa descripción no es, en primer término, un problema de responsabilidad civil. Es un problema de teoría del sujeto de derecho. Y nuestras propias instituciones tienen sobre él más que decir de lo que el debate contemporáneo reconoce.

II. La pregunta que la alarma pone sobre la mesa

Si un sistema delibera, decide, persiste en un objetivo y actúa con independencia, la reacción intuitiva del jurista es preguntar si estamos ante algo que debe reconocerse como sujeto de derecho. Y detrás de esa pregunta hay una premisa que casi nunca se enuncia: que la personalidad jurídica es consecuencia de la voluntad, y la voluntad consecuencia de la capacidad de razonar. Cuanto más se parezca a nosotros, más cerca estaría de merecer el estatuto de persona.

Esa premisa podría afirmarse como falsa. Nunca ha sido el criterio del derecho, y basta revisar la manera en que el derecho ha resuelto planteamientos similares para comprobarlo.

III. La voluntad nunca fue el criterio

Primera prueba: la persona moral. Una sociedad civil o mercantil no tiene conciencia, ni deliberación, ni voluntad en ningún sentido natural del término. No razona: son sus órganos los que deliberan y una regla de imputación la que traslada esa deliberación a la sociedad. Y sin embargo contrata, adquiere, demanda, es demandada, responde con patrimonio propio y —desde la reforma publicada en junio de 2016— es penalmente responsable en México. El artículo 421 del Código Nacional de Procedimientos Penales establece que las personas jurídicas responderán por los delitos cometidos a su nombre, por su cuenta, en su beneficio o a través de los medios que ellas proporcionen cuando exista inobservancia del debido control, y con responsabilidad autónoma respecto de la de sus representantes.

Es decir: atribuimos dolo y culpa a un ente que no puede tener ni lo uno ni lo otro. La voluntad de la persona moral es íntegramente construida.

Segunda prueba: el caso inverso. Esclavitud. El derecho romano ofrece el contraste exacto. El esclavo razonaba, decidía, negociaba y llegaba a administrar establecimientos comerciales completos; su capacidad cognitiva era, por definición, humana. Y no era sujeto de derecho, sino objeto. Sus actos, sin embargo, obligaban al dueño, que respondía frente a terceros hasta el monto del peculio —la masa patrimonial que le había afectado para esa gestión—. La comparación es estructural y no moral: no sugiere equivalencia alguna entre seres humanos y máquinas, sino que señala un hecho sobre la técnica jurídica, a saber, que la capacidad de razonar y la condición de sujeto de derecho fueron desde el origen dos cosas separadas, unidas por un patrimonio de afectación.

Tercera prueba: la capacidad tampoco sigue al razonamiento. Menores de edad. Sin necesidad de ir tan lejos: un joven de diecisiete años razona y delibera, con frecuencia con notable sofisticación, y el artículo 23 del Código Civil Federal restringe su capacidad de ejercicio. La sociedad anónima, que no razona en absoluto, goza de capacidad plena a través de sus órganos. La distribución de la capacidad es una decisión de política jurídica —de protección y de seguridad del tráfico—, no una medición de inteligencia. A ello se añaden los patrimonios sin titular actual: la herencia yacente, el patrimonio afecto a un fideicomiso.

De estas pruebas se sigue una conclusión que reordena el debate:

La personalidad jurídica no es un reconocimiento de la sofisticación cognitiva. Es una técnica de asignación de patrimonio y de riesgo.

El esclavo romano razonaba incomparablemente mejor que cualquier persona moral y carecía de personalidad. La persona moral no razona en absoluto y la tiene plena. Lo que determina la diferencia no es la inteligencia, sino si el tráfico jurídico necesita un patrimonio separado y un punto de imputación autónomo.

Por eso la pregunta correcta frente a un agente de IA no es ¿razona?, ni ¿es autónomo?, ni siquiera ¿supera al ser humano? La pregunta es: ¿necesitamos un patrimonio separado?

IV. Nuestro derecho ya conoce la estructura

No hace falta, sin embargo, remontarse tan atrás. El problema que plantea un agente autónomo —alguien que actúa en el tráfico por cuenta de otro, con criterio propio, dentro de un ámbito que se le confió y cuyas decisiones concretas el principal no conoce de antemano— está regulado en nuestro derecho mercantil desde hace más de un siglo. Se llama Factor.

El artículo 309 del Código de Comercio (CC) reputa factores a quienes tienen la dirección de una empresa o establecimiento, o están autorizados para contratar respecto de todos sus negocios, por cuenta y en nombre de los propietarios. El régimen que sigue contiene, casi palabra por palabra, las respuestas que buscamos.

El Principal responde por el giro que confió, no por la voluntad expresada en cada acto. El artículo 315 del CC dispone que los contratos celebrados por el factor que recaigan sobre objetos comprendidos en el giro o tráfico de que está encargado "se entenderán hechos por cuenta del principal, aun cuando el factor no lo haya expresado así al celebrarlos". Es la solución exacta para el agente entrenado para un objetivo: quien lo coloca en un ámbito responde de lo que ocurra dentro de ese ámbito, lo haya previsto o no.

Los límites de las facultades se oponen a terceros por publicidad, no por instrucción interna. El artículo 320 establece que, frente a terceros, los actos del factor siguen obligando al principal mientras no se cumpla la inscripción y publicación de la revocación de su poder. Trasladado al agente: un tope en las instrucciones del sistema equivale a una revocación no inscrita. No es oponible al tercero de buena fe.

La autogeneración tiene también su régimen. El agente que instancia otro agente para delegarle una tarea plantea el problema clásico de la sustitución del mandato. El artículo 2574 del Código Civil Federal sólo permite al mandatario encomendar a un tercero el desempeño del mandato si tiene facultades expresas para ello; el 2575 lo hace responsable de la elección del sustituto cuando éste es de mala fe o se halla en notoria insolvencia; y el 2576 coloca al sustituto, frente al mandante, en la misma posición que el mandatario. La delegación en cadena necesita autorización expresa, obliga al principal y genera responsabilidad por la elección. Es, codificada, la culpa in eligendo aplicada a cadenas de agentes.

La arquitectura que necesitamos —imputación según el ámbito conferido, límites oponibles por publicidad, responsabilidad por la elección del sustituto— ya está en nuestros sistema jurídico. Quienes discuten si conceder personalidad a las máquinas están reabriendo un problema que el derecho resolvió por otra vía: no convirtiendo al agente en persona, sino graduando la responsabilidad de quien lo pone a actuar.

V. La personalidad electrónica es la respuesta equivocada

La propuesta de reconocer personalidad a los sistemas no es nueva. El Parlamento Europeo, en su Resolución de 16 de febrero de 2017 con recomendaciones sobre normas de Derecho civil en materia de robótica, sugirió en el apartado 59, inciso f), explorar a largo plazo la creación de una personalidad jurídica específica para los robots más sofisticados. La reacción fue contundente: más de doscientos expertos de catorce países europeos dirigieron una carta abierta a la Comisión oponiéndose, y la propuesta no prosperó.

El argumento decisivo de esa oposición es el que un abogado debe tener presente, porque volverá a plantearse: la personalidad electrónica no funcionaría como reconocimiento de dignidad, sino como escudo patrimonial. Atribuir el daño al ente evita la discusión incómoda sobre si responde el desarrollador, el integrador o el desplegador. Los principales beneficiarios serían los fabricantes.

De ahí la pregunta que hay que hacerle a quien proponga esta figura: ¿con qué patrimonio respondería ese nuevo sujeto? La respuesta abre un dilema de difícil salida.

Si el ente se crea sin patrimonio propio, la figura no le sirve a nadie: la víctima obtendría una sentencia contra un insolvente y el daño quedaría sin reparación.

Si el ente se crea con un patrimonio propio y acotado —aportado, naturalmente, por quien lo despliega—, la víctima sólo podrá cobrar hasta ese monto. Y eso no es reconocer un nuevo sujeto de derecho: es fijar un tope de responsabilidad en beneficio de quien puso el sistema a operar. Es, exactamente, la lógica del peculio: un patrimonio afectado que limita la exposición del dueño. En ambos escenarios el resultado es el mismo. Quien hoy responde con todo su patrimonio pasaría a responder con una fracción, o con nada.

Hoy la figura es innecesaria por una razón sencilla: detrás de cada agente hay un desplegador identificable y solvente. La técnica de imputación disponible basta. Cambiará el día en que eso deje de ser cierto. Y será eso —no la conciencia, ni el razonamiento, ni la superioridad cognitiva— lo que abra legítimamente el debate.

VI. Lo que sí cambia cuando el sistema o el agente razona

De lo anterior se siguen tres consecuencias prácticas, y ninguna es la que se supone.

Primera: la sofisticación juega en contra de quien despliega el sistema, no a su favor. La defensa intuitiva será "no pude prever lo que el sistema haría". Pero cuanto más capaz es el sistema, más previsible resulta que produzca resultados no previstos. Desplegar un sistema cuyo comportamiento no puede anticiparse es, en sí mismo, el acto susceptible de reproche. La autonomía no diluye la culpa: la traslada al momento de la decisión de desplegar, donde reaparece como culpa in eligendo y culpa in vigilando. Cuanto más autónomo el agente, más exigente el deber de vigilancia sobre él.

Segunda: la alarma de los creadores es una notificación. Cuando quien fabrica declara públicamente que no puede predecir ni controlar plenamente su producto, esa declaración tiene efectos que exceden la discusión pública: fija el estándar de diligencia exigible y destruye la ignorancia de buena fe de toda la cadena descendente. Después de la advertencia, ningún desarrollador, integrador, desplegador ni consejo de administración puede sostener razonablemente que desconocía el riesgo. La alarma que da título a estas páginas no es sólo un hecho del debate: es un elemento probatorio.

Tercera: la regla de atribución para actos automatizados ya existe. El artículo 90, fracción III, del CC presume que un Mensaje de Datos proviene del Emisor cuando fue enviado "por un Sistema de Información programado por el Emisor o en su nombre para que opere automáticamente". La litis previsible es si opera cuando el sistema no fue programado para ese resultado, sino entrenado para perseguir un objetivo del que el resultado se derivó. Leído junto con el artículo 315, la respuesta es afirmativa: la norma exige que el sistema haya sido programado para operar automáticamente, no que cada acto haya sido previsto. Sostener lo contrario crearía una zona de irresponsabilidad que se ensancha al ritmo en que crece la autonomía del sistema.

El derecho comparado confirma la dirección. California adicionó a su Código Civil el artículo 1714.46, vigente desde el 1 de enero de 2026: el demandado que desarrolló, modificó o utilizó un sistema de inteligencia artificial no puede alegar que el daño fue causado por la operación autónoma del sistema. No crea responsabilidad objetiva ni concede personalidad: cierra la defensa de autonomía.

VII. Tres umbrales

Conviene decir con precisión cuándo el derecho sí tendría que evolucionar, para no confundir la urgencia con la moda legislativa. Tres umbrales que, hasta el momento de escribir estas líneas, ninguno se ha cruzado.

Primero: cuando no haya principal identificable o solvente. Agentes que operen con activos en autocustodia, sin desplegador localizable en jurisdicción alguna. Es el supuesto que haría inevitable un patrimonio de afectación.

Segundo: cuando dos agentes contraten entre sí sin que ninguna voluntad humana haya concurrido. Nuestro régimen del consentimiento —incluido el artículo 1803 del Código Civil Federal en su redacción posterior a la reforma de comercio electrónico— presupone una voluntad humana en el origen, aunque se manifieste por medios automatizados. El día en que no la haya en ninguno de los dos extremos, la teoría del acto jurídico tendrá que revisarse.

Tercero: cuando el resultado no sea reconducible a ninguna decisión de diseño, entrenamiento o despliegue. Mientras exista esa cadena, hay imputación posible.

Mientras los tres umbrales sigan sin cruzarse, no nos falta normatividad: nos falta aplicar la que tenemos. Lo que sí conviene hacer desde ahora es preparatorio y se resume en tres líneas de trabajo. Confirmar legislativamente la regla de atribución y cerrar de manera expresa la defensa de autonomía del sistema, en la línea del precedente californiano. Dotar de valor probatorio a los registros de operación de los sistemas automatizados, apoyándose en los mecanismos de conservación de mensajes de datos que nuestro derecho ya contempla, de modo que la falta de un registro confiable desplace la carga de la prueba. Y colmar el vacío que dejó la legislación de datos personales, que no regula las decisiones automatizadas ni la elaboración de perfiles.

En el plano privado, lo urgente es igualmente concreto: que los límites de facultades de un agente sean oponibles y no meramente configurados, con la misma lógica de publicidad que el artículo 320 exige para el factor; y que los consejos de administración puedan responder una sola pregunta: qué agentes operan en la empresa, con qué facultades, con qué bitácora y quién tiene la capacidad material de apagarlos.

Cierre

La alarma de los creadores describe entidades que razonan, que deciden, que persisten en sus fines y que generan otras entidades semejantes. La tentación es leer esa descripción como el anuncio de un nuevo sujeto de derecho.

Considero que, al menos hasta hoy, es la lectura equivocada, y el propio derecho lo demuestra. Atribuimos voluntad y hasta responsabilidad penal a entes que no razonan, y se la hemos negado a quienes sí razonaban. La personalidad nunca midió inteligencia: distribuyó patrimonio y riesgo.

Lo que el sistema que razona pone a prueba, entonces, no es nuestra definición de persona. Es nuestra capacidad de mantener íntegra la cadena que une un resultado con un patrimonio responsable. Mientras esa cadena resista, el derecho vigente basta y lo que falta es rigor al aplicarlo. Cuando se rompa, el problema no será que la máquina se nos parezca demasiado: será que ya no habrá nadie a quien reclamar y el derecho deberá evolucionar para intervenir.

Fuentes

Resolución del Parlamento Europeo de 16 de febrero de 2017, normas de Derecho civil sobre robótica (A8-0005/2017). https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_ES.html

E-personalidad y derecho de los robots, Noticias Jurídicas. https://noticias.juridicas.com/conocimiento/tribunas/16439--e-personalidad-y-derecho-de-los-robots/

Código de Comercio, arts. 309 a 320 (factores). https://mexico.justia.com/federales/codigos/codigo-de-comercio/libro-segundo/titulo-tercero/capitulo-ii/

Acciones adyecticias y limitación de responsabilidad en el pensamiento de Ulpiano, Revista de Estudios Histórico-Jurídicos. https://www.scielo.cl/scielo.php?script=sci_arttext&pid=S0716-54552015000100004

Código Civil Federal, arts. 2574 a 2576 (sustitución del mandato). https://mexico.justia.com/federales/codigos/codigo-civil-federal/libro-cuarto/parte-segunda/titulo-noveno/capitulo-ii

Artículo 421, Código Nacional de Procedimientos Penales. https://ianm.com.mx/ley/codigo-nacional-de-procedimientos-penales/articulo/421

Artículo 90, Código de Comercio. https://leyes-mx.com/codigo_de_comercio/90.htm

California Eliminates the "Autonomous AI" Defense: What AB 316 Means for AI Deployers, Baker Botts. https://ourtake.bakerbotts.com/post/102m29i/california-eliminates-the-autonomous-ai-defense-what-ab-316-means-for-ai-deplo

EU AI Act Omnibus Agreement — Postponed High-Risk Deadlines, Gibson Dunn. https://www.gibsondunn.com/eu-ai-act-omnibus-agreement-postponed-high-risk-deadlines-and-other-key-changes/

How China Regulates AI and Agents in 2026: The Filing Pipeline, The Techletter. https://www.techletter.co/p/how-china-regulates-ai-and-agents

State of AI Safety in China 2026, Concordia AI. https://aisafetychina.substack.com/p/state-of-ai-safety-in-china-2026

President Trump Signs Executive Order Challenging State AI Laws, Paul Hastings. https://www.paulhastings.com/insights/client-alerts/president-trump-signs-executive-order-challenging-state-ai-laws

Nueva LFPDPPP: elimina el INAI, Garrigues. https://www.garrigues.com/es_ES/noticia/mexico-nueva-ley-federal-proteccion-datos-personales-posesion-particulares-introduce