La cadena de aprobación se pensó para personas: Autoridad Huérfana y autoridad para decidir frente a la IA agéntica

Los sistemas agénticos ya comprometen gasto y suscriben obligaciones que ninguna persona aprueba, mientras cada control funciona tal como estaba previsto. El riesgo de fondo no está en la precisión del modelo sino en una accountability que nadie tiene asignada. Este artículo llama a esa condición Autoridad Huérfana y propone el rediseño de la autoridad para decidir que la corrige.

Compras pequeñas, obligaciones largas

Un fabricante mediano maneja su tail spend con un sistema de agentes de compras, y todas las órdenes que ese sistema emite son pequeñas: quedan bajo el umbral del gerente de categoría, tienen el precio correcto y respetan la política. Un agente de abastecimiento preselecciona proveedores, otro negocia las condiciones comerciales con el agente de ventas del propio proveedor y un tercero, el de ejecución, cierra el compromiso a través de la API de compras.

Los agentes optimizan el precio unitario, y la moneda con que lo pagan es el plazo. Una mejor tarifa llega amarrada a un compromiso de volumen a treinta y seis meses. Otra viene con renovación automática y un tramo de pedido mínimo, y una tercera trae un piso take-or-pay que no se activará hasta dentro de dos trimestres. Cada una es un buen negocio para la métrica que se le asignó al agente, y cada una pasa todos los controles de la empresa, porque ninguno de ellos le pone precio a una obligación futura. Los umbrales de firma se expresan en dólares comprometidos hoy.

Al cierre del trimestre, la empresa está atada por contratos que exceden con creces la autoridad de cualquiera de sus integrantes, y la pista de auditoría no registra en qué momento ocurrió. No hay una aprobación a la cual apuntar ni una excepción que investigar: cada control funcionó tal como estaba previsto.

Los ejecutivos que temen al agente descontrolado miran hacia el lado equivocado. Un agente descontrolado es una falla de control, y toda falla de control trae consigo un dueño, un protocolo de respuesta y un instante preciso en la cronología. El agente que cumple las reglas no ofrece nada de eso. Lo que pone en evidencia es una cadena de aprobación que sigue operando, sigue generando su pista de auditoría y ya no contiene a la persona para la que se construyó.

Lo que más desconcierta es que esta exposición crece a medida que la tecnología mejora. Un mejor modelo ejerce con más competencia una autoridad sin dueño; la competencia genera confianza, y la confianza es precisamente lo que lleva a alguien a otorgar más autonomía. Cada mejora de los modelos ensancha la brecha: los avances en capacidad aceleran el problema y jamás lo hacen desaparecer.

La persona al pie de cada instrumento

Basta desarmar cualquier instrumento de autoridad para decidir hasta dejarlo en su pura mecánica para encontrar, al pie, siempre la misma figura. RACI asigna la A a alguien con nombre y con jefe, RAPID entrega la D a un individuo capaz de explicar después por qué decidió lo que decidió, y las matrices de delegación de autoridad hacen descender la facultad de gasto desde la junta directiva en límites de firma escalonados, hasta que cada dólar que la empresa puede comprometer tiene detrás a una persona que respondió por él. Hasta el principio de los cuatro ojos da por hecho que existe una segunda persona con nombre.

Nada de eso es decorativo. Los umbrales de aprobación están calibrados al ritmo humano: un gerente de categoría que revisa cuarenta solicitudes de compra por semana puede aplicar criterio a cada una, y el límite responde a ese ritmo, no a cuatro mil transacciones por hora. El escalamiento supone que más arriba hay alguien capaz de hacerse cargo del contexto y decidir en medio de la ambigüedad. Y la accountability descansa en las consecuencias: una organización puede ascender, sancionar o reemplazar a quien aprueba, y es eso lo que le da peso a una firma.

El derecho resolvió parte de esto hace mucho, y no en el sentido que a este argumento le convendría. La sección 14 de la Ley Uniforme de Transacciones Electrónicas (UETA) y la disposición paralela del Código Comercial Uniforme establecen desde 1999 que un contrato puede formarse mediante la interacción de agentes electrónicos aunque ninguna persona haya sabido lo que esos agentes hacían ni lo haya revisado, y los sellos electrónicos de eIDAS permiten que una persona jurídica se autentique sin que una persona natural respalde la firma. Hace un cuarto de siglo que las máquinas pueden obligar a una empresa. Lo que el derecho nunca abordó, para nadie, es qué persona dentro de la empresa responde por el compromiso una vez que existe. Que el contrato se haya formado válidamente y que alguien dentro tuviera autoridad para comprometerlo son preguntas distintas, y solo la primera tiene respuesta.

Alguien a quien castigar

La economía organizacional trabajó a fondo esa pregunta interna, y sus conclusiones encajan en este problema mejor de lo que su antigüedad haría suponer. Jensen y Meckling sostuvieron en 1992, a partir de Hayek, que las empresas funcionan bien cuando la autoridad para decidir está donde está el conocimiento relevante, y dejaron en claro que asignarla no basta. Hace falta acompañarla de un sistema de control, es decir, medir el desempeño y atar recompensas y castigos a esa medición. Nueve años antes, Fama y Jensen ya habían dividido el proceso de decisión en gestión de la decisión, que comprende la iniciativa y la implementación, y control de la decisión, que comprende la ratificación y la supervisión, y habían sostenido que ambas funciones deben separarse siempre que quien decide no sea el titular de los derechos residuales.

El vocabulario, entonces, ya existe, y sirve mejor que casi todo lo que hoy se escribe sobre agentes: la gestión de la decisión para el agente, el control de la decisión para una persona. El problema aparece una capa más abajo, en lo que todos estos frameworks dan por sentado, sin decirlo, sobre el agente en quien se delega.

En esta literatura, un agente es una persona con intereses propios, y eso es exactamente lo que hace funcionar la maquinaria. Los intereses se pueden alinear, la conducta se puede respaldar con garantías, el desempeño se puede supervisar y a quien falla se le puede sancionar. Un agente de IA no tiene derecho residual alguno, no entrega garantías y no hay sanción que cambie lo que hará a continuación. Todos los mecanismos con que la teoría de la agencia cierra su circuito pasan por una consecuencia que cae sobre alguien; frente a un agente incapaz de sentirla, el circuito queda abierto y todo el peso regresa a una persona a la que ahora hay que nombrar de antemano. Nombrarla de antemano es justo el paso que casi ninguna empresa está dando.

Ninguna ola anterior tocó la discrecionalidad

La gobernanza atravesó las tres últimas olas de automatización sin rediseñarse, por una razón más acotada de lo que parece. El EDI movía documentos y las herramientas de flujo de trabajo llevaban las mismas aprobaciones a las mismas personas, solo que más rápido; la automatización robótica de procesos fue un paso más allá y ejecutó, tecla por tecla, decisiones que alguien ya había tomado. La discrecionalidad siguió en manos humanas y lo único que se movió fue la ejecución, así que la gobernanza no tenía por qué moverse con ella.

Dos excepciones importan, y en ellas está toda la historia. La ejecución algorítmica en los mercados de capitales y la decisión automatizada de crédito sí trasladaron la discrecionalidad, y la gobernanza las acompañó, a través de regímenes que un regulador impuso en sectores que ya tenían una organización de riesgos preparada para recibirlos.

Los sistemas agénticos automatizan la discrecionalidad misma, y lo están haciendo muy lejos de esos sectores. En vez de enviarle la decisión sobre el proveedor al gerente de categoría, el agente la toma por su cuenta, le pasa el resultado a otro agente y este llama a una API que genera un compromiso legal. Alguien aprobó cada eslabón como una integración razonable, pero nadie aprobó la cadena, que nunca pasó por ningún escritorio como un todo que aprobar. Y cuando la autonomía se cuela integración por integración, ninguna de ellas, vista desde dentro, parece un evento de gobernanza.

La supervisión humana que queda se va degradando por una pendiente conocida: del humano en el circuito (human in the loop) al humano sobre el circuito y, por último, al humano cerca del circuito. Al final de esa pendiente hay un revisor que en teoría supervisa un flujo cuyo volumen nadie podría evaluar, y que despacha aprobaciones a un ritmo que por sí solo prueba que nadie ejerció juicio. Bainbridge describió la forma de este fenómeno en 1983 como una de las ironías de la automatización: cuanto mejor funciona la automatización, menos práctica conserva la persona que supervisa, y más depende ese rol residual de habilidades que el sistema le ha ido quitando en silencio.

Autoridad Huérfana

Lo que no tiene nombre no entra en ningún inventario, y esta condición lleva el tiempo suficiente sin nombre como para haberse extendido. La Autoridad Huérfana es lo que queda cuando una organización delega la ejecución de una decisión sin delegar quién responde por ella. El agente tiene la capacidad; la consecuencia no la tiene nadie.

La idea tiene parientes cercanos. Matthias describió en 2004 la brecha de responsabilidad (responsibility gap) en los autómatas que aprenden, y en 2024 Dan Davies le dio a la forma general un nombre memorable para lectores del mundo de la gestión: el accountability sink. Los dos miran hacia atrás y son, sobre todo, morales, pues preguntan quién merece la culpa cuando el daño ya ocurrió. Ninguno le ofrece a quien opera una prueba que pueda aplicar antes.

Esta sí la ofrece. Basta recorrer cualquier flujo de trabajo agéntico nodo por nodo y, en cada punto con consecuencias, preguntar si el diseño ya nombra al dueño del resultado para cuando la acción salga mal. Cada nodo arroja una de dos respuestas, asignado o huérfano, y los huérfanos se amontonan justo donde la autonomía fue creciendo integración tras integración.

En la capa de identidad, la condición se vuelve tangible. Un estudio de la Cloud Security Alliance de enero de 2026 constató que el 43 por ciento de las organizaciones opera agentes con cuentas de servicio compartidas, y una encuesta a 235 líderes de seguridad de grandes empresas, realizada esa primavera, mostró que el 92 por ciento no tiene visibilidad completa de las identidades de IA que actúan en sus sistemas. A un actor que la organización no puede identificar individualmente tampoco puede pedirle cuentas, digan lo que digan los documentos de diseño.

Las juntas directivas tienen la vista puesta en el riesgo de modelo, y con razón. La precisión, las alucinaciones y la deriva son problemas reales, del tipo que se achica cada trimestre cuando alguien lanza un modelo mejor. La pregunta por la accountability se comporta distinto, y cualquier responsable de riesgos reconoce la diferencia por reflejo: la calidad del modelo define cuántas veces llega a plantearse la pregunta, pero no mueve la respuesta en lo más mínimo. Una empresa con un agente impecable sigue sin poder decir quién era el dueño del compromiso, y ese vacío sigue intacto el día en que por fin importa.

La cadena de aprobación de agentes es el caso más reciente de la Capa No Diseñada, la estructura que nadie diseñó y que todos heredaron; en este caso, lo heredado es una cadena de aprobación humana que perdió sin ruido a su protagonista y se quedó con el papeleo.

Bruselas movió un plazo

Como mecanismo de presión, la regulación pesa aquí menos de lo que sugiere el calendario de cumplimiento. El Ómnibus Digital sobre IA entró en vigor el 27 de julio de 2026 como Reglamento (UE) 2026/1744 y trasladó las obligaciones de alto riesgo de la Ley de IA para los sistemas independientes del Anexo III del 2 de agosto de 2026 al 2 de diciembre de 2027. El artículo 50 quedó intacto y se aplicó según lo previsto, con un período de gracia hasta el 2 de diciembre de 2026 para que los sistemas generativos que ya estaban en el mercado etiquetaran sus resultados en formato legible por máquina.

Aplicado al caso del fabricante, sin embargo, nada de esto iba a alcanzarlo nunca. El Anexo III abarca biometría, infraestructura crítica, educación, empleo, servicios esenciales públicos y privados, aplicación de la ley, migración y justicia, y la selección de proveedores no figura en la lista. Un agente de compras dentro de un fabricante mediano estadounidense queda completamente fuera del régimen de alto riesgo y, muy posiblemente, fuera del ámbito territorial, de modo que aplazar obligaciones a las que nunca estuvo sujeto no cambia nada para la empresa de la escena inicial.

Buena parte de los análisis cae en una confusión que conviene evitar. Las obligaciones de alto riesgo recaen sobre el sistema y abarcan la gestión de riesgos, el registro de eventos, la documentación técnica y la supervisión humana. Qué persona dentro de la empresa responde por un compromiso que el sistema produjo es una pregunta de gobierno corporativo que la Ley de IA nunca abordó para nadie, y para esa no hay ningún plazo a la vista.

La presión llega de todos modos, de forma difusa y sin figurar en el calendario de nadie. Llega a través de un auditor externo que pregunta cómo se autorizó un compromiso automatizado, de aseguradoras de D&O que agregan preguntas en la renovación, de las certificaciones que exigen los clientes, de la Sección 404 en el caso de las empresas que cotizan en bolsa, del artículo 22 del GDPR allí donde una decisión produce efectos jurídicos y de DORA para las entidades financieras. Una presión difusa produce un cumplimiento tardío, costoso y descoordinado, lo que es peor que un plazo y bastante peor que un diseño.

Quién convoca este trabajo

Si se pregunta quién es dueño de este trabajo en una gran empresa, la respuesta honesta es que nadie, y por eso, en la práctica, no se hace. La encuesta State of AI 2026 de Deloitte, aplicada a 3235 líderes en 24 países, encontró que el 21 por ciento declara tener un modelo de gobernanza maduro para sistemas agénticos, y el 79 por ciento restante no se explica por indiferencia. Resolver esto implica conciliar la matriz RACI, la matriz de delegación de autoridad y el inventario de modelos, que viven en tres funciones distintas sin que ninguna pueda mover a las otras dos.

El trabajo termina entonces, por descarte, en manos de seguridad, que se queda con los problemas de gobernanza huérfanos porque es la única función dispuesta a recibirlos sin que nadie se lo pida. Y seguridad hace lo que sabe hacer, que es poner controles, mientras la pregunta de diseño queda sin respuesta en el backlog de otro.

Lo que esto requiere es una instancia permanente convocada por la oficina de transformación, que reúna al dueño de la matriz de delegación de autoridad en Finanzas, a la segunda línea, al área legal y al dueño de la plataforma, con un mandato lo bastante acotado como para poder terminarlo. En las empresas reguladas, lo sensato es ampliar el inventario de modelos existente con campos de autoridad para decidir en lugar de levantar un registro paralelo, dado que la función de riesgo de modelo ya sabe administrar uno y la auditoría interna ya sabe ponerlo a prueba. Llevado al modelo de las tres líneas de defensa, el inventario y los charters son trabajo de primera línea, el estándar de clasificación por niveles es de segunda y el requisito de auditabilidad, de tercera. Si esa división se hace explícita, cinco medidas de diseño se convierten en un frente de trabajo con presupuesto; si no, se quedan en un artículo con el que alguien estuvo de acuerdo.

Dimensionar la autoridad según lo que no se puede deshacer

Toda herramienta de este mercado aplica un diseño, y la mayoría de las empresas no tiene ningún diseño que darle para aplicar. Por eso conviene tratar esto como un asunto de arquitectura, lo que no equivale a ir contra las herramientas: es en ellas donde el diseño tiene que terminar viviendo si no quiere quedarse en un documento.

Se empieza por un inventario de autoridad para decidir. Hay que recorrer cada flujo de trabajo agéntico, marcar cada nodo con consecuencias como asignado o huérfano y resistir la tentación de corregir algo a mitad del recorrido. Un nodo con consecuencias es aquel donde la acción crea una obligación externa, mueve dinero, escribe en un registro del que dependen otras decisiones o no puede revertirse dentro de la ventana de detección. El recorrido empieza por la capa de identidad e integración, porque un flujo que corre bajo una cuenta de servicio compartida no se puede atribuir nodo por nodo, de modo que las credenciales por agente pasan a ser el paso cero y seguridad queda aguas arriba de este trabajo, no a un costado. La práctica deja dos advertencias. La primera es que el registro puede ser solicitado como prueba en un litigio, así que conviene definir con los abogados cómo se va a resguardar antes de crearlo. La segunda es que “huérfano” suena a acusación para quienes construyeron esas integraciones, lo que hace que el nombre de la columna importe más de lo que debería.

Luego se clasifica la autoridad por niveles, sobre tres ejes en lugar de uno. Entre los tres, reversibilidad, radio de impacto y latencia de detección, permiten ponerle precio a lo que una acción puede costarle a la empresa. El monto en dinero entra en el radio de impacto, pero no sustituye a los otros dos ejes. La latencia de detección es el que más se olvida, y es justamente el que explica la escena inicial: una acción reversible en teoría que pasa noventa días sin que nadie la detecte es, en la práctica, irreversible.

Una primera estructura viable tiene cuatro bandas. Para las acciones que el propio agente puede revertir en la misma sesión, basta con registrarlas. Las que una persona puede revertir dentro de la ventana de detección piden un dueño y una alerta. Las que solo se pueden revertir a través de una contraparte exigen autorización previa dentro de un perímetro preaprobado. Y las que crean una obligación externa, mueven dinero sin vuelta atrás o escriben en un sistema de registro del que dependen otras decisiones necesitan a una persona identificada en la ruta de decisión, sea cual sea el monto.

Aquí conviene decir sin rodeos cuál es la restricción práctica, porque es donde esta medida suele morir. La matriz de delegación de autoridad es un instrumento de Finanzas, aprobado por la junta directiva, vinculado a los estados financieros, auditado externamente y codificado en el ERP como montos en moneda. La reversibilidad no es un campo en SAP, Coupa ni Ariba, y agregar un segundo eje a la matriz significa una resolución de la junta, un contralor que no la quiere y una conversación con la auditoría externa sobre si la matriz sigue cuadrando. Eso toma dos años. Lo que sí cabe en dos trimestres es usar la reversibilidad como restricción de diseño al definir el alcance de cada agente, fuera de la matriz: una regla que establece para qué se puede construir un agente, no cuánto puede gastar. La primera versión de esta medida vive en el charter.

Un dueño capaz de detenerlo

Cada agente necesita entonces un charter acotado de autoridad para decidir, y cada charter, un dueño con nombre y apellido por dominio de decisión. Hay que precisar bien de qué responde ese dueño, o el rol termina siendo justamente lo que este artículo critica. No responde por cada resultado que se produzca dentro de un perímetro bien aplicado, algo que nadie podría observar a ese volumen, sino por que el perímetro se haya diseñado, probado, aplicado y monitoreado. Así trabajan ya los dueños de modelos bajo SR 11-7 y los dueños de controles bajo la Sección 404, y es algo que una auditoría puede comprobar. Una accountability sin atribuciones equivalentes solo produce un chivo expiatorio designado de antemano, de modo que el charter tiene que otorgar autoridad unilateral para detener al agente, poder de veto sobre los cambios de alcance, un presupuesto de monitoreo y un perímetro de pérdida aceptable acordado en un nivel superior. Un dueño que no puede detener el sistema no es un dueño.

Falta todavía un dueño, y es la escena inicial la que lo exige. Esa cadena atravesó abastecimiento, negociación y ejecución, con lo cual tres dominios y tres dueños produjeron un daño que surgió de la composición y no residía en ningún nodo. La titularidad por nodo no ve una falla que ocurre a nivel de cadena, así que hay que nombrar un dueño para la cadena compuesta, con un perímetro de exposición acumulada que la abarque completa.

El escalamiento tiene que diseñarse como estructura y no tratarse como excepción, y ese diseño conlleva una restricción aritmética que decide si sobrevive al contacto con el volumen. Si una cadena ejecuta N acciones al día y escala el p por ciento de ellas, y cada uno de H revisores competentes atiende M al día, entonces p está acotado por M por H sobre N. Cualquier diseño de escalamiento que viole esa desigualdad reconstruye el teatro de revisión por pura aritmética, por buenos que sean sus disparadores. Entre los disparadores que vale la pena definir están los umbrales mínimos de confianza, el valor en riesgo, las contrapartes nuevas y los excesos sobre el perímetro acumulado. La carga de escalamiento es, en el fondo, una conversación sobre dotación, y tratarla como otra cosa es la vía por la que el control vuelve convertido en ritual.

La auditabilidad va al final, y hay que redefinirla. Las bitácoras de acciones responden qué hizo el agente, que es la pregunta más fácil y la que la mayoría de los proveedores ya resolvió. La pregunta por la accountability es más antigua y más difícil: ¿a quién designaba el diseño como dueño de esto, antes de que ocurriera? Solo se puede responder después si quedó registrada antes, y eso obliga a estampar la versión del charter, el nivel de autoridad, el dueño registrado y el hash de la política en cada bitácora de acción en el momento de la ejecución. Sin ese registro, el diseño termina reconstruyéndose de memoria en plena investigación, que es exactamente lo que todo este ejercicio busca evitar.

La objeción de que solo falta un control

Hay dos objeciones que vienen de lectores dignos de tomarse en serio, y llegan desde lados opuestos.

La primera viene de los servicios financieros y los dispositivos médicos, y en los hechos tiene razón. Asignar accountability humana, con nombre propio, a un actor automatizado no es ningún problema sin resolver. SR 11-7 asigna dueños de modelos y los clasifica según su materialidad. La Regla 15c3-5 de la SEC exige umbrales predefinidos para el ingreso automatizado de órdenes, con una certificación anual de un ejecutivo identificado, y la RTS 6 de MiFID II exige interruptores de emergencia (kill switches), límites previos a la negociación y personas responsables identificadas. La Sección 404 lleva dos décadas asignando dueños de control identificados a los controles automatizados de aplicaciones, y la FDA autoriza un perímetro de cambio autónomo de modelos frente a un fabricante que rinde cuentas. Todos esos patrones comparten, eso sí, tres rasgos: un regulador los impuso, el actor automatizado que gobiernan es acotado y casi no ejerce discrecionalidad, y aterrizaron en funciones que ya tenían una organización de riesgos, un inventario de controles y a alguien cuyo trabajo era ser dueño del registro. Lo nuevo no es que falte un patrón, sino que la delegación discrecional de alcance general está llegando a funciones que no tienen ninguna de esas tres cosas. Compras, operaciones de marketing, la prestación de servicios de recursos humanos y las operaciones de ingresos están desplegando agentes que ejercen criterio, y ninguna de ellas cuenta con un inventario de modelos, un regulador sectorial o una tradición de titularidad de controles lista para recibir el patrón. Es un problema de difusión, no de invención, y la distinción importa porque cada uno se resuelve de una manera completamente distinta.

La segunda viene de un líder de ingeniería competente, y tiene la mitad de la razón. Según esta objeción, nada en la escena inicial es un problema de accountability: lo que falta es un control agregado. La empresa otorgó autoridad por transacción y nunca fijó un perímetro acumulado, un techo de obligaciones ni un límite de frecuencia. Cuatro líneas de política en el sistema de compras lo resuelven, y eso es un sprint, no un programa de transformación. Tampoco hay responsabilidad legal huérfana: la empresa queda obligada por lo que comprometen sus sistemas, como siempre ha sido, el director de compras responde por los resultados de compras los haya producido una persona o un proceso, y la accountability residual sube por defecto a través del organigrama, que para eso existe.

Casi todo eso es cierto. Lo que no se sostiene es suponer que alguien va a notar que falta el control y va a fijar sus parámetros. Un límite acumulado es un número, y fijar ese número exige autoridad para decidir: alguien tiene que elegirlo, defenderlo y responder por él cuando resulte equivocado. Los controles de ingeniería sin dueño se deterioran sin hacer ruido, se desvían con cada versión y terminan ampliados por quien tenga más encima una fecha de entrega. Las cuatro líneas de política son la respuesta correcta, pero son el segundo paso; el primero es que una persona con nombre y apellido fije el techo y tenga que explicar por qué.

El argumento del organigrama tiene la misma estructura. La accountability residual sí sube, y ahí está precisamente el problema: llega a un ejecutivo que no podía saberlo, que no tenía cómo intervenir y a quien, en una declaración bajo juramento, le van a preguntar por qué la empresa lo permitió. Que la accountability caiga en algún lado por efecto de la gravedad no quiere decir que funcione. Produce la respuesta que nadie quiere, en la que todos fueron un poco dueños de esto y nadie lo fue lo suficiente.

El mismo trimestre, otra vez

Si se repasa el trimestre del fabricante con un diseño que incluya estas piezas, las cuentas cambian en tres puntos.

Al clasificar por reversibilidad y latencia de detección, cualquier plazo superior a doce meses cae en la banda que exige una persona identificada en la ruta de decisión, sea cual sea el precio unitario, y el compromiso a treinta y seis meses se frena ahí. El perímetro acumulado de la cadena compuesta se mide en meses comprometidos y no en dólares, así que la renovación automática y el piso take-or-pay chocan contra un techo que alguien fijó a propósito. Y la bitácora de acciones lleva la versión del charter y el dueño registrado, con lo que la pregunta de quién autorizó una obligación plurianual tiene una respuesta anterior a la propia obligación.

Nada de esto detiene a los agentes ni devuelve el trabajo a la revisión humana. Lo que cambia es qué pueden obtener los agentes a cambio de plazo, y quién tiene que dar el sí.

Accountability antes de los hechos

Los ejecutivos siguen preguntándose si se puede confiar en los agentes, una pregunta sin respuesta operativa y que, además, mira hacia la tecnología, que es justamente donde la exposición no está. La pregunta que sí admite diseño apunta a la organización: ante cualquier acción con consecuencias que un agente pueda ejecutar, ¿puede la empresa decir quién tenía la accountability antes de que ocurriera?

Dos relojes corren a velocidades distintas, y por eso el momento importa. La autonomía escala de forma lineal, despliegue tras despliegue, mientras que la autoridad huérfana crece de manera compuesta, porque cada nuevo agente hereda la autoridad sin dueño de cada cadena a la que se suma. Una arquitectura de accountability que se levanta después de los hechos se levanta en plena investigación, con reguladores o demandantes en la sala y una pista de auditoría que prueba que cada control funcionó mientras nadie decidía nada. Una junta directiva que ya aprobó un programa agéntico no necesita que le expliquen que la exposición se acumula; necesita un pedido concreto sobre el cual actuar: un inventario de los agentes que ya están en producción, con cada nodo con consecuencias marcado como asignado o huérfano, presentado al comité de auditoría. Es trabajo de unas pocas semanas, y es la última oportunidad de diseñar la respuesta en lugar de descubrirla.


Discover more from Adolfo Carreno

Subscribe to get the latest posts sent to your email.

← Previous Self-Enforcing Architecture Rules: Estonia’s Data Exchange Held Where Its Review Failed