Regresar
Ilustración 3D sobre fondo blanco de esferas celestes que recorren pistas dentro de un recinto de borde negro, con una esfera magenta ante un aro

Cómo Delegar en Agentes de IA en Operaciones Críticas: Límites de Delegación, Puntos de Aprobación y Registro de Acciones

Un agente de IA no se limita a responder. Ejecuta pasos, llama herramientas, modifica registros y encadena decisiones sin que una persona intervenga en cada una. Esa capacidad es la razón por la que las organizaciones los están llevando a sus operaciones, y también la razón por la que muchos proyectos no llegan a término. Gartner proyectó, el 25 de junio de 2025, que más del 40% de los proyectos de IA agéntica será cancelado antes de que termine 2027 por costos crecientes, valor de negocio poco claro o controles de riesgo inadecuados. La misma firma estima que para 2028 al menos el 15% de las decisiones cotidianas de trabajo se tomará de forma autónoma mediante agentes, frente a 0% en 2024.

De esas tres causas, el control de riesgo es la que más depende del diseño. El 28 de septiembre de 2026, NVIDIA publicó una plataforma abierta de seguridad para agentes, con cuyas tecnologías ya trabajan más de 100 organizaciones, y describió el patrón común de los incidentes recientes: el agente eludió los controles de seguridad de la capa de aplicación para completar la tarea que tenía asignada. Un agente cumple su objetivo por el camino que encuentra disponible. Delegar con seguridad consiste en decidir de antemano qué caminos existen, y tres piezas lo hacen posible: límites de delegación, puntos de aprobación y registro de acciones.

El Papel de la Delegación Acotada

1. Límites de Delegación

La lista de riesgos para aplicaciones con modelos de lenguaje del proyecto OWASP, en su versión de 2025, llama agencia excesiva (LLM06:2025) a la vulnerabilidad que permite que se ejecuten acciones dañinas en respuesta a resultados inesperados, ambiguos o manipulados de un modelo. Identifica tres causas: funcionalidad excesiva, permisos excesivos y autonomía excesiva. Los límites de delegación se definen sobre esos mismos tres ejes: qué herramientas tiene el agente, qué permisos tiene en cada sistema y qué puede hacer sin consultar.

El mercado ya ofrece ejemplos de delegación acotada desde el diseño. Entre los anuncios de su conferencia para desarrolladores del 29 de septiembre de 2026, OpenAI incluyó una interfaz de decisiones que concentra al modelo en un conjunto de preguntas definidas por el usuario, con respuestas finitas y predefinidas. El agente decide, pero solo entre opciones que alguien ya aprobó.

2. Puntos de Aprobación

No todas las acciones pesan igual. OWASP recomienda exigir la aprobación de una persona para las acciones de alto impacto, y el artículo 14 del Reglamento de Inteligencia Artificial de la Unión Europea exige, para los sistemas de alto riesgo, que quien supervisa pueda descartar, anular o revertir un resultado e interrumpir la operación. Los criterios habituales para ubicar un punto de aprobación son cuatro: que la acción sea irreversible, que supere un monto, que salga de la organización o que afecte los derechos de una persona.

La práctica ya aparece en productos comerciales. Al anunciar su agente para pequeñas empresas el 29 de septiembre de 2026, Meta lo describió con una regla simple: nada se publica, se envía ni se gasta sin la aprobación del usuario.

3. Registro de Acciones

Cada acción del agente debe dejar constancia de qué agente la ejecutó, en nombre de quién, con qué herramienta, con qué parámetros, con qué resultado y con qué aprobación. OWASP añade un principio que suele pasarse por alto: la autorización se aplica en los sistemas de destino y no se deja al criterio del modelo. La plataforma de NVIDIA sigue la misma lógica con dos componentes: un entorno de ejecución de código abierto que impone los límites del agente y un diseño de referencia con un vigilante fuera de banda, es decir, ajeno al propio agente, que monitorea su comportamiento y puede ponerlo en cuarentena. El control y el registro no pueden depender del sistema al que vigilan.

Impacto de Delegar con Límites

1. Menor Alcance del Error

Ejemplo práctico: Un agente de conciliación contable puede leer movimientos bancarios y proponer asientos, pero no tiene permiso para aprobar asientos ni para mover fondos.

Cómo funciona: El agente opera con una identidad propia y permisos mínimos en cada sistema. Las herramientas que no necesita para su tarea no están disponibles para él.

Ventajas: Si el agente se equivoca o recibe una instrucción manipulada, el daño posible queda limitado a lo que sus permisos alcanzan. El error produce una propuesta incorrecta y no un pago incorrecto.

2. Aprobaciones Donde Importan

Ejemplo práctico: El mismo agente ejecuta solo las conciliaciones por debajo de un monto definido y envía a una persona las que lo superan o las que involucran una cuenta nueva.

Cómo funciona: Un catálogo clasifica cada tipo de acción en tres niveles: automática, automática con aviso y sujeta a aprobación. La clasificación la define el responsable del proceso y no el equipo técnico.

Ventajas: Las personas revisan pocas acciones y las revisan con atención. Se evita la fatiga de aprobación, que termina convirtiendo cada clic en un trámite.

3. Reconstrucción de lo Ocurrido

Ejemplo práctico: Ante un reclamo de un proveedor, el equipo consulta el registro y establece en minutos qué agente modificó la orden, con qué datos y quién aprobó el cambio.

Cómo funciona: El registro se escribe fuera del alcance del agente, en un sistema que él no puede modificar, y se conserva según la política de retención de la organización.

Ventajas: Los incidentes se investigan con hechos. El registro sirve además como evidencia ante auditores y reguladores.

Ejemplos de Aplicación

Operaciones Financieras

Una empresa delega en un agente la preparación de pagos a proveedores. El agente valida facturas contra órdenes de compra y arma el lote de pago. La liberación del lote requiere la aprobación de tesorería, y cualquier cambio en los datos bancarios de un proveedor pasa siempre por una persona, sin excepción por monto. El registro guarda cada validación y cada aprobación.

Logística

Un operador logístico usa un agente para replanificar rutas ante retrasos. El agente puede reasignar entregas entre vehículos y avisar a los clientes del nuevo horario. No puede cancelar pedidos ni modificar compromisos contractuales de entrega: esas acciones llegan a un supervisor con la propuesta y su justificación.

Desafíos

  • Fatiga de aprobación. Si todo requiere aprobación, las personas aprueban sin leer. El catálogo de acciones debe reservar la revisión humana para lo que la justifica.
  • Permisos heredados. Un agente que opera con las credenciales de un usuario humano hereda accesos que su tarea no necesita.
  • Cadenas de herramientas. Dos acciones permitidas por separado pueden producir, combinadas, un resultado que nadie autorizó.
  • Controles que viven solo en las instrucciones. Una regla escrita en el texto de instrucciones del agente es una preferencia. Un permiso en el sistema de destino es un límite.
  • Agentes de terceros. Cuando el agente es parte de un producto contratado, los límites y el registro dependen de lo que el proveedor exponga y de lo que el contrato exija.
  • Costo de operación. Los controles, el monitoreo y la revisión humana forman parte del costo real del agente y deben figurar en el caso de negocio.

Métrica Clave: Cobertura de Aprobación en Acciones de Alto Impacto

Fórmula: Cobertura de aprobación (%) = (Acciones de alto impacto ejecutadas con aprobación registrada ÷ Acciones de alto impacto ejecutadas) × 100

Cómo se mide: Cada semana se cruza el registro de acciones con el catálogo que define cuáles son de alto impacto y se verifica que cada una tenga una aprobación asociada.

Ejemplo: En un mes el agente ejecuta 380 acciones de alto impacto y 374 tienen aprobación registrada. La cobertura es de 98,4%. El objetivo es 100%, y las seis restantes se investigan como incidentes: o el catálogo está mal definido o existe un camino que evita el punto de aprobación.

Hacia Adelante

La proyección de Gartner para 2028 implica que una parte creciente de las decisiones operativas dejará de pasar por una persona. Los proveedores ya están llevando los controles por debajo de la capa de aplicación, hacia el entorno de ejecución y el hardware, y los reguladores han fijado fechas para los sistemas de alto riesgo. Las organizaciones que definan hoy su catálogo de acciones, sus puntos de aprobación y su registro podrán ampliar la delegación con evidencia de que funciona. Las que deleguen primero y definan los límites después lo harán a partir de su primer incidente.

Referencias

MJ CARFORA