IA avanzada y control
Agentes y flujos empresariales: cuánta autonomía dar y cómo controlarla
01 · Entrada
- Petición del usuario
- Contenido externo marcado como no confiable
02 · Orquestación
- Pasos fijos programados
- Agente con herramientas por tarea
- Límites de pasos y coste
03 · Acciones
- Lectura sin aprobación
- Escritura reversible registrada
- Efecto externo con aprobación
04 · Auditoría
- Traza de herramientas y parámetros
- Versión de modelo e instrucciones
- Registro de aprobaciones
El problema
Por qué hay que decidirlo bien
Las demostraciones de agentes suelen mostrar tareas resueltas de principio a fin sin intervención, y eso empuja a conceder autonomía y herramientas antes de saber si hacen falta. En producción aparecen los problemas: un agente que repite llamadas y dispara el gasto, una acción con efectos externos que no se puede revertir, un correo con instrucciones incrustadas que altera el comportamiento o una decisión que nadie sabe reconstruir. El reto es dar al modelo exactamente la libertad que la tarea requiere y ni un paso más.
Escenarios
Situaciones en las que se plantea
Ejemplos de lo que se podría diseñar. No describen proyectos realizados.
01
Flujo fijo con un paso de IA
Una solicitud entra por formulario, el modelo extrae y clasifica su contenido y el resto del proceso sigue reglas programadas. Es la opción más predecible y suele ser suficiente cuando los pasos se conocen de antemano.
02
Agente acotado de solo lectura
Para responder consultas que requieren cruzar varios sistemas, el agente elige qué consultas hacer entre un catálogo cerrado de herramientas de lectura. Al no poder modificar nada, el riesgo principal es una respuesta incorrecta, que se mitiga con citas.
03
Agente que propone y una persona que ejecuta
El agente prepara una acción completa, como una modificación de pedido, con los datos que la justifican. La ejecución queda bloqueada hasta que alguien con permiso la revisa y la aprueba desde su herramienta habitual.
04
Automatización de acciones internas reversibles
Tareas como etiquetar expedientes o asignar incidencias a una cola se ejecutan sin aprobación porque pueden deshacerse sin coste. Esa autonomía se concede por decisión expresa, se registra y se revisa por muestreo.
Decisiones técnicas
Qué hay que decidir y con qué criterio
01
Grado de autonomía por tramo
Se descompone el proceso y se decide en cada tramo si manda el código, el modelo dentro de opciones cerradas o el modelo con libertad de elección. Lo predecible se programa; la autonomía se reserva para lo que de verdad varía.
02
Catálogo de herramientas autorizadas
Cada herramienta tiene un propósito, un esquema de parámetros validado y un alcance de lectura o escritura. Se conceden por tarea y no de forma global, y nunca con credenciales genéricas de administrador.
03
Reversibilidad y aprobación humana
Las acciones se clasifican según puedan deshacerse o no y según tengan efectos fuera de la organización. Las irreversibles o externas exigen aprobación; las reversibles internas pueden automatizarse con registro y posibilidad de deshacer.
04
Defensa frente a inyección de instrucciones
El contenido que procede de correos, documentos o webs se marca como dato no confiable, se reduce el conjunto de herramientas disponibles cuando hay contenido externo en juego y se filtran las salidas para evitar fugas de información.
05
Límites de coste, pasos y tiempo
Cada ejecución tiene un máximo de llamadas al modelo, de pasos y de tiempo, con parada segura y aviso al superarlos. El gasto se vigila por tarea y por usuario para detectar bucles o usos anómalos.
06
Auditoría y reconstrucción
Se registran la petición, las herramientas invocadas con sus parámetros y resultados, la versión de modelo e instrucciones y quién aprobó cada acción, de modo que cualquier resultado pueda reconstruirse después.
Riesgos y límites
Lo que conviene tener presente
- La inyección de instrucciones no tiene hoy una solución definitiva; las defensas se combinan y se prueban con intentos deliberados antes de abrir el sistema.
- Cuanta más autonomía, más difícil es probar todos los caminos posibles; los flujos con agentes requieren más casos de prueba y más vigilancia en producción.
- Las aprobaciones pueden degradarse en un clic rutinario si se piden demasiadas; conviene reservarlas para lo que importa y mostrar claramente qué se aprueba.
- Un agente no exime de responsabilidad a quien lo opera: las decisiones con consecuencias jurídicas, económicas o sobre personas mantienen la supervisión que corresponda.
Preguntas frecuentes
¿Cuándo es mejor un flujo fijo que un agente?
Cuando los pasos del proceso se conocen de antemano y cambian poco. Un flujo fijo es más barato, más fácil de probar y más previsible. El agente aporta cuando la secuencia depende de lo que se va encontrando y no puede programarse con reglas razonables.
¿Cómo se controla lo que gasta un agente?
Con límites por ejecución en número de llamadas, pasos y tiempo, con parada segura al alcanzarlos, y con vigilancia del gasto agregado por tarea y usuario. Los límites se ajustan con datos reales de uso tras un periodo de prueba.
¿Qué pasa si el agente ejecuta una acción equivocada?
Por diseño, las acciones que no se pueden deshacer o que salen de la organización requieren aprobación previa. Para las reversibles hay una forma documentada de revertirlas, y la traza permite saber qué ocurrió para corregir instrucciones o permisos.
Sectores, capacidades y lecturas relacionadas
Sectores donde se plantea
Capacidades relacionadas
- Agentes de IAAsistentes que consultan datos, preparan expedientes y proponen acciones dentro de límites, con aprobaciones y registro de todo lo que hacen.
- Workflows y reglasProcedimientos internos convertidos en circuitos con estados, responsables y reglas explícitas, de modo que cada decisión quede registrada y se pueda revisar.
- Integración de sistemasConexiones entre aplicaciones que mueven datos con reglas claras, detectan errores y permiten saber qué versión de cada dato es la buena.
- Identidad y permisosModelos de permisos que dan a cada persona acceso solo a lo que necesita, separan organizaciones y dejan registro de las acciones relevantes.
Cuéntanos qué proceso quieres automatizar y qué acciones son delicadas
Ninguna modalidad está disponible por defecto en todos los proyectos: se elige tras evaluar requisitos, sistemas existentes y riesgos.
Sin compromiso de aceptación: estudiamos cada caso antes de proponer nada. Cómo tratamos la información que compartes.