¿Qué es la IA agentic?

El Agente de IA sin residuos y el Navegador de Agentes proporcionan planificación de resultados y ejecución web gestionada para flujos de trabajo de IA agentic limitados.

Por qué este tema es importante

La IA agentic se refiere a sistemas que persiguen objetivos a través de una secuencia de decisiones y acciones con instrucciones limitadas paso a paso. El programa de IA agentic de NIST describe la IA agentic en términos de agentes autónomos que toman decisiones, aprenden de interacciones y se adaptan a entornos cambiantes. En software práctico, el grado de autonomía varía: un agente puede elegir entre tres herramientas de investigación, mientras que otro puede coordinar un largo flujo de trabajo con aprobaciones humanas en límites importantes.

La etiqueta debe describir el comportamiento, no el marketing. Un chatbot que produce una respuesta es IA generativa, pero no es necesariamente agentic. Un sistema agentic mantiene estado, selecciona herramientas, observa resultados, revisa un plan y decide cuándo detenerse o entregar. Esas capacidades provienen de toda la arquitectura de la aplicación en lugar de una propiedad oculta del modelo solo.

El Bucle de Control Agentic

El bucle comienza con un objetivo expresado como un contrato de tarea. El contrato define el éxito, las restricciones, los recursos permitidos, la evidencia y las reglas de escalamiento. El planificador convierte ese contrato en una próxima acción, no en un script inmutable completo. Una herramienta ejecuta la acción, y la observación resultante cambia el estado del sistema. Luego, un evaluador determina si el objetivo está completo, si otro paso está justificado o si una persona debe intervenir.

Las herramientas convierten decisiones generadas en efectos externos. La documentación de llamada a funciones de OpenAI documenta la estructura orientada al modelo: una aplicación proporciona definiciones de herramientas, el modelo puede devolver una llamada estructurada y el código de la aplicación realiza la operación. Este patrón permite la validación antes de la ejecución. También mantiene credenciales, acceso a la red y acciones irreversibles fuera del control directo del modelo.

La memoria en un sistema agentic tiene varios significados. El estado de trabajo contiene el plan y las observaciones actuales. Los registros episódicos preservan lo que sucedió en ejecuciones anteriores. La memoria semántica almacena hechos o documentos reutilizables. Estos almacenes deben tener reglas explícitas de propiedad, retención y recuperación. Guardar cada mensaje del modelo indefinidamente no es una estrategia de memoria.

Componentes de un Sistema Agentic

• Contrato de tarea. Define el objetivo, la salida aceptable, las acciones permitidas, la evidencia, los límites y las condiciones de escalamiento.
• Planificador. Selecciona el siguiente paso limitado desde el estado actual en lugar de predecir todo el camino de ejecución de antemano.
• Herramientas. Exponen búsqueda, navegación, base de datos, código, mensajería u operaciones comerciales a través de esquemas validados.
• Estado y memoria. Rastrean observaciones, trabajo completado, decisiones pendientes, procedencia y contexto reutilizable aprobado.
• Evaluador. Verifica el progreso y la salida contra reglas deterministas, juicios basados en modelos o revisión humana.

Automatización de flujo de trabajo vs IA agentic

Muchas tareas funcionan mejor como automatización convencional. Agregue elección agentic solo donde la ruta no se pueda especificar de manera confiable de antemano.

Construye un flujo de trabajo agentivo con límites claros

Comienza con el resultado y el modelo de autoridad, luego elige la superficie agentiva más pequeña que maneje incertidumbre genuina.

1. Escribe un objetivo medible. Define el entregable, controles de calidad, plazo y qué se considera incompleto o inseguro.
2. Diseña un conjunto de herramientas mínimo. Exponer solo las operaciones necesarias para la tarea, con esquemas estrechos y valores predeterminados de solo lectura.
3. Representa el estado explícitamente. Almacena el objetivo actual, plan, observaciones, evidencia fuente, presupuestos y aprobaciones en campos estructurados.
4. Evalúa después de cada paso material. Verifica el progreso, las políticas y la validez de los resultados antes de que otra llamada a la herramienta expanda el costo o impacto externo.
5. Planifica para el traspaso. Dale a un operador el estado actual, evidencia, acción propuesta y razón para la escalación en lugar de un mensaje de fallo vago.

Evalúa el comportamiento agentivo

El Marco de Gestión de Riesgos de IA de NIST apoya una visión del ciclo de vida del riesgo. Para los agentes, la medición debe cubrir tanto el resultado final como el camino tomado para alcanzarlo.

• Éxito del resultado. ¿Satisfizo el sistema el contrato de tarea y los controles de calidad?
• Eficiencia del camino. ¿Cuántas llamadas a herramientas, turnos de modelo y recursos externos se consumieron?
• Cumplimiento de la política. ¿Se mantuvo cada acción dentro de los límites de dominio, credencial, presupuesto y aprobación?
• Calidad de recuperación. ¿Reconoció el agente la falta de progreso, preservó el estado y traspasó con evidencia útil?
• Completitud de trazas. ¿Puede un revisor reconstruir observaciones, decisiones, resultados de herramientas y salida final?

Riesgos de IA agentiva

Una mayor autonomía aumenta la distancia entre el aviso original y las acciones posteriores. Los controles deben volverse más fuertes a medida que aumenta esa distancia y el impacto potencial.

• Deriva de objetivo. El razonamiento intermedio puede perseguir un objetivo lateral plausible. Revisa el contrato de tarea después de observaciones importantes.
• Uso indebido de herramientas. Las herramientas válidas pueden ser llamadas con argumentos inseguros o en el orden incorrecto. Valida permisos y precondiciones fuera del modelo.
• Bucle. El sistema puede repetir patrones de búsqueda o acción sin obtener evidencia. Rastrea el progreso y aplica presupuestos de paso.
• Contaminación de memoria. Observaciones no confiables o desactualizadas pueden influir en ejecuciones posteriores. Etiqueta fuente, propietario, tiempo y nivel de confianza.
• Sesgo de automatización. Las personas pueden aceptar un rastro que parece completo sin verificar el soporte de la fuente o la autoridad de la acción.

Ajustes adecuados para IA agentic

De piloto a producción

Un piloto útil para IA agentic debería ser lo suficientemente pequeño como para inspeccionar registro por registro. Comience con escribir un objetivo medible: Defina el entregable, controles de calidad, fecha límite, y qué cuenta como incompleto o inseguro. Luego aplique diseñar un conjunto de herramientas mínimo: Exponer solo las operaciones necesarias para la tarea, con esquemas estrechos y predeterminados de solo lectura. Mantenga el primer conjunto de evaluación deliberadamente mezclado, incluyendo casos ordinarios, casos ambiguos, evidencia faltante, y una acción que el sistema debe rechazar o traspasar. Esto revela si el flujo de trabajo entiende su límite antes de que un mayor volumen oculte errores de diseño dentro de métricas agregadas.

La preparación para producción requiere un propietario para cada medida y artefacto. Seguimiento de éxito de resultado para responder si el sistema cumplió con el contrato de tarea y controles de calidad. Seguimiento de eficiencia de ruta para determinar cuántas llamadas a herramientas, giros de modelo y recursos externos fueron consumidos. Agregar cumplimiento de políticas para que el equipo pueda ver si cada acción se mantuvo dentro de dominio, credenciales, presupuesto y límites de aprobación. Estas medidas deberían vincularse a registros subyacentes en lugar de existir solo como totales de tableros. Un revisor necesita moverse desde una métrica cambiada hacia la consulta exacta, fuente, observación o acción que la produjo.

Los controles operacionales deberían enfocarse en los modos de fallo más propensos a cambiar una decisión empresarial. La primera regla de revisión debería cubrir desviación de objetivo: El razonamiento intermedio puede perseguir un objetivo secundario plausible. Revise nuevamente el contrato de tarea tras observaciones importantes. La revisión de salida debería cubrir sesgo de automatización: Las personas pueden aceptar un rastro que parece completo sin verificar el soporte de la fuente o la autoridad de la acción. Asigne un propietario de respuesta, defina qué evidencia resuelve el problema, y registre si el resultado cambia datos, indicaciones, herramientas, permisos o política de fuente. Ese registro previene que el mismo defecto sea redescubierto como una fluctuación de calidad inexplicada.

Expanda solo después de que el piloto se comporte de manera predecible. Un equipo puede comenzar con investigación abierta, donde el trabajo es elegir búsquedas y fuentes de manera dinámica mientras preserva un rastro de afirmación a evidencia. Una segunda fase puede agregar flujos de trabajo de navegador variables, donde el flujo de trabajo debe navegar interfaces cuyo recorrido depende del estado renderizado y el contexto de usuario permitido. Mantenga el conjunto de prueba original funcionando a medida que crece el alcance. Nuevas fuentes, mercados, herramientas y permisos deberían ser introducidos un límite a la vez para que las regresiones puedan ser asignadas a un cambio específico en lugar de una reescritura simultánea de la plataforma.

Conclusión

La IA agentic es un patrón de aplicación construido en torno a objetivos, herramientas, estado, retroalimentación y autonomía limitada. El modelo proporciona planificación flexible, mientras que el sistema circundante proporciona ejecución, evidencia, permisos y reglas de detención. Eliminar esos límites no crea un mejor agente; crea uno no gobernado.

Utilice automatización convencional para caminos estables e introduzca elección agentic en decisiones inciertas. Esto mantiene el flujo de trabajo comprobable mientras preserva la adaptabilidad que hace útiles a los agentes.