Glosario
74 términos de «Fundamentos del arnés de agente: bucles y control». Pasa el cursor sobre la primera aparición en la lección para ver la definición.
| Término | Definición | Fuente |
|---|---|---|
| arnés | El nombre colectivo del código de control envuelto alrededor del modelo: ejecutar herramientas, impulsar el bucle, decidir cuándo parar y cuándo esperar a una persona. El modelo solo propone acciones; el arnés dictamina si esas acciones ejecutan y si el bucle continúa. | How tool use works — Claude API |
| agente | Un LLM que usa herramientas basándose en la retroalimentación del entorno, dentro de un bucle. El modelo dirige dinámicamente su propio proceso y decide qué herramientas usar dentro del bucle, en lugar de seguir caminos de código predefinidos. | Building Effective AI Agents — Anthropic Engineering |
| flujo de trabajo | Sistemas donde los LLM y las herramientas se orquestan a través de caminos de código predefinidos. El siguiente paso está escrito en duro, no decidido por el modelo en el momento. | Building Effective AI Agents — Anthropic Engineering |
| decisiones de flujo de control | Elegir el siguiente paso dentro del bucle: qué herramienta llamar, si continuar o parar, qué ruta tomar. En un agente, el modelo las toma; en un flujo de trabajo, el código las toma. | Building Effective AI Agents — Anthropic Engineering |
| retroalimentación del entorno | Los resultados devueltos por las herramientas que el modelo lee para decidir su siguiente paso. En la práctica, el contenido del bloque tool_result que se envía de vuelta en la conversación. | Building Effective AI Agents — Anthropic Engineering |
| bucle | El ciclo repetido: el modelo propone una herramienta, el anfitrión la ejecuta, el resultado vuelve, el modelo decide el siguiente paso. Gira mientras stop_reason sea tool_use. | Building Effective AI Agents — Anthropic Engineering |
| stop_reason | El campo en la respuesta del modelo que indica por qué se detuvo la generación. tool_use significa que quiere llamar a una herramienta; end_turn significa que terminó de hablar. La condición del while del bucle. | How tool use works — Claude API |
| tool_use | El valor de stop_reason cuando el modelo propone llamar a una herramienta. También el tipo de bloque de contenido que carga id / name / input de la herramienta propuesta. | How tool use works — Claude API |
| end_turn | El valor de stop_reason cuando el modelo decidió que terminó de hablar. La señal de que el bucle puede parar, pero no una garantía de que debería. | How tool use works — Claude API |
| tool_result | El bloque de contenido que empaca la salida de una herramienta ejecutada y la envía de vuelta al modelo. Carga tool_use_id / content, más is_error opcional cuando la llamada falló. | Handle tool calls — Claude API |
| tool_use_id | El campo en tool_result que declara a qué llamada tool_use responde este resultado. Debe coincidir con el id del bloque tool_use correspondiente. | Handle tool calls — Claude API |
| is_error | Campo opcional en tool_result que se pone en true cuando la ejecución de la herramienta falló. Le dice al modelo que la llamada no tuvo éxito para que pueda reintentar o tomar otra ruta. | Handle tool calls — Claude API |
| cuatro pasos | Los pasos del bucle multiturno: (1) envía la solicitud con messages, (2) lee stop_reason y los bloques tool_use, (3) ejecuta las herramientas y empaca los bloques tool_result, (4) anexa al historial y envía de nuevo. | How tool use works — Claude API |
| ida y vuelta | Un solo viaje completo de llamada a herramienta: el modelo propone (tool_use), el anfitrión ejecuta, el resultado vuelve (tool_result), el modelo responde. El bucle es idas y vueltas que siguen y siguen. | Building Effective AI Agents — Anthropic Engineering |
| contador | Una variable que acumula el número de turnos que el bucle ha ejecutado. Debe vivir fuera del bucle para acumular a lo largo de las rondas, no dentro del cuerpo donde se reinicia cada vuelta. | Building Effective AI Agents — Anthropic Engineering |
| MAX_TURNS | La constante que fija el techo de turnos máximos. El bucle para cuando turns >= MAX_TURNS, garantizando que con certeza se detendrá incluso si el modelo nunca regresa end_turn. | Building Effective AI Agents — Anthropic Engineering |
| TOKEN_BUDGET | El techo de presupuesto acumulado de tokens. El bucle para cuando tokensUsed >= TOKEN_BUDGET, frenando el gasto antes de que se dispare. | Building Effective AI Agents — Anthropic Engineering |
| response.usage | El objeto en la respuesta del modelo que carga input_tokens y output_tokens. Se suma en cada turno para rastrear el gasto acumulado de tokens. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |
| input_tokens | El campo en response.usage que cuenta cuántos tokens estaban en el prompt (messages) de esta solicitud. Crece cada turno conforme el historial se alarga. | Effective context engineering for AI agents — Anthropic Engineering |
| output_tokens | El campo en response.usage que cuenta cuántos tokens generó el modelo en esta respuesta. Incluye tanto texto como bloques tool_use. | Effective context engineering for AI agents — Anthropic Engineering |
| ventana de contexto | El límite de tokens que el modelo puede procesar en una sola solicitud. Un recurso finito; el historial del bucle crece hacia él, y el recuerdo se degrada conforme el contexto crece. | Effective context engineering for AI agents — Anthropic Engineering |
| presupuesto de atención | El recurso cognitivo finito del que el modelo echa mano al analizar grandes volúmenes de contexto. Cada token nuevo introducido agota este presupuesto en cierta medida. | Effective context engineering for AI agents — Anthropic Engineering |
| rendimientos marginales decrecientes | La propiedad de que cada token adicional agregado al contexto aporta menos valor que el anterior. El contexto debe tratarse como un recurso finito con rendimientos marginales decrecientes. | Effective context engineering for AI agents — Anthropic Engineering |
| gestión de contexto | Decidir activamente a dónde va el historial del bucle y cuánto se queda, en lugar de empujar a ciegas hacia messages. Incluye compactar, resumir y descartar artefactos intermedios. | The 2026 Agent Engineering Roadmap — GitHub (codejunkie99/agent-roadmap-2026) |
| gobernanza del contexto | Administrar activamente el historial que el bucle produce: compactar turnos viejos, resumir resultados tempranos, descartar artefactos intermedios que ya no importan. La salvaguarda contra el inflado y la degradación del contexto. | Effective context engineering for AI agents — Anthropic Engineering |
| control del bucle | La pieza del arnés que lee stop_reason y decide si a este turno le sigue otro o una parada. El bucle while que impulsa modelo→herramientas→modelo. | The 2026 Agent Engineering Roadmap — GitHub (codejunkie99/agent-roadmap-2026) |
| despacho de herramientas | El código que enruta una solicitud tool_use a la función real, la ejecuta y empaca la salida de vuelta en un tool_result. Dentro del bucle, se llama una y otra vez. | The 2026 Agent Engineering Roadmap — GitHub (codejunkie99/agent-roadmap-2026) |
| condiciones de parada | Las reglas explícitas bajo las cuales el bucle debe parar: tarea hecha (end_turn del modelo), techo de turnos (MAX_TURNS del anfitrión), obstáculo que necesita decisión humana (parada suave), presupuesto agotado. | Building Effective AI Agents — Anthropic Engineering |
| parada dura | Una condición de parada donde el bucle se detiene sin condiciones y queda terminado para siempre. El techo de turnos y el presupuesto agotado son paradas duras. Es un estado terminal. | Building Effective AI Agents — Anthropic Engineering |
| parada suave | Una parada deliberada en un punto de control que entrega el control a una persona y puede retomar desde ese punto exacto una vez que ella haya respondido. No es un final; es una pausa reanudable. También llamada suspensión. | Building Effective AI Agents — Anthropic Engineering |
| instantánea | El estado preservado cuando el bucle hace una parada suave: los messages actuales más la acción pendiente en la que se estancó. Basta para que una vez que una persona la atienda, el bucle pueda reanudar. | Building Effective AI Agents — Anthropic Engineering |
| autonomía | La propiedad de que un agente decide por sí mismo su siguiente paso dentro del bucle, en lugar de seguir caminos predefinidos. La autonomía es lo que lo hace útil y lo que lo hace peligroso. | Building Effective AI Agents — Anthropic Engineering |
| errores que se componen | El modo de falla donde un paso equivocado temprano se arrastra hacia adelante y se amplifica en cada turno subsiguiente. La mayor parte de la entrada del modelo este turno es su propia salida del turno pasado. | Building Effective AI Agents — Anthropic Engineering |
| puntos de control | Pausas en los eslabones de la cadena donde 'si esto está mal, todo lo que sigue se desperdicia'. El bucle expone su estado intermedio para verificación antes de continuar. | Building Effective AI Agents — Anthropic Engineering |
| parada temprana | Detenerse en el momento en que algo se ve mal, en lugar de dejar que un bucle que ya está derivando queme todo su presupuesto. Para eso sirven las condiciones de parada explícitas. | Building Effective AI Agents — Anthropic Engineering |
| inflado | El fenómeno donde el historial del bucle se vuelve una bola de nieve: cada turno amontona más datos, así que las peticiones se hacen más lentas y más caras. Un agente en un bucle genera cada vez más datos. | Effective context engineering for AI agents — Anthropic Engineering |
| degradación del contexto | El fenómeno donde a medida que aumenta el número de tokens en la ventana de contexto, disminuye la capacidad del modelo de recuperar con exactitud información de ese contexto. Los hechos clave se ahogan en ruido. | Effective context engineering for AI agents — Anthropic Engineering |
| bucle muerto | Un bug en el código anfitrión donde el bucle no puede parar: olvidar reasignar response, así que stop_reason queda congelado en su valor viejo y la condición del while es permanentemente verdadera. | How tool use works — Claude API |
| giro en vacío | El modo de falla donde el código es correcto pero el modelo llama repetidamente la misma herramienta inviable mientras no va a ningún lado. Juzgado por stop_reason, el bucle se ve sano; juzgado por la tarea, marcha en el sitio. También conocido como livelock. | Building Effective AI Agents — Anthropic Engineering |
| detección de falta de progreso | La salvaguarda construida específicamente para el giro en vacío: vigila si de verdad está pasando algo nuevo, y si N turnos seguidos usan la misma herramienta con salida casi idéntica, llámalo 'sin progreso' y sal. | Building Effective AI Agents — Anthropic Engineering |
| agotamiento del presupuesto | El modo de falla donde conteo de turnos × tokens-por-turno se multiplican para disparar el costo. Un agente atascado puede quemar una pila seria de gasto de API durante la noche. | Building Effective AI Agents — Anthropic Engineering |
| tope de presupuesto | La salvaguarda contra agotamiento del presupuesto: un techo explícito medido en tokens acumulados o en dinero. El bucle para cuando tokensUsed >= TOKEN_BUDGET. | Building Effective AI Agents — Anthropic Engineering |
| tope de turnos | La condición de parada más básica: un techo sobre cuántas veces se le permite al bucle dar la vuelta. El bucle para cuando turns >= MAX_TURNS, garantizando que con certeza se detendrá. | Building Effective AI Agents — Anthropic Engineering |
| interrumpir | Cancelar todo el bucle desde afuera. El más brusco de los tres tipos de intervención: el bucle termina y no sale ninguna petición más. Actúa sobre si el bucle vive. | Building Effective AI Agents — Anthropic Engineering |
| dirigir | Empujar una instrucción nueva al bucle mientras se ejecuta, cambiando hacia dónde apunta el objetivo pero dejando que el bucle continúe. Actúa sobre hacia dónde apunta el bucle. | Building Effective AI Agents — Anthropic Engineering |
| aprobar | Dar luz verde a un solo paso antes de que se ejecute: el bucle llega a una operación de alto impacto, se detiene, expone 'esto es lo que estoy por hacer', y ejecuta solo si una persona dice que sí. Actúa sobre si una acción pasa. | Building Effective AI Agents — Anthropic Engineering |
| válvula de aprobación | La compuerta insertada justo antes de que una herramienta marcada como de alto impacto se llame: imprime la acción por ocurrir, espera a una persona, ejecuta solo tras confirmación. La manera recomendada de contener el riesgo de agencia excesiva. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |
| alto impacto | Acciones que producen consecuencias externamente visibles o irreversibles: write_file, http_post, delete_file. Solo gate aprobación en estas; las lecturas y consultas inofensivas van directo. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |
| agencia excesiva | La vulnerabilidad que permite ejecutar acciones dañinas en respuesta a salidas inesperadas, ambiguas o manipuladas de un LLM. Cuanto más autónomo el bucle, más necesita una compuerta humana en los puntos críticos. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |
| human-in-the-loop | Control que requiere que una persona apruebe acciones de alto impacto antes de que se ejecuten. Puede implementarse en un sistema aguas abajo o dentro de la extensión del LLM misma. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |
| irreversible | Una acción que no puede deshacerse en un solo paso una vez que se completa: eliminar una base de datos, enviar un correo externo, cambiar config de producción. La compuerta de aprobación va antes de que se vuelva irreversible. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |
| prueba contrafactual | La prueba para detectar lo irreversible: si esta acción se ejecuta y está mal, ¿puedo deshacerla en un solo paso? Las cosas que no pueden deshacerse necesitan la compuerta temprano. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |
| compuerta humana | Una pausa que le da a una persona la oportunidad de decir 'espera' antes de que una acción aterrice. La válvula de aprobación es un tipo de compuerta humana: vigila los pocos cruces donde un giro equivocado no puede deshacerse. | Building Effective AI Agents — Anthropic Engineering |
| radio de impacto | Qué tan amplio es el daño si una acción sale mal. Operaciones con radio de impacto amplio (borrados recursivos, cambios masivos de permisos, deploys a producción) necesitan compuerta temprano. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |
| client.messages.create | La llamada del SDK @anthropic-ai/sdk que envía una solicitud al modelo. Toma model / max_tokens / tools / messages, y regresa una respuesta con stop_reason y content. | How tool use works — Claude API |
| callModel | La función de pseudocódigo que representa enviar una solicitud al modelo. En código real, es client.messages.create del SDK. Toma tools y messages, regresa response con stop_reason y content. | How tool use works — Claude API |
| executeTool | La función que lee el name y el input de un bloque tool_use, enruta a la implementación real (impl), la ejecuta y devuelve la salida que se empacará en tool_result. | How tool use works — Claude API |
| runToolUses | La función que recorre todos los bloques tool_use de una respuesta, ejecuta cada uno vía executeTool y devuelve el array de bloques tool_result correspondientes. Donde viven las válvulas de aprobación y de política. | Handle tool calls — Claude API |
| runAgent | La función de nivel superior que encapsula el bucle completo: inicializa messages con la solicitud del usuario, entra al while sobre stop_reason, despacha herramientas, aplica válvulas, y regresa el resultado final. | How tool use works — Claude API |
| signatureOf | La función que aplana las llamadas a herramientas de un turno en una sola cadena: une los name y input de cada bloque tool_use. Se usa para detección de falta de progreso. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |
| try/catch | El bloque de JavaScript que captura excepciones lanzadas. Dentro de runToolUses, envuelve la ejecución de cada herramienta para que un fallo no mate el arnés, sino que se devuelva como tool_result con is_error. | How tool use works — Claude API |
| input_schema | El campo en la definición de una herramienta que declara qué parámetros acepta. Sigue el formato JSON Schema, con type / properties / required. El modelo usa esto para construir el input de sus bloques tool_use. | Handle tool calls — Claude API |
| askHuman | La función que pausa el bucle y le pregunta a una persona si aprueba una acción de alto impacto. Imprime la acción por ocurrir, lee entrada, regresa true para aprobar o false para rechazar. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |
| approveInTerminal | La implementación de la función approve para entornos de terminal: imprime la acción, lee una línea de entrada del usuario, regresa true si es Enter y false si es 'n'. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |
| HIGH_IMPACT | El conjunto de nombres de herramientas que se consideran de alto impacto: write_file, http_post, delete_file. La válvula de aprobación verifica if (HIGH_IMPACT.has(block.name)) antes de ejecutar. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |
| válvula de política | Control por nombre de herramienta en tres niveles: allow (de largo), ask (confirmación humana requerida antes de ejecutar), deny (siempre rechazada, nunca llamable). Juzgado antes de executeTool. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |
| paso | Una unidad de trabajo dentro del bucle: el modelo propone una acción, el anfitrión la ejecuta, el resultado vuelve. También llamado turno. El contador de pasos/turnos se usa para el tope MAX_TURNS. | Building Effective AI Agents — Anthropic Engineering |
| turno | Una vuelta completa del bucle: una llamada a client.messages.create, ejecutar las herramientas que propuso, devolver los tool_result. El contador turns rastrea cuántos turnos ha ejecutado el bucle. | Building Effective AI Agents — Anthropic Engineering |
| compuertas | Las salvaguardas rígidas que sostienen el bucle bajo control: tope de turnos, tope de presupuesto, detección de falta de progreso, válvula de aprobación. No son adorno, son lo que evita que la autonomía se deslice al desbocamiento. | Building Effective AI Agents — Anthropic Engineering |
| válvulas de control | Las cuatro válvulas que equipan el bucle: tope de turnos, tope de presupuesto, detección de falta de progreso, válvula de aprobación. Cada una vigila un punto, y sus posiciones no se pueden barajar. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |
| salvaguardas | Las compuertas que atrapan modos de falla: puntos de control más parada temprana (errores que se componen), gobernanza del contexto (inflado y degradación), tope de turnos más detección de falta de progreso (giro en vacío), tope de presupuesto (agotamiento). | Building Effective AI Agents — Anthropic Engineering |
| sobreingeniería | Agregar complejidad que no mejora los resultados de forma demostrable. El principio es añadir complejidad solo cuando mejore los resultados, pero las condiciones de parada superan la vara: comprimir lo sin límite en lo con límite es verificable. | Building Effective AI Agents — Anthropic Engineering |
| @anthropic-ai/sdk | El paquete npm oficial de Anthropic para llamar a la API de Claude desde Node.js. Exporta el cliente Anthropic con el método messages.create para enviar solicitudes. | How tool use works — Claude API |
| needsHumanApproval | La función que decide si una acción requiere aprobación humana antes de ejecutar. En su forma más simple, verifica if (HIGH_IMPACT.has(toolName)). Puede ser más sofisticada inspeccionando argumentos. | LLM06:2025 Excessive Agency — OWASP Gen AI Security Project |