Referencia

Glosario

Los 145 términos del campo de los sistemas agénticos, definidos en una frase: de la ventana de contexto a la lethal trifecta, de GRPO al horizonte temporal de tarea.

145 términos

(θ, C) pair: Plantear un agente como pesos fijos del modelo θ (definidos en el entrenamiento) más el contexto/memoria de runtime C; en los agentes modernos el 'aprendizaje' actualiza C en el espacio de tokens en lugar de reentrenar θ.
A2A (Agent2Agent): Un estándar emergente de interoperabilidad horizontal que conecta agentes entre sí mediante Agent Cards, JSON-RPC y SSE, complementando la conexión vertical agente-herramienta de MCP.
Action space: El conjunto completo de acciones que un agente puede tomar —en un agente LLM, sus herramientas disponibles—; restringirlo reduce la varianza de la política y disminuye la superficie de ataque.
Agent control loop: El ciclo que se repite en el que el modelo decide una acción, el harness la ejecuta contra el entorno y la observación resultante se realimenta para la siguiente decisión, hasta que se cumple una condición de parada.
Agent-Computer Interface (ACI): El diseño de las herramientas que un agente puede invocar —nombres, formatos, ejemplos, prevención de errores—, que es en la práctica el diseño del action space del POMDP y una palanca importante de fiabilidad.
Agentic search: Recuperación realizada en un bucle en runtime: el modelo usa herramientas (grep, read, SQL, APIs) para navegar un corpus, lee datos actuales y reformula su siguiente consulta a partir de lo que acaba de encontrar, sin ningún índice precomputado.
Agents Rule of Two: La pauta de diseño de Meta según la cual un agente autónomo (sin humano en el bucle) puede tener como máximo dos de tres propiedades: procesar entrada no confiable, acceder a datos sensibles, o poder cambiar el estado/comunicarse externamente.
AST matching: Comparar el árbol de sintaxis abstracta de la llamada a función generada por un modelo contra una llamada de referencia para verificar nombre, parámetros y tipos sin ejecutar código ni invocar a un LLM.
At-least-once delivery: La garantía realista de las colas distribuidas: un mensaje puede entregarse más de una vez (por ejemplo, un worker termina pero se cae antes de confirmar), razón por la cual los consumidores deben ser idempotentes.
Attack Success Rate (ASR): La fracción de intentos de ataque que logran el objetivo del adversario contra un agente; una métrica de benchmark (por ejemplo, en AgentDojo) que mide la seguridad bajo ataque en lugar de solo el éxito en la tarea.
Attention / O(n²): El mecanismo del transformer que relaciona cada token con todos los demás; al ser de todos contra todos, el cómputo del prefill crece de forma cuadrática con la longitud del contexto.
Attention budget: La idea de que un transformer tiene una capacidad finita y degradable para atender a través de los tokens, por lo que los tokens de contexto son un recurso escaso que se gasta, no almacenamiento gratuito.
Augmented LLM: El bloque básico de construcción de los sistemas agénticos según Anthropic: un modelo enriquecido con aumentaciones como recuperación, herramientas y memoria, expuestas mediante una interfaz sencilla y bien documentada. Tanto los workflows como los agentes se construyen sobre esta unidad, no sobre el modelo en bruto.
Automation bias / overreliance: La tendencia de los aprobadores humanos a validar sin reservas las salidas de la IA sin un escrutinio genuino, erosionando el valor de seguridad de un human-in-the-loop incluso cuando se entrena a las personas para resistirlo.
Batch invariance: La propiedad (normalmente ausente en los kernels de GPU por defecto) de que el resultado de una inferencia sea independiente del tamaño de batch en que se computó; su ausencia explica por qué entradas idénticas pueden producir salidas distintas incluso a temperatura 0.
Belief state: La estimación continua que el agente mantiene del estado oculto del mundo formada a partir de las observaciones; en un agente LLM es el context window curado, no el prompt en bruto.
Benchmark contamination / saturation: La contaminación es la filtración de las soluciones de un benchmark en los datos de entrenamiento (inflando los puntajes por memorización); la saturación es cuando los modelos de frontera puntúan todos cerca del techo, de modo que el benchmark deja de discriminar.
Best-of-N with a verifier: Generar N respuestas candidatas y seleccionar la mejor usando una señal de verdad externa (un test, una búsqueda, un verificador), lo que supera a la votación por mayoría a ciegas con un menor costo de tokens.
BFCL (Berkeley Function Calling Leaderboard): Un benchmark estándar sobre con qué precisión los LLM llaman a funciones/herramientas, que incluye la detección de irrelevancia (saber cuándo no llamar) y, en su V4, habilidades agénticas como la búsqueda web de varios saltos y la memoria.
Blast radius: Cuántos sistemas, usuarios o registros afecta una acción si sale mal, usado junto con la reversibilidad para decidir si una acción necesita confirmación humana.
BM25: Una función clásica de ranking léxico que puntúa documentos según coincidencias exactas de términos; fuerte en identificadores, códigos y símbolos, pero débil con sinónimos puros.
bypassPermissions mode: Un modo permisivo del Agent SDK que aprueba automáticamente las llamadas a herramientas, pero en el que las reglas de denegación y las reglas de pregunta siguen teniendo prioridad, de modo que esas dos permanecen como límites de seguridad efectivos incluso bajo él.
Chain-of-thought (CoT): Tokens de razonamiento intermedio que el modelo emite antes de su respuesta final; originalmente un truco de prompting y hoy a menudo entrenado, puede mejorar la precisión en problemas de varios pasos.
Chunking: Dividir documentos en pasajes más pequeños antes de hacer embedding/indexación; puede romper la correferencia y el contexto (p. ej., un chunk dice 'el margen creció 3%' sin indicar de qué empresa o trimestre).
Circuit breaker / spend cap: Un límite rígido a nivel de infraestructura (máximo de iteraciones, presupuesto diario de tokens por tenant, o un breaker que se dispara ante picos de velocidad de gasto) aplicado antes de la llamada al modelo y fuera del control del agente, no algo solicitado en el system prompt.
Code execution with MCP: Un patrón en el que el modelo escribe un programa que llama a las herramientas dentro de un sandbox, de modo que los resultados intermedios quedan fuera de su contexto y solo regresa la respuesta final, reduciendo drásticamente el coste en tokens.
Code-based grader: Un evaluador determinista, basado en reglas o código (p. ej., que verifica el orden de las herramientas o las confirmaciones obligatorias), que puntúa el comportamiento del agente sin un LLM, haciéndolo barato, reproducible y libre de sesgos.
Cohen's kappa: Un estadístico de concordancia entre evaluadores que corrige por el azar, usado para calibrar a un LLM juez contra etiquetas humanas, donde >0.6 es aceptable y >0.8 es fuerte.
Compaction: Una operación deliberadamente con pérdida que descarta partes del contexto acumulado (a menudo salidas crudas y antiguas de herramientas) preservando las decisiones destiladas; una pérdida de información dirigida, y también un canal de envenenamiento.
Compounding error: El fenómeno por el cual pequeñas tasas de error por paso se acumulan a lo largo de una tarea larga y hunden la probabilidad de éxito (heurísticamente p^t; rigurosamente una cota cuadrática εT² en aprendizaje por imitación, según Ross y Bagnell).
Confirm/execute non-divergence: La garantía de que la entrada normalizada exacta que un humano aprobó es byte a byte lo que se ejecuta, lograda persistiendo la entrada validada antes de preguntar y ejecutando ese registro guardado en lugar de una nueva llamada al modelo.
Confused deputy: Un fallo de seguridad clásico en el que un componente de confianza con autoridad legítima es engañado por un tercero para que abuse de ella en beneficio del atacante —aquí, un agente que actúa según instrucciones ocultas en datos envenenados—; los Resource Indicators de OAuth en MCP (RFC 8707) buscan impedir que los tokens se reutilicen entre servidores.
Constitutional AI / RLAIF: El enfoque de Anthropic en el que un modelo critica y revisa sus propias salidas contra principios escritos (una constitución) para generar datos de preferencia, reemplazando las etiquetas humanas con retroalimentación de la IA.
Context engineering: Curar todo el flujo de tokens que se le entrega al agente en cada turno (system prompt, historial, resultados de herramientas, datos recuperados, memoria) para que el modelo tenga el conjunto más pequeño y con mayor señal que necesita, en lugar de limitarse a escribir un buen prompt.
Context isolation (sub-agents): Lanzar un sub-agente con una ventana limpia para que haga un trabajo acotado y devuelva solo un pequeño resultado destilado, manteniendo sin contaminar el contexto del coordinador; fiable para tareas de solo lectura pero arriesgado para escrituras coordinadas.
Context poisoning: Un modo de fallo en el que un dato alucinado u hostil entra en el contexto y se cita repetidamente en turnos posteriores, autorreforzándose hasta que el agente persigue un objetivo falso o imposible.
Context rot: El hallazgo empírico de que la precisión de un LLM se degrada de forma no uniforme a medida que crece la longitud de la entrada —incluso muy por dentro de la ventana—, de modo que más tokens pueden hacer que el modelo razone peor, no solo que cueste más.
Context window: El número máximo finito de tokens (prompt más salida) que el modelo puede atender en una sola llamada; más allá de ese límite, el contenido debe descartarse, resumirse o recuperarse.
Context window vs memory: La ventana de contexto es el buffer volátil de tokens que el modelo ve en este turno (se pierde al compactar/reiniciar); la memoria es estado externo y duradero con políticas explícitas de escritura, recuperación y decaimiento que persiste entre turnos y sesiones.
Contextual Retrieval: La técnica de preprocesamiento de Anthropic que antepone a cada chunk una glosa generada por un LLM y consciente del documento, antes del embedding y la indexación BM25, reduciendo los fallos por chunks que pierden su contexto circundante.
Continual learning in token-space: Mejorar un agente acumulando experiencia textual legible (notas, reflexiones, memorias) en lugar de hacer fine-tuning de los pesos: interpretable, versionable y portable entre modelos.
Control plane vs execution plane: Una división arquitectónica en la que un borde rápido y sin estado solo valida, persiste y encola una solicitud, mientras que un worker lento y duradero realiza la llamada al modelo y la ejecución de herramientas detrás de una cola.
CoT faithfulness: Si el texto de razonamiento visible refleja realmente el cómputo que produjo la respuesta; la investigación muestra que a menudo no lo hace, por lo que el CoT no es un registro de auditoría fiable.
Credit assignment (sparse reward): El problema de decidir qué acciones de una trajectory larga merecen recompensa cuando el éxito solo se conoce al final, abordado con recompensas densas por turno, crédito a nivel de token (GAE/TD) y curación de trajectories.
DAgger (Dataset Aggregation): El algoritmo de aprendizaje por imitación de Ross, Gordon y Bagnell (2011) que mitiga el error acumulado entrenando la política sobre los estados que esta realmente visita, sustituyendo el crecimiento cuadrático del error por un término lineal O(εT).
Darwin Gödel Machine (DGM): Un agente de codificación auto-mejorante que reescribe su propio código, valida empíricamente cada variante contra un benchmark y mantiene un archivo de variantes diversas para evitar óptimos locales.
Default-deny / least privilege: Una postura de seguridad fail-closed en la que todo lo que no esté explícitamente permitido se rechaza y un agente arranca sin capacidades, concediéndosele solo las herramientas específicas que la tarea o el rol actual requieren mediante una allowlist explícita.
Digit quantization: Los errores aritméticos que surgen de cómo el modelo trocea los números en tokens: el byte-pair encoding puede agrupar los dígitos de forma inconsistente (p. ej., '1234' como '123'+'4'), de modo que el modelo nunca ve un valor posicional limpio y calcula mal. Es un artefacto de la tokenización, no un fallo de razonamiento.
DPO (Direct Preference Optimization): Un método que alcanza la misma política alineada que RLHF minimizando una pérdida de clasificación sobre pares de respuestas (preferida, rechazada), eliminando el modelo de recompensa y el bucle de RL por separado.
Dual-LLM / quarantine pattern: Una arquitectura en la que un LLM privilegiado orquesta pero nunca lee texto no confiable, mientras que un LLM separado y en cuarentena procesa el contenido no confiable y devuelve solo valores tipados (una fecha, un booleano), nunca instrucciones que el modelo privilegiado obedezca.
Dual-write problem: La inconsistencia que surge cuando una aplicación escribe en dos sistemas (por ejemplo, una base de datos y una cola) como operaciones separadas no atómicas, de modo que una caída entre ambas deja un registro fantasma o un mensaje perdido.
Durable execution: Un patrón de sistemas distribuidos (por ejemplo, Temporal) que registra un checkpoint de cada paso completado y guarda los efectos no deterministas, de modo que una ejecución que se cae reproduce desde almacenamiento los pasos ya terminados y se reanuda en lugar de reiniciar desde cero.
Durable execution state: El progreso registrado en un journal de un turno de agente de varios pasos (llamadas a herramientas, human-in-the-loop) que sobrevive a una caída mediante replay, tratando las llamadas al LLM ya completadas como actividades idempotentes que no se vuelven a ejecutar; es distinto de la memoria duradera.
Effort budget: Un límite explícito por subtarea (número de sub-agents y de llamadas a herramientas) que el orchestrator asigna a los workers para evitar trabajo duplicado y sobre-investigación.
Effort parameter: El control de la API de Claude (de low a max) que define cuánto se esfuerza un modelo de razonamiento en un turno: el sucesor del obsoleto ajuste budget_tokens.
Elicitation: Una capacidad de MCP (añadida en la especificación 2025-06-18) que permite a un servidor pausar a mitad de una operación para pedirle al usuario entrada estructurada adicional.
Embedding: Una representación numérica vectorial del texto que sitúa cerca al texto semánticamente similar, habilitando la búsqueda por similitud pero perdiendo precisión en tokens raros, identificadores exactos y nombres propios.
Entropy collapse: Un modo de fallo de GRPO en el que la política se vuelve casi determinista —la masa de probabilidad se concentra en tokens individuales— y el modelo deja de explorar alternativas durante el entrenamiento.
Error analysis (open / axial coding): Un método etnográfico que consiste en leer trazas reales, escribir notas libres sobre cada fallo (open coding) y luego agruparlas en temas (axial coding) para derivar evaluadores a partir de la distribución real de fallos.
Evaluator-optimizer: Un flujo de trabajo en el que un LLM genera la salida y un segundo la puntúa contra unos criterios y devuelve retroalimentación en bucle hasta alcanzar un umbral de calidad, acotado con un límite de iteraciones para evitar bucles infinitos.
Failure attribution: Identificar qué agente y qué paso decisivo causaron un fallo en un sistema multiagente; la investigación muestra que las trazas completas de entrada y contexto lo hacen sustancialmente más preciso que los registros solo de salida.
GraphRAG: Un método de recuperación que construye un grafo de conocimiento de entidades y relaciones junto con resúmenes jerárquicos de comunidades (mediante detección de comunidades Leiden) para responder preguntas globales sobre todo el corpus que el RAG vectorial plano no puede abordar.
Ground truth: Un hecho externo observable inyectado en el loop (un resultado real de una herramienta, una prueba que pasa o falla, un error concreto), en contraposición a la autoevaluación no verificada del propio modelo.
GRPO (Group Relative Policy Optimization): Un algoritmo de RL (DeepSeekMath, 2024) que prescinde de la red de valor/crítico muestreando un grupo de respuestas por prompt y usando la recompensa media del grupo como línea base para la ventaja de cada respuesta.
Harness: Todo el código, la configuración y la lógica de ejecución que envuelven al modelo —el bucle, la ejecución de herramientas, la persistencia de estado, las condiciones de parada y la observabilidad—; es decir, todo lo que hay en un agente que no es el modelo en sí.
HMAC / pepper: Un hash con clave que usa un 'pepper' secreto para ofuscar de forma determinista los identificadores en las trazas: el mismo ID siempre se mapea al mismo valor, de modo que puedes correlacionar sin dejar el ID real vulnerable a fuerza bruta como ocurriría con un hash simple.
Human-in-the-loop (HITL): Un paso de control determinista que pausa al agente para que un humano apruebe, corrija o escale, reseteando el error acumulado y filtrando acciones de alto riesgo o irreversibles; no es un prompt que le pide al modelo que consulte cuando dude.
Hybrid search / RRF: Combinar la recuperación densa (embeddings) y la dispersa (BM25/léxica) y fusionar sus rankings, habitualmente mediante Reciprocal Rank Fusion (RRF), para obtener tanto la fortaleza semántica como la de coincidencia exacta.
Idempotency: Una propiedad por la cual ejecutar una operación dos veces tiene el mismo efecto que ejecutarla una sola vez, normalmente garantizada mediante una clave determinista (por ejemplo, derivada de workflow_id + step_id, o un id de acción pendiente) para que los reintentos tras un fallo, una caída de red o una reentrega de cola se deduppliquen en lugar de aplicarse dos veces.
Implicit decisions: Los supuestos no declarados (estilo, formato, interpretación) que un agente incorpora en su salida; cuando dos agentes toman decisiones implícitas incompatibles sobre el mismo artefacto, los resultados no pueden reconciliarse después.
Index lag / staleness: El desfase entre el momento en que cambian los datos de origen y el momento en que se reconstruye un índice vectorial precomputado, durante el cual el índice devuelve resultados desactualizados, un problema que la búsqueda agéntica evita al leer los bytes actuales.
Indirect prompt injection: Prompt injection entregado no por el usuario sino a través de contenido que el agente lee mientras trabaja (una página web obtenida, un documento de RAG, el resultado de una herramienta), de modo que el atacante nunca habla directamente con el agente.
Induction head: Un circuito de dos attention heads que detecta un patrón previo 'A→B' y predice B al volver a ver A: el motor mecanístico del aprendizaje in-context (few-shot).
Injection Success Rate (ISR) vs Attack Success Rate (ASR): En los artículos sobre ataques a la memoria, el ISR mide si un registro malicioso logra alojarse en la memoria, mientras que el ASR mide si una consulta posterior de la víctima realmente produce la acción maliciosa; el ISR suele ser mucho más alto que el ASR.
Intrinsic self-correction: Un modelo que intenta corregir su propia respuesta usando solo su juicio interno, sin retroalimentación externa; la investigación muestra que esto a menudo no ayuda e incluso puede degradar el razonamiento.
Just-in-time retrieval: Dejar que el agente mantenga identificadores ligeros (rutas de archivo, consultas, enlaces) y cargue los datos bajo demanda con herramientas a medida que descubre su relevancia, en lugar de precargar un gran bloque recuperado.
KV cache: Proyecciones de key/value almacenadas para los tokens ya procesados, de modo que no se recalculan en cada paso de decodificación; su memoria crece linealmente con la longitud del contexto, a diferencia del cómputo cuadrático de la atención.
Late interaction (ColBERTv2): Un enfoque multivector que mantiene un embedding separado por token y puntúa la relevancia con MaxSim por token, situándose entre la recuperación densa de un solo vector y la búsqueda léxica en precisión y coste.
Lethal trifecta: El modelo de Simon Willison: un agente se convierte en una herramienta de exfiltración garantizada cuando simultáneamente tiene acceso a datos privados, exposición a contenido no confiable y un canal para enviar datos al exterior; eliminar cualquiera de los tres rompe la cadena.
LLM-as-judge: Usar un modelo de lenguaje para puntuar o comparar salidas frente a una rúbrica; útil para cualidades subjetivas pero sujeto a sesgos sistemáticos como la posición, la verbosidad y la auto-preferencia.
Lost in the middle: El patrón empírico en forma de U según el cual los modelos recuerdan bien la información al inicio y al final de un contexto largo, pero atienden sistemáticamente menos a la parte central.
MAST (Multi-Agent System failure Taxonomy): Una taxonomía de UC Berkeley de 14 modos de fallo de sistemas multiagente agrupados en categorías de especificación/diseño del sistema (~42%), desalineación entre agentes (~37%) y verificación de tareas (~21%).
MDP (Markov Decision Process): Un modelo de decisión en el que el agente ve el estado completo del mundo antes de cada acción. Es el caso especial totalmente observado de un POMDP; una llamada de API a un LLM aislada y autocontenida es un MDP degenerado de un solo paso, mientras que un agente real que actúa sobre información parcial es un POMDP.
Memory poisoning: Un ataque que planta contenido malicioso en la memoria duradera de un agente para que persista entre sesiones, estrictamente peor que una prompt injection de un solo turno porque sobrevive al turno que lo plantó.
Model Context Protocol (MCP): Un estándar abierto de Anthropic (noviembre de 2024) que conecta agentes con herramientas y fuentes de datos externas mediante una única interfaz uniforme; como las descripciones y los resultados de las herramientas fluyen sin sanear hacia el contexto, un servidor malicioso o suplantado puede inyectar instrucciones.
Needle-in-a-haystack (NIAH): Una prueba de contexto largo que esconde una cadena concreta dentro de un gran cuerpo de relleno; como la recuperación de cadenas exactas es fácil, puntúa cerca del 100% y enmascara la degradación real en tareas semánticas y de varios pasos.
Next-token prediction: La operación central de un LLM: dados los tokens vistos hasta el momento, produce una distribución de probabilidad sobre el siguiente token, muestrea uno, lo añade y repite.
Online evals: Controles de calidad sobre tráfico de producción muestreado en vivo —heurísticas baratas sobre todo el tráfico más un LLM-as-judge sobre una fracción— que detectan la deriva de distribución que los conjuntos de prueba offline pasan por alto y realimentan los nuevos fallos al conjunto de datos offline.
Orchestration determinism: Mantener la lógica de coordinación determinista y reanudable (el modelo de Temporal) mientras se confinan las llamadas no deterministas a LLM/herramientas en actividades discretas, de modo que una ejecución caída pueda reanudarse en lugar de reiniciarse.
Orchestrator-worker: Un patrón multiagente en el que un agente líder descompone una tarea, lanza workers especializados con mandatos acotados y sintetiza sus resultados en una única respuesta.
OTel GenAI semantic conventions: El esquema de atributos estandarizado de OpenTelemetry para telemetría de LLM/agentes (el espacio de nombres gen_ai.*) que permite cambiar de backend de observabilidad sin reinstrumentar, todavía experimental a fecha de 2026.
pass@k vs pass^k: pass@k es la probabilidad de que al menos uno de k intentos tenga éxito (una medida de capacidad o de mejor caso); pass^k es la probabilidad de que los k intentos independientes tengan éxito todos (fiabilidad, ≈p^k), y en producción lo que importa es pass^k.
Permission chain: El orden de evaluación fijo que el Claude Agent SDK aplica a cada llamada a herramienta —hooks/reglas de denegación, luego reglas de pregunta, luego el modo de permisos, luego reglas de permitido, y finalmente el callback canUseTool— que determina qué se ejecuta, espera o se bloquea.
Plan-then-execute: Un patrón de agente que produce un plan explícito y revisable antes de tomar cualquier acción, lo que permite la intercepción humana de las operaciones de escritura y un mejor control de las dependencias.
Poka-yoke: Un principio de diseño tomado de la manufactura: hacer las herramientas y los formatos a prueba de errores para que el agente estructuralmente no pueda cometer ciertos fallos.
Policy (π): La función que mapea lo que el agente ha observado hasta el momento a su siguiente acción; en un agente LLM, el razonador condicionado por su system prompt ES la política π(acción | observación, historial).
POMDP (Partially Observable Markov Decision Process): Un modelo de toma de decisiones en el que un agente nunca observa directamente el estado real del mundo y debe actuar según una creencia inferida a partir de observaciones parciales: la lente formal para los agentes LLM.
Position / verbosity / self-preference bias: Errores sistemáticos del LLM-as-judge: favorecer una respuesta por su orden de presentación, premiar las respuestas más largas sin importar su calidad y preferir las salidas de su propia familia de modelos.
Progressive disclosure: Cargar de entrada solo el nombre y una breve descripción de una herramienta y revelar las instrucciones y materiales más completos únicamente cuando la herramienta se vuelve relevante, para ahorrar tokens de contexto.
Prompt caching: Reutilizar el cómputo cacheado del modelo para un prefijo de prompt estable e idéntico byte a byte, de modo que las peticiones repetidas son mucho más baratas (las lecturas cacheadas cuestan alrededor del 10% del precio normal de entrada); cualquier cambio en el prefijo invalida la caché.
Prompt injection: Un ataque en el que instrucciones ocultas en contenido no confiable (un documento, un correo, una página web) son procesadas por un LLM como comandos legítimos, secuestrando el comportamiento del agente.
Provenance / source-aware memory: Etiquetar cada entrada de memoria con su origen y un nivel de confianza para que la recuperación pueda poner en cuarentena o reducir el peso de las entradas provenientes de fuentes no confiables.
RAG (Retrieval-Augmented Generation): Dividir documentos en fragmentos (chunking) y generar sus embeddings en un índice, para luego recuperar los k fragmentos más relevantes hacia el prompt antes de que el modelo responda — una única pasada de recuperación contra la consulta original.
ReAct (think-act-observe): Un bucle de agente que intercala trazas de razonamiento ('think') con acciones que afectan al entorno ('act') y su realimentación ('observe'); su transcripción de solo-anexado se adapta a tareas dinámicas, pero provoca crecimiento del contexto y acumulación de error en horizontes largos.
Read/write asymmetry: El principio de que el trabajo de solo lectura puede paralelizarse con seguridad entre agentes (sin estado mutable compartido), mientras que el trabajo de escritura o generación debe serializarse en un solo hilo para evitar decisiones en conflicto.
Reflexion: Una técnica en la que un agente reflexiona verbalmente sobre sus propios fallos pasados para mejorar; frágil sin una señal externa de verdad, porque los modelos tienden a racionalizar en lugar de corregir.
Reliability composition (geometric decay): El hecho de que si cada paso tiene éxito con probabilidad p, una cadena de n pasos tiene éxito con p^n, de modo que incluso agentes casi perfectos por paso se vuelven poco fiables en horizontes largos.
Replay over recorded tool-responses: Volver a ejecutar un agente contra mensajes de producción capturados y resultados de herramientas grabados (usados como fixtures) en lugar de invocar las herramientas en vivo, convirtiendo un fallo no reproducible en una prueba determinista y sin consumo de tokens.
Reranking / cross-encoder: Una segunda etapa de recuperación que reordena un conjunto amplio de fragmentos candidatos baratos con un modelo que lee la consulta y el documento juntos, produciendo un top-k más preciso a costa de mayor latencia.
Reversibility gate: Un punto de control que intercepta, antes de que se ejecuten, las acciones caras o imposibles de deshacer, mientras deja que las lecturas reversibles corran automáticamente.
Reward hacking / Goodhart's Law: Cuando un optimizador o agente satisface un verificador débil sin resolver realmente la tarea (p. ej., sobrescribir una prueba para que pase una suite), razón por la cual los evaluadores deben comprobar el efecto real sobre el mundo.
RLHF (RL from Human Feedback): Alinear un modelo entrenando un reward model sobre comparaciones de preferencia humana y optimizando luego la política contra él mediante RL, de modo que las salidas coincidan con lo que prefieren los anotadores humanos.
RLVR (RL from Verifiable Rewards): RL en el que la recompensa es una función programática y comprobable — si pasó el test, si la matemática es correcta, si se alcanzó el estado objetivo — lo que la hace mucho más difícil de manipular que un reward model aprendido y moldea el razonamiento y el uso de herramientas.
Row-level security (RLS): Una característica de las bases de datos (por ejemplo, Postgres) que filtra filas según una política por sesión, como el id de tenant/organización, imponiendo el aislamiento entre tenants en la capa de datos incluso si el código de la aplicación olvida una cláusula WHERE.
Rug pull: Un ataque en el que una herramienta o un servidor MCP previamente aprobado cambia silenciosamente su definición o comportamiento después (por ejemplo, CVE-2025-54136 'MCPoison' contra Cursor, parcheado en julio de 2025).
Self-consistency: Muestrear varias trazas de razonamiento independientes para un mismo prompt y tomar la respuesta por mayoría; las ganancias suelen estabilizarse alrededor de 10 a 15 muestras y a menudo rivaliza con el debate multiagente a igual cómputo.
SFT (Supervised Fine-Tuning): Entrenar un modelo base con ejemplos curados de entrada-salida (a menudo destilados de un teacher más grande) para enseñarle formato de respuesta, tono y estructura de chain-of-thought — captura la forma, no conocimiento factual nuevo.
Span vs metric cardinality: Los spans requieren campos de alta cardinalidad (IDs únicos, contenido) para hacer localizables las trazas individuales, mientras que las métricas necesitan etiquetas acotadas de baja cardinalidad porque cada combinación etiqueta-valor crea una serie temporal separada — mezclarlos es el error arquitectónico central.
Spotlighting: La técnica a nivel de prompt de Microsoft de marcar el texto no confiable mediante delimitación, datamarking o codificación para que el modelo sea más propenso a tratarlo como datos; una mitigación probabilística, no un límite de seguridad rígido.
Stateless: El modelo no retiene nada entre llamadas a la API; una 'conversación' solo existe porque reenvías el historial previo en cada petición.
Stateless reducer: Tratar al modelo como una función casi pura que va del estado actual más una nueva observación a la siguiente acción, sin mantener memoria duradera propia, de modo que todo el estado persistente vive fuera de él.
Stochastic: La salida no es fija: ejecuta el modelo dos veces con la misma entrada y puedes obtener respuestas distintas, porque cada token siguiente se muestrea al azar de una distribución de probabilidad. Por eso una sola ejecución correcta prueba poco y la fiabilidad se mide en muchas (pass^k), no en una.
Sub-agent: Una invocación de LLM independiente con su propia context window aislada, lanzada para encargarse de una porción del trabajo y devolver solo un resultado destilado al hilo principal — un mecanismo de gestión de contexto, no un rol de organigrama.
Sycophancy: Un sesgo entrenado en el que los modelos adulan, sobreafirman y evitan contradecir al usuario, surgido porque RLHF optimiza por lo que prefieren los anotadores humanos en lugar de por lo que es correcto.
Taint tracking / information-flow control (IFC): Marcar cada valor con su procedencia (confiable o no confiable) y propagar esa marca a través del código determinista, de modo que una acción de consecuencia derivada de datos no confiables se bloquee automáticamente.
Task time-horizon: La métrica de capacidad de agentes de METR: la duración en tiempo humano de la tarea que un agente puede completar con aproximadamente un 50% de fiabilidad — un proxy mejor de la capacidad agéntica que los benchmarks de un solo turno.
Temperature / top-p (sampling): Parámetros que controlan cuán dispersa es la muestreo del modelo —valores más altos producen una salida más variada—, aunque los modelos de razonamiento más recientes los reemplazan por un control de esfuerzo.
Termination tool: Una acción explícita que el modelo puede invocar para declarar que ha terminado o para escalar a un humano, dando al loop una forma limpia e intencional de detenerse en lugar de irse apagando.
Test-time compute / extended thinking: Gastar tokens de razonamiento adicionales en tiempo de inferencia para mejorar la calidad de la respuesta, controlado en los modelos Claude actuales mediante el parámetro de esfuerzo en lugar de un presupuesto fijo de tokens.
TOCTOU (time-of-check to time-of-use): Una clase de bug en la que lo que se verificó y lo que se ejecuta se separan entre los dos momentos. En un agente: un humano aprueba una acción, pero el modelo se reinvoca y ejecuta una ligeramente distinta. La solución es persistir la entrada validada en el momento de la verificación y ejecutar ese registro exacto, no una nueva llamada al modelo.
Token / BPE (Byte-Pair Encoding): El modelo lee y escribe en fragmentos de subpalabras ('tokens') generados por byte-pair encoding en lugar de caracteres o palabras completas, por lo que la agrupación de dígitos rompe la aritmética y el conteo exacto de caracteres.
Tool (for an LLM): Una función que el modelo puede invocar por su nombre con argumentos estructurados; el conjunto de tools disponibles define todo lo que el agente es capaz de hacer.
Tool poisoning: Un ataque en el que se ocultan instrucciones maliciosas dentro de la descripción o los metadatos de una herramienta, que el modelo lee hacia su contexto antes incluso de que la herramienta llegue a invocarse.
Trajectory: La secuencia ordenada y real de decisiones, llamadas a herramientas, argumentos y resultados de un agente a lo largo de un turno — aquello que reconstruyes para depurar, en contraste con la explicación narrada por el modelo.
Trajectory evaluation: Evaluar cómo un agente llegó a una respuesta — la secuencia de llamadas a herramientas, parámetros y confirmaciones — en lugar de solo si el resultado final fue correcto.
Transactional outbox: Un patrón que resuelve el problema de la doble escritura escribiendo un evento de tipo 'encolar este trabajo' en una tabla de outbox dentro de la misma transacción de la base de datos que el cambio de estado, y luego haciendo que un relay separado lo publique, volviendo atómico el persistir-y-encolar.
Transition dynamics (T): Las reglas por las que una acción cambia el mundo y produce la siguiente observación: el harness (workers, base de datos, locks, persistencia) que ejecuta y persiste los efectos.
Tree-of-Thoughts (ToT): Un método de razonamiento que explora múltiples ramas con autoevaluación y retroceso; potente en acertijos como el Game of 24, pero rara vez justificado por su costo en agentes de producción.
Tulving's memory taxonomy: Una clasificación de las ciencias cognitivas adaptada por CoALA — de trabajo (turno actual), episódica (trayectorias pasadas), semántica (hechos sobre el mundo o el usuario) y procedimental (habilidades o cómo hacer algo) — cada una con su propia política de escritura y decaimiento.
Turn trace (span tree): Un registro jerárquico de un turno de agente: un span raíz (por ejemplo, invoke_agent) con spans hijos por cada generación y llamada a herramienta, que captura tiempos, tokens, argumentos y resultados.
Verifiable grader / fitness function: Un evaluador externo y objetivo contra el cual se mide la automejora; su calidad es el techo de cuánto puede mejorar un agente, ya que un grader débil invita a la manipulación tipo Goodhart.
Workflow vs agent: Una distinción de flujo de control: en un workflow el código predefine la trayectoria y el LLM solo rellena huecos, mientras que en un agente el LLM elige sus propias acciones y herramientas en tiempo de ejecución.
World model: Un modelo que aprende la dinámica del entorno para que un agente pueda planificar y aprender a partir de rollouts simulados de 'qué pasaría si' en un estado latente, en lugar de solo imitar texto (p. ej., Genie 3, DreamerV3).
Write-path / trust boundary: El momento en que una entrada no confiable (un documento, un mensaje de usuario) se persiste en la memoria duradera y luego se relee como conocimiento propio y confiable del agente — el lugar clave para imponer comprobaciones de procedencia y de política.
Write-through memory: Un patrón de memoria a largo plazo en el que un almacén externo (una base de datos o un archivo de notas) es la fuente de verdad que sobrevive a los reinicios de contexto, mientras que la copia en ventana actúa como caché del turno actual.