Este es el último módulo, y es del que menos me fío. Todo lo anterior eran fundamentos (propiedades del motor, el agent loop, evals, memoria, seguridad) y casi todo seguirá siendo cierto en cinco años. Lo que viene envejece rápido. Léelo como brújula, no como mapa, y mira los grados de credibilidad: la única tendencia cuantitativa aquí es sólida, y casi todo lo demás soy yo diciéndote hacia dónde creo que se mueve el suelo y admitiendo que puedo equivocarme.
La pregunta correcta en la frontera no es "qué tan listo es el modelo". Es "cuánto puede sostener una tarea antes de desviarse". Computer use, lifelong learning, economías agente-a-agente, auto-mejora: todo se reduce a la misma apuesta. Convertir una función estocástica de un solo turno en un sistema que mantiene estado, recupera el contexto correcto y no se descarrila a lo largo de un horizonte largo.
Horizonte temporal de tarea: la única métrica que vale la pena extrapolar
El principiante lee benchmarks de un solo turno (MMLU, GPQA) e infiere capacidad agéntica. Esos no te dicen casi nada sobre un horizonte largo. La que sí lo hace es el horizonte temporal de tarea de METR: la longitud de tarea, medida en tiempo humano, que un agente completa a un 50% de fiabilidad.
Para fijar la escala: un modelo como o3 sostiene un horizonte de unos 90 minutos (1,5 horas) al 50% de fiabilidad con la metodología original de METR, revisado a ~120 minutos con la recalibración de 2026 de METR (Time Horizon 1.1). Ese es el tipo de número contra el que diseñar. No "¿es listo el modelo?" sino "¿dónde se cae el mío?". (o3 ya no es frontera a mediados de 2026: Claude Opus 4.5 ronda los 320 minutos.)
Lo interesante no es el titular. Es por qué el horizonte es finito siquiera. La fiabilidad colapsa cuando una tarea pasa de minutos a horas, no porque el modelo se vuelva más tonto por paso, sino porque no mantiene coherencia a lo largo de la secuencia.
La fiabilidad compone geométricamente
Aquí está la matemática que gobierna toda afirmación de autonomía. Si un agente acierta cada paso con probabilidad p, completar una cadena de n pasos independientes es p^n, y eso decae rápido. Con 95% por paso: diez pasos cae cerca de 0.60, veinte pasos cerca de 0.36. Un agente "casi perfecto" por paso es mediocre a horizonte largo.
| Por paso | 5 pasos | 10 pasos | 20 pasos |
|---|---|---|---|
| 0.99 | 0.95 | 0.90 | 0.82 |
| 0.95 | 0.77 | 0.60 | 0.36 |
| 0.90 | 0.59 | 0.35 | 0.12 |
Esta es la razón real de que la mayoría de los proyectos de agentes nunca lleguen a producción. Cita la cifra con cuidado: los blogs de la industria lanzan un ~88%, pero la procedencia de ese número es débil; fuentes más sólidas caen en otra magnitud, y Gartner proyecta que más del 40% de los proyectos agénticos se cancelarán para fin de 2027. La conclusión de diseño no sale de la estadística. Sale de la aritmética: los agentes que escalan tienen scope acotado, un toolset definido y rechazo explícito fuera de sus límites.
Auto-mejora: el grader es el techo
La versión de la auto-mejora que la gente teme es la Gödel machine teórica que se reescribe hacia la superinteligencia. La que de verdad funciona es mundana y mucho más útil.
La Darwin Gödel Machine (Zhang et al., 2025) es un agente de código que reescribe su propio codebase y valida cada cambio empíricamente contra benchmarks, manteniendo un archivo diverso de variantes para no quedar atrapado en un óptimo local. Los resultados son concretos y modestos a la vez: SWE-bench 20% → 50%, Polyglot 14.2% → 30.7%. El patrón no es "reescritura recursiva ilimitada". Es genera una variante → mide → archiva la mejor.
Este es el punto que más se subestima. Un grader débil hace que el agente optimice la métrica en lugar de la tarea. Goodhart, aplicado a tu propio evaluador, y amplificado por el loop de optimización. Por eso todo lo que construiste antes (graders code-based más un juez LLM, puntuados por trayectoria, corridos pass^k) no es solo QA. Es el sustrato sobre el que se pararía cualquier auto-mejora futura.
Profundizar: por qué el optimizador 'aburrido' le gana al recursivo
La historia seductora es un modelo que se mejora solo sin humano en el loop, compuesto sin límite. La historia empírica es más lenta y acotada: DGM está restringida a tareas de código con un eval verificable, escala con cómputo de forma gradual y es tan buena como su benchmark. La "Gödel machine que se reescribe sin límite" sigue siendo teórica. Leer DGM como AGI recursiva inminente es hype. Leerla como un optimizador offline potente para tu harness (evolucionar la persona, el toolset, la allowlist contra tu suite de evals) es correcto y útil hoy. La diferencia entre esas dos lecturas es si tienes un grader confiable.
Hacia dónde va esto (menor credibilidad, marcada como tal)
Más allá de la tendencia del horizonte, estoy extrapolando. Los grados bajan a C/D aquí a propósito.
Los LLM puros imitan texto y topan con un techo en planificación física y dinámica. Los world models son la apuesta para agentes que planean con "what-if" en un estado latente y aprenden de ensayo y error simulado en vez de texto. Genie 3 (DeepMind, 2025) es un world model interactivo en tiempo real propuesto como sustrato para entrenar agentes; DreamerV3 muestra un solo algoritmo de RL basado en modelo resolviendo muchas tareas con rollouts imaginados. Para agentes GUI/web esto apunta a simuladores de UI donde entrenas una policy sin tocar producción. Hoy está fuera del stack de un SaaS de texto. Como dirección, es el puente hacia agentes que entienden una dinámica, no solo un vocabulario. [C]
En 2025-26, la memoria dejó de ser tema académico y se volvió preocupación de infraestructura. La distinción que el principiante se pierde: memoria personalizada (preferencias del usuario) frente a memoria auto-mejorante (destilar skills de la experiencia). Lo contraintuitivo es que la versión aburrida gana. La memoria útil hoy es casi siempre note-taking estructurado en archivos (write-through, auditable) y no actualización de pesos ni stores de grafos exóticos. Las opciones exóticas existen; rara vez justifican su complejidad. [C]
Se están formando dos estándares de interoperabilidad. MCP estandariza agente↔herramienta (vertical). A2A estandariza agente↔agente (horizontal) vía Agent Cards, JSON-RPC, SSE. Son complementarios, como HTTP y DNS. Un survey del espacio de protocolos (arXiv 2505.02279) mapea los modelos de descubrimiento y confianza y advierte que la fragmentación es en sí un riesgo de adopción. La lección de frontera es de seguridad: cada nuevo borde de confianza es un nuevo vector (fake agent advertisement, re-delegación de autoridad, tool poisoning en tránsito). Trata cada protocolo como superficie de ataque, no solo como integración. [B]
El hilo bajo los tres es el fallo de seguridad que no desaparece a medida que los sistemas se vuelven más autónomos: el confused deputy. Un LLM confía en cualquier token convincente, así que un agente con privilegios puede ser dirigido por contenido no confiable a actuar para un atacante. En setups multi-agente se amplifica: un agente comprometido inyecta en el siguiente.
Lo que el consenso sobrevalora, y lo que ignora
El hype son demos de autonomía sin fiabilidad por paso y sin coste por intento. La señal es la arquitectura (compaction, sub-agentes, memoria externa, HITL en escrituras, scope acotado) y los evals que miden trayectoria.
El context engineering lo amarra todo. Si la coherencia sostenida es el cuello de botella, el trabajo real no es escribir el prompt perfecto. Es curar qué tokens de alta señal entran en un presupuesto de atención finito a lo largo del tiempo: compaction, note-taking estructurado, sub-agentes con contexto limpio. Sin ese andamiaje, tu horizonte temporal queda acotado por el tamaño de la ventana, no por la capacidad del modelo.
El final del curso
Llegaste queriendo construir agentes. Te vas sabiendo que el motor es una función estocástica, stateless y de ventana finita que predice el siguiente token, y que casi todo lo demás (el loop, la memoria, los evals, el HITL, la seguridad, toda esta frontera) es andamiaje para hacer esa función fiable a lo largo de un horizonte que nunca fue diseñada para sostener.
No hay un lazo bonito que atar. El horizonte sigue duplicándose, los graders siguen siendo el techo, y el gap entre "responde" y "responde correctamente y para a tiempo" es donde vive toda la ingeniería de verdad. El campo te entregará un modelo más capaz cada pocos meses. No te entregará un sistema. Esa parte sigue siendo tuya.
Ve a medir dónde se cae tu agente. Después pon una compuerta ahí.