Deep dive · curso-wiki · bilingüe
Cómo construir sistemas agénticos de verdad
Monté un pipeline multiagente que leyó el estado del arte de agentes de IA (2025–2026), lo verificó contra las fuentes primarias y lo organizó en 16 módulos. Esto es esa investigación, reescrita en mi voz y comprobada de nuevo. Ninguna afirmación aparece sin fuente y sin un grado de credibilidad honesto.
- 16
- módulos
- 8
- fases
- ~35k
- palabras
- ~3h
- de lectura
- 145
- fuentes
El sustrato y el modelo mental unificador
- Qué es de verdad un LLM: estocástico, stateless, ventana finita El motor de todo agente de IA es una función estocástica y stateless que predice el siguiente token sobre una ventana finita. Memoria, sesiones, HITL y evals existen para compensar esas tres propiedades. Fundamento
- Qué es de verdad un agente de IA: alguien que decide con información parcial El modelo mental que unifica RAG, memoria, HITL y evals: un agente es una política que actúa sobre un mundo parcialmente observable (un POMDP). Workflow vs agente es una decisión de control de flujo, y el error compuesto es lo que impone la arquitectura. Fundamento
Los dos átomos de composición: contexto y tools
- Context engineering: curar el estado de creencias en cada turno El contexto no es un cubo que llenas, es un presupuesto de atención finito que gastas cada turno. Just-in-time retrieval, compaction y las cuatro patologías que vuelven tonto a tu agente conforme crece la conversación. Core
- Una tool es UX para un LLM, no un wrapper de API Una tool es el espacio de acciones del POMDP del agente, diseñado para un lector estocástico, stateless y con presupuesto de tokens. La calidad del esquema y del naming moldea la política; la metadata de la tool es superficie de ataque. Core
El bucle de control y la recuperación
- El control loop: Agente = Modelo + Harness Un agente es un modelo más un harness. El control de flujo vive en código determinista, el modelo es un reducer stateless que decide una tool por turno, y cada iteración solo se justifica si inyecta ground truth del entorno. Core
- Recuperación: búsqueda agéntica vs RAG como decisión de coste asimétrico La recuperación no es un componente que se instala. Es una elección de arquitectura entre dos paradigmas con costes opuestos. Para corpus navegables y acotados, la búsqueda agéntica gana en frescura y exactitud. Los embeddings dejaron de ser el default. Core
Fiabilidad: control humano, seguridad y evaluación
- El human-in-the-loop es un sistema de control, gatillado por reversibilidad El HITL no es 'pregúntale al usuario cuando dudes'. Es un sistema de control determinista que intercepta las acciones irreversibles y de alto blast radius antes de que corran, y garantiza que lo que el humano aprueba sea byte a byte lo que se ejecuta. Fiabilidad
- La seguridad agéntica es arquitectónica: el modelo es un reducer no confiable El prompt injection no se arregla a nivel de modelo, así que la frontera de confianza tiene que vivir en el código. Default-deny, mínimo privilegio, RLS para aislar tenants y separar el control de los datos son la defensa real, no un mejor system prompt. Fiabilidad
- La evaluación es el loop de control, no el examen final El eval es donde tus intuiciones difusas sobre 'correcto' se vuelven una señal que puedes optimizar. Constrúyelo desde el análisis de errores real, mide trayectoria y pass^k, y recuerda que la misma función verificable que califica también entrena y auto-mejora al agente. Fiabilidad
Razonamiento como cómputo presupuestable
Producción: observabilidad y sistemas durables
- Observabilidad para agentes no deterministas: reconstruye la trayectoria, no confíes en la narración No puedes depurar lo que no puedes reconstruir. La observabilidad de agentes es la disciplina de reconstruir la trayectoria real de decisiones de un sistema no determinista a partir de trazas estructuradas (las tools que llamó, los args, los resultados, las decisiones), no la historia que el modelo cuenta sobre lo que hizo. Producción
- Un agente en producción es un workflow distribuido durable Un agente de demo es una llamada a función. Un agente en producción es un workflow distribuido, de larga duración y no determinista, donde cada paso tiene efectos costosos (tokens) e irreversibles (escrituras de negocio). Durabilidad, idempotencia y una base de datos como fuente de verdad son lo que lo vuelve operable. Producción
Frontera: multi-agente, post-training y el futuro
- Multi-agente es una decisión de ingeniería de contexto, no una arquitectura más lista Los subagentes te dan ventanas de contexto limpias y aisladas, y exploración paralela de solo lectura. El precio es el coste de coordinación, y un solo agente gana a menudo. La asimetría read/write y el patrón orquestador-worker deciden cuándo el fan-out ayuda. Producción
- Post-training y RL: por qué el modelo se comporta como lo hace El pretraining da la distribución base; SFT, optimización de preferencias y RLVR la moldean en un agente. La receta (GRPO + recompensas verificables) explica los priors del modelo y su frontera de fiabilidad, y tus graders de evals son el mismo objeto que entrenan los labs. Frontera
- La frontera: horizonte temporal de tarea, auto-mejora y hacia dónde va La métrica creíble de frontera no es el IQ del modelo, es el horizonte temporal de tarea que mide METR, que se duplica cada ~7 meses. La auto-mejora solo funciona acoplada a un grader verificable. El resto es especulación, marcada como tal. Frontera
Nueve ideas que reordenan el campo
Si solo te llevas algo de aquí, que sea esto. Son las conexiones que el orden tradicional (empezar por frameworks o por "cómo llamar una tool") esconde.
- 01
Todo el campo deriva de tres propiedades del sustrato. Un LLM es estocástico, stateless y corre sobre una ventana finita. La memoria existe porque olvida; los evals usan pass^k porque es estocástico; la ingeniería de contexto existe porque la ventana es finita. Aprendes la raíz y dieciséis temas se vuelven un solo árbol.
- 02
Eval, reward y grader son la misma función con tres sombreros. La función verificable que puntúa un rollout de entrenamiento es la misma que califica tus evals y guía la auto-mejora. Domina escribir verificadores no-hackeables y dominas entrenamiento, evaluación y auto-mejora a la vez.
- 03
La seguridad y el human-in-the-loop no son un pilar aparte. Salen directos de la composición de error y la observabilidad parcial. La inyección de prompts no tiene cura limpia, así que la frontera de confianza vive en código determinista, no en el prompt.
- 04
La memoria está más acoplada a la seguridad que al contexto. El write-path es donde el input no confiable se vuelve conocimiento confiable. Una memoria envenenada es un ataque persistente multisesión, peor que una inyección de un turno.
- 05
El razonamiento se enseña después del loop y los evals, no antes. El chain-of-thought no es fiel a la computación interna, así que no sirve de auditoría ni de defensa contra inyección. Esa lección solo cae cuando ya entiendes graders y defensa arquitectónica.
- 06
El retorno está en cinco decisiones, no en dieciséis pilares por igual. ¿Necesito siquiera un agente? ¿El control de flujo vive en código o se delega al modelo? ¿Es la reversibilidad el gate del control humano? ¿Hubo error analysis antes de escribir evals? ¿La defensa es arquitectónica o conductual? Esas cinco concentran casi todo el ROI de fiabilidad.
- 07
Empieza por el modelo mental y la API directa, no por un framework. Los frameworks pesados ocultan el loop y la política y te empujan a sobre-ingeniería. Entiende primero el POMDP y podrás razonar sobre cualquier framework en vez de quedar atrapado en uno.
- 08
La seguridad se aprende rompiendo, no leyendo. Un sistema cuyos puntos débiles ya explotaste y luego reparaste enseña el principio mucho mejor que un ejemplo correcto que nunca estuvo mal.
- 09
Recuperación, memoria y contexto son un solo triángulo. Tres formas de gestionar el belief state finito del POMDP: recuperación carga conocimiento bajo demanda, memoria persiste estado entre turnos, contexto cura qué entra en la ventana ahora. La enseñanza tradicional los fragmenta en silos de RAG, memoria y prompting.
Empieza por el principio: Qué es de verdad un LLM: estocástico, stateless, ventana finita →