El principal desafío para los profesionales que trabajan con agentes de IA es el significativo costo de tiempo que supone volver a explicar el contexto, las decisiones pasadas y las reglas específicas del cliente en cada nueva sesión. Para resolver esto, los usuarios están desarrollando arquitecturas personalizadas que tratan la memoria del agente como un activo estructurado y persistente en lugar de una conversación transitoria.
El problema de la deriva del contexto
El autor original en Hacker News describe un flujo de trabajo donde el mayor costo de tiempo implica volver a explicar el contexto y las decisiones pasadas a los agentes de IA a través de varios clientes. Están explorando si construir una herramienta para resolver esto, buscando específicamente formas de manejar el contexto de diversas fuentes como chats, correos electrónicos y tickets.
Los comentaristas en Hacker News señalaron que muchos ya han construido herramientas similares para abordar estos problemas. El objetivo es asegurar que la 'memoria' de un agente persista a través de las sesiones para que el usuario no tenga que repetir instrucciones que ya se establecieron en trabajos anteriores.
“El mayor costo de tiempo para mí es volver a explicar el contexto y las decisiones pasadas, las reglas del cliente, que ya estamos haciendo.”
— Ask HN: How do you manage your AI agents' context across clients and projects?
Almacenamiento persistente y memoria compartida
Varios comentaristas sugirieron mover el contexto a archivos estructurados o bases de datos. Un usuario propuso utilizar el Open Knowledge Format (OKF) para registrar cada transacción, permitiendo que cualquier modelo de IA lea el historial. Otro enfoque implica el uso de una base de datos SQLite local para almacenar metadatos y un archivo 'running topic.md' que se actualiza al final de cada sesión para construir un contexto persistente para temas específicos.
Otros métodos incluyen el uso de archivos controlados por versiones, como un directorio de Architecture Decision Record (ADR) ignorado por git o un documento de estado para reanudar el trabajo. Algunos usuarios utilizan un sistema 'Johnny.Decimal', donde cada parte de un negocio tiene un ID bien definido vinculado a una nota Markdown y una carpeta en el disco, permitiendo que el agente acceda a una 'memoria compartida' legible por humanos a través de una CLI.
Aislamiento y arquitecturas multi-cliente
Una preocupación crítica para los profesionales es evitar la 'contaminación del contexto', donde los datos de un cliente se filtran en otro. Un comentarista describió una arquitectura de 'pastel de capas' donde el contexto se organiza en capas de raíz, agente, cliente y proyecto. El agente carga y concatena instrucciones de estos subárboles específicos, asegurando que un agente que trabaja para el 'Cliente A' no pueda acceder al subárbol del 'Cliente B'.
Otros usuarios gestionan el aislamiento dirigiendo a los agentes a proyectos 'ejemplares' específicos para aprender estilos o utilizando rastreadores de incidencias específicos del proyecto. Algunos utilizan un script de 'guardián' que valida si la wiki de un proyecto ha sido actualizada con nuevos hallazgos antes de que se le permita al agente comenzar una nueva ronda de trabajo.
Compensaciones y limitaciones técnicas
Si bien estos métodos mejoran la coherencia, introducen compensaciones en cuanto a costo y complejidad. Por ejemplo, el uso de búsqueda semántica en una wiki de proyecto para asegurar que el agente nunca olvide detalles importantes puede ser costoso en términos de uso de tokens. Sin embargo, algunos usuarios argumentan que este costo vale la pena por el beneficio de poder reproducir perfectamente cualquier etapa de un proyecto.
La discusión también destacó fricciones técnicas, como las limitaciones de las interfaces de terminal para bucles de agentes. Algunos usuarios prefieren ejecutar agentes en contenedores Podman o utilizar servidores web locales para gestionar múltiples modelos (como Claude y Codex) simultáneamente mientras se mantienen dentro de los límites de uso semanales.