Todos los posts

Por qué armé un orquestador para dejar de ser yo el cuello de botella de mis propios agentes — qué es SAM, cómo va, y hacia dónde creo que vamos todos.

Acervo queda pausado: el pipeline pierde demasiado contexto cuando las conversaciones se vuelven dinámicas, y la solución real requiere conocimientos de ML engineering que todavía no tengo. Mientras estudio, Graphify es una alternativa madura con ideas muy similares.

Hexagonal architecture, BFS semantic retrieval, compressed context format, conversation memory pipeline, and 79 turns of benchmark data across 3 domains.

v0.1 demostró que comprimir conversaciones en un grafo de conocimiento funciona. Pero el pipeline era complejo: dos modelos, cuatro llamadas LLM por turno, 14GB de VRAM. En v0.2 fine-tuneé mi propio modelo para que haga chat y extracción con un solo prompt — el pipeline se redujo a la mitad, la VRAM bajó a 6GB, y Acervo se volvió stateless. En este post: el proceso de fine-tuning, las lecciones que no encontré en ningún tutorial, y por qué un solo modelo cambió todo.

Cada vez que hablás con un LLM, le mandás toda la conversación anterior. Turno 1: 200 tokens. Turno 100: el contexto se llena y empieza a olvidar. RAG ayuda pero trae kilos de texto crudo. Acervo es otro approach: extraer conocimiento estructurado de cada conversación, comprimirlo en un grafo, y reconstruir el contexto a demanda — sin importar la sesión. En este post: el problema, por qué RAG no alcanza, cómo se me ocurrió la idea, y qué construimos en la primera versión.