Programacion

Hexagonal architecture, BFS semantic retrieval, compressed context format, conversation memory pipeline, and 79 turns of benchmark data across 3 domains.

What shipped in v0.3: `acervo up`, document ingestion, graph inspection, chunk-aware retrieval, and 360 turns of benchmark data.

v0.1 demostró que comprimir conversaciones en un grafo de conocimiento funciona. Pero el pipeline era complejo: dos modelos, cuatro llamadas LLM por turno, 14GB de VRAM. En v0.2 fine-tuneé mi propio modelo para que haga chat y extracción con un solo prompt — el pipeline se redujo a la mitad, la VRAM bajó a 6GB, y Acervo se volvió stateless. En este post: el proceso de fine-tuning, las lecciones que no encontré en ningún tutorial, y por qué un solo modelo cambió todo.

Cada vez que hablás con un LLM, le mandás toda la conversación anterior. Turno 1: 200 tokens. Turno 100: el contexto se llena y empieza a olvidar. RAG ayuda pero trae kilos de texto crudo. Acervo es otro approach: extraer conocimiento estructurado de cada conversación, comprimirlo en un grafo, y reconstruir el contexto a demanda — sin importar la sesión. En este post: el problema, por qué RAG no alcanza, cómo se me ocurrió la idea, y qué construimos en la primera versión.

En un mundo cada vez más impulsado por la inteligencia artificial, la programación también cambia de rol. Ya no se trata solo de escribir código, sino de saber guiar, interpretar y colaborar con sistemas inteligentes para resolver problemas más complejos y creativos.