An Algebra of Memory: Formal Foundations and Empirical Validation of Associative Composition Without Catastrophic Interference
English This work introduces a substrate-independent algebra for compositional memory that simultaneously satisfies associativity, recoverability, semantic preservation, stability, and expressiveness. The fundamental memory object is a hybrid structured tuple m = (V, G, T, P), where V is a distributed vector representation capturing semantic similarity, G is an explicit relational graph encoding entities and dependencies, T is a temporal/episodic component, and P represents priority/utility. Composition (⊕) is formalized as a categorical pushout with transitive closure, ensuring exact associativity regardless of composition order. A central contribution is demonstrating that composition need not destroy recoverability: using bidirectional lens theory (with Put-Get consistency laws), retrieval (ρ) and retraction (⊖) are formalized as structure-preserving operations over the composite state. Empirical validation across five phases confirms: (1) exact associativity (distance = 0) across 50 seeds with correlated embeddings (ρ ∈ [0, 0.95]); (2) statistical superiority over LSTM and vector-sum baselines (p < 10⁻⁶) in stability under N=10⁴ sequential compositions, with optimized LSH retrieval in 0.478s; (3) structural differentiation from kNN baselines — temporal conflicts (100% vs 50%), fact retraction (100% vs 33–43%), and multi-hop reasoning (100% vs 87–93%); (4) validation with real sentence embeddings (all-MiniLM-L6-v2, 384-dim) achieving 100% top-1 semantic retrieval and exact associativity; (5) integration as a memory layer for real LLM agents via a ReAct loop, achieving 100% accuracy on temporal conflict resolution, fact retraction, and multi-hop retrieval across multiple models. The algebra scales to N=100,000 memories (~200,000 nodes) within 3GB RAM using chained LSH and batch composition, with sub-second retrieval at N≤10⁴. These results establish a formal framework for memory composition that preserves recoverability, positioning it as a theoretical foundation for next-generation AI memory systems beyond flat retrieval buffers and recurrent states. Keywords: compositional memory, category theory, pushouts, bidirectional lenses, hyperdimensional computing, vector symbolic architectures, associative composition, semantic preservation, memory retraction, multi-hop reasoning, LLM memory layer, ReAct agent. Português Este trabalho introduz uma álgebra independente de substrato para memória composicional que satisfaz simultaneamente associatividade, recuperabilidade, preservação semântica, estabilidade e expressividade. O objeto fundamental da memória é uma tupla estruturada híbrida m = (V, G, T, P), na qual V é uma representação vetorial distribuída que captura similaridade semântica, G é um grafo relacional explícito que codifica entidades e dependências, T é um componente temporal/episódico e P representa prioridade/utilidade. A composição (⊕) é formalizada como um pushout categórico com fechamento transitivo, garantindo associatividade exata independentemente da ordem de composição. Uma contribuição central é demonstrar que a composição não precisa destruir a recuperabilidade: utilizando a teoria de lentes bidirecionais (com as leis de consistência Put-Get), a recuperação (ρ) e a retração (⊖) são formalizadas como operações que preservam a estrutura sobre o estado composto. A validação empírica em cinco fases confirma: (1) associatividade exata (distância = 0) em 50 sementes com embeddings correlacionados (ρ ∈ [0, 0.95]); (2) superioridade estatística em relação aos baselines LSTM e soma vetorial (p < 10⁻⁶) em estabilidade sob N=10⁴ composições sequenciais, com recuperação LSH otimizada em 0,478s; (3) diferenciação estrutural em relação aos baselines kNN — conflitos temporais (100% contra 50%), retração de fatos (100% contra 33–43%) e raciocínio multi-hop (100% contra 87–93%); (4) validação com embeddings reais de sentenças (all-MiniLM-L6-v2, 384 dimensões) atingindo 100% de recuperação top-1 semântica e associatividade exata; (5) integração como camada de memória para agentes LLM reais via loop ReAct, atingindo 100% de acurácia em resolução de conflitos temporais, retração de fatos e recuperação multi-hop em múltiplos modelos. A álgebra escala para N=100.000 memórias (~200.000 nós) em 3GB de RAM usando LSH encadeado e composição em lote, com recuperação sub-segundo em N≤10⁴. Esses resultados estabelecem um framework formal para composição de memória que preserva a recuperabilidade, posicionando-o como fundamentação teórica para sistemas de memória de IA de próxima geração, além de buffers de recuperação plana e estados recorrentes. Palavras-chave: memória composicional, teoria das categorias, pushouts, lentes bidirecionais, computação hiperdimensional, arquiteturas simbólicas vetoriais, composição associativa, preservação semântica, retração de memória, raciocínio multi-hop, camada de memória para LLM, agente ReAct.
Authors
- Pedro Farias
Publication Details
- Journal
- Zenodo (CERN European Organization for Nuclear Research)
- Published
- 2026-09-17
- DOI
- https://doi.org/10.5281/zenodo.22815162
- Primary Topic
- Ferroelectric and Negative Capacitance Devices
- Type
- preprint