An Algebra of Memory: Formal Foundations and Empirical Validation of Associative Composition Without Catastrophic Interference

English This work introduces a substrate-independent algebra for compositional memory that simultaneously satisfies associativity, recoverability, semantic preservation, stability, and expressiveness. The fundamental memory object is a hybrid structured tuple m = (V, G, T, P), where V is a distributed vector representation capturing semantic similarity, G is an explicit relational graph encoding entities and dependencies, T is a temporal/episodic component, and P represents priority/utility. Composition (⊕) is formalized as a categorical pushout with transitive closure, ensuring exact associativity regardless of composition order. A central contribution is demonstrating that composition need not destroy recoverability: using bidirectional lens theory (with Put-Get consistency laws), retrieval (ρ) and retraction (⊖) are formalized as structure-preserving operations over the composite state. Empirical validation across five phases confirms: (1) exact associativity (distance = 0) across 50 seeds with correlated embeddings (ρ ∈ [0, 0.95]); (2) statistical superiority over LSTM and vector-sum baselines (p < 10⁻⁶) in stability under N=10⁴ sequential compositions, with optimized LSH retrieval in 0.478s; (3) structural differentiation from kNN baselines — temporal conflicts (100% vs 50%), fact retraction (100% vs 33–43%), and multi-hop reasoning (100% vs 87–93%); (4) validation with real sentence embeddings (all-MiniLM-L6-v2, 384-dim) achieving 100% top-1 semantic retrieval and exact associativity; (5) integration as a memory layer for real LLM agents via a ReAct loop, achieving 100% accuracy on temporal conflict resolution, fact retraction, and multi-hop retrieval across multiple models. The algebra scales to N=100,000 memories (~200,000 nodes) within 3GB RAM using chained LSH and batch composition, with sub-second retrieval at N≤10⁴. These results establish a formal framework for memory composition that preserves recoverability, positioning it as a theoretical foundation for next-generation AI memory systems beyond flat retrieval buffers and recurrent states. Keywords: compositional memory, category theory, pushouts, bidirectional lenses, hyperdimensional computing, vector symbolic architectures, associative composition, semantic preservation, memory retraction, multi-hop reasoning, LLM memory layer, ReAct agent. Português Este trabalho introduz uma álgebra independente de substrato para memória composicional que satisfaz simultaneamente associatividade, recuperabilidade, preservação semântica, estabilidade e expressividade. O objeto fundamental da memória é uma tupla estruturada híbrida m = (V, G, T, P), na qual V é uma representação vetorial distribuída que captura similaridade semântica, G é um grafo relacional explícito que codifica entidades e dependências, T é um componente temporal/episódico e P representa prioridade/utilidade. A composição (⊕) é formalizada como um pushout categórico com fechamento transitivo, garantindo associatividade exata independentemente da ordem de composição. Uma contribuição central é demonstrar que a composição não precisa destruir a recuperabilidade: utilizando a teoria de lentes bidirecionais (com as leis de consistência Put-Get), a recuperação (ρ) e a retração (⊖) são formalizadas como operações que preservam a estrutura sobre o estado composto. A validação empírica em cinco fases confirma: (1) associatividade exata (distância = 0) em 50 sementes com embeddings correlacionados (ρ ∈ [0, 0.95]); (2) superioridade estatística em relação aos baselines LSTM e soma vetorial (p < 10⁻⁶) em estabilidade sob N=10⁴ composições sequenciais, com recuperação LSH otimizada em 0,478s; (3) diferenciação estrutural em relação aos baselines kNN — conflitos temporais (100% contra 50%), retração de fatos (100% contra 33–43%) e raciocínio multi-hop (100% contra 87–93%); (4) validação com embeddings reais de sentenças (all-MiniLM-L6-v2, 384 dimensões) atingindo 100% de recuperação top-1 semântica e associatividade exata; (5) integração como camada de memória para agentes LLM reais via loop ReAct, atingindo 100% de acurácia em resolução de conflitos temporais, retração de fatos e recuperação multi-hop em múltiplos modelos. A álgebra escala para N=100.000 memórias (~200.000 nós) em 3GB de RAM usando LSH encadeado e composição em lote, com recuperação sub-segundo em N≤10⁴. Esses resultados estabelecem um framework formal para composição de memória que preserva a recuperabilidade, posicionando-o como fundamentação teórica para sistemas de memória de IA de próxima geração, além de buffers de recuperação plana e estados recorrentes. Palavras-chave: memória composicional, teoria das categorias, pushouts, lentes bidirecionais, computação hiperdimensional, arquiteturas simbólicas vetoriais, composição associativa, preservação semântica, retração de memória, raciocínio multi-hop, camada de memória para LLM, agente ReAct.

Authors

Publication Details

Journal
Zenodo (CERN European Organization for Nuclear Research)
Published
2026-09-17
DOI
https://doi.org/10.5281/zenodo.22815162
Primary Topic
Ferroelectric and Negative Capacitance Devices
Type
preprint
Controls
|||
ALL TIME
JAN
FEB
MAR
APR
MAY
JUN
JUL
AUG
SEP
preprint

An Algebra of Memory: Formal Foundations and Empirical Validation of Associative Composition Without Catastrophic Interference

Pedro Farias
Zenodo (CERN European Organization for Nuclear Research)
Ferroelectric and Negative Capacitance Devices
preprint

An Algebra of Memory: Formal Foundations and Empirical Validation of Associative Composition Without Catastrophic Interference

Pedro Farias
preprint en

Abstract

English This work introduces a substrate-independent algebra for compositional memory that simultaneously satisfies associativity, recoverability, semantic preservation, stability, and expressiveness. The fundamental memory object is a hybrid structured tuple m = (V, G, T, P), where V is a distributed vector representation capturing semantic similarity, G is an explicit relational graph encoding entities and dependencies, T is a temporal/episodic component, and P represents priority/utility. Composition (⊕) is formalized as a categorical pushout with transitive closure, ensuring exact associativity regardless of composition order. A central contribution is demonstrating that composition need not destroy recoverability: using bidirectional lens theory (with Put-Get consistency laws), retrieval (ρ) and retraction (⊖) are formalized as structure-preserving operations over the composite state. Empirical validation across five phases confirms: (1) exact associativity (distance = 0) across 50 seeds with correlated embeddings (ρ ∈ [0, 0.95]); (2) statistical superiority over LSTM and vector-sum baselines (p < 10⁻⁶) in stability under N=10⁴ sequential compositions, with optimized LSH retrieval in 0.478s; (3) structural differentiation from kNN baselines — temporal conflicts (100% vs 50%), fact retraction (100% vs 33–43%), and multi-hop reasoning (100% vs 87–93%); (4) validation with real sentence embeddings (all-MiniLM-L6-v2, 384-dim) achieving 100% top-1 semantic retrieval and exact associativity; (5) integration as a memory layer for real LLM agents via a ReAct loop, achieving 100% accuracy on temporal conflict resolution, fact retraction, and multi-hop retrieval across multiple models. The algebra scales to N=100,000 memories (~200,000 nodes) within 3GB RAM using chained LSH and batch composition, with sub-second retrieval at N≤10⁴. These results establish a formal framework for memory composition that preserves recoverability, positioning it as a theoretical foundation for next-generation AI memory systems beyond flat retrieval buffers and recurrent states. Keywords: compositional memory, category theory, pushouts, bidirectional lenses, hyperdimensional computing, vector symbolic architectures, associative composition, semantic preservation, memory retraction, multi-hop reasoning, LLM memory layer, ReAct agent. Português Este trabalho introduz uma álgebra independente de substrato para memória composicional que satisfaz simultaneamente associatividade, recuperabilidade, preservação semântica, estabilidade e expressividade. O objeto fundamental da memória é uma tupla estruturada híbrida m = (V, G, T, P), na qual V é uma representação vetorial distribuída que captura similaridade semântica, G é um grafo relacional explícito que codifica entidades e dependências, T é um componente temporal/episódico e P representa prioridade/utilidade. A composição (⊕) é formalizada como um pushout categórico com fechamento transitivo, garantindo associatividade exata independentemente da ordem de composição. Uma contribuição central é demonstrar que a composição não precisa destruir a recuperabilidade: utilizando a teoria de lentes bidirecionais (com as leis de consistência Put-Get), a recuperação (ρ) e a retração (⊖) são formalizadas como operações que preservam a estrutura sobre o estado composto. A validação empírica em cinco fases confirma: (1) associatividade exata (distância = 0) em 50 sementes com embeddings correlacionados (ρ ∈ [0, 0.95]); (2) superioridade estatística em relação aos baselines LSTM e soma vetorial (p < 10⁻⁶) em estabilidade sob N=10⁴ composições sequenciais, com recuperação LSH otimizada em 0,478s; (3) diferenciação estrutural em relação aos baselines kNN — conflitos temporais (100% contra 50%), retração de fatos (100% contra 33–43%) e raciocínio multi-hop (100% contra 87–93%); (4) validação com embeddings reais de sentenças (all-MiniLM-L6-v2, 384 dimensões) atingindo 100% de recuperação top-1 semântica e associatividade exata; (5) integração como camada de memória para agentes LLM reais via loop ReAct, atingindo 100% de acurácia em resolução de conflitos temporais, retração de fatos e recuperação multi-hop em múltiplos modelos. A álgebra escala para N=100.000 memórias (~200.000 nós) em 3GB de RAM usando LSH encadeado e composição em lote, com recuperação sub-segundo em N≤10⁴. Esses resultados estabelecem um framework formal para composição de memória que preserva a recuperabilidade, posicionando-o como fundamentação teórica para sistemas de memória de IA de próxima geração, além de buffers de recuperação plana e estados recorrentes. Palavras-chave: memória composicional, teoria das categorias, pushouts, lentes bidirecionais, computação hiperdimensional, arquiteturas simbólicas vetoriais, composição associativa, preservação semântica, retração de memória, raciocínio multi-hop, camada de memória para LLM, agente ReAct.

Zenodo (CERN European Organization for Nuclear Research)
Ferroelectric and Negative Capacitance Devices
AI Navigator

Ask Laika to Summarize, Analyze, and Connect papers live on the map.

Summarize Papers & Methodologies

Extract key findings, datasets, and comparative methods across publications.

Benchmark Rankings & Visual Analytics

Rank top research institutions, authors, funders, topics, and journals by Field-Weighted Citation Impact (FWCI) and paper volume with instant charts.

Connect Distant Disciplines

Bridge topological clusters on the map to find hidden collaborative intersections.