Projeto e avaliação de um sistema de memória para agentes de IA: Gerenciamento de contexto e persistência de fatos entre sessões

Abstract

Os Modelos de Linguagem de Grande Escala operam sem estado e não retêm informação entre chamadas, o que faz com que agentes de uso contínuo percam contexto, repitam erros, ignorem preferências do usuário e produzam respostas inconsistentes a cada nova sessão. Enviar todo o histórico a cada requisição não resolve o problema, pois eleva o custo por consulta, aumenta a latência e degrada a qualidade da resposta em contextos longos. Este trabalho projeta, desenvolve e avalia um sistema de memória de agente, aplicado à LivIA, o assistente de IA industrial da HarboR Inteligência Industrial. A solução divide a memória em dois módulos. O módulo de memória de sessão gerencia o contexto da interação corrente por meio de um buffer com janela deslizante, de um pipeline de compactação acionado por limite de mensagens ou de tokens, o que ocorrer primeiro, e de um sumário estruturado segmentado por mudança de tópico. O módulo de memória de longo prazo extrai preferências do usuário e fatos do ambiente operacional, persiste-os em banco relacional e vetorial indexado por usuário e empresa, e os recupera nas sessões seguintes injetando-os automaticamente no contexto. Um mecanismo de busca por ferramenta permite recuperar sob demanda resumos de sessões anteriores referenciados pelo operador. Uma política de admissão semântica baseada em distância de cosseno e em um árbitro baseado em modelo de linguagem evita duplicatas e resolve contradições entre memórias, com limiares calibrados sobre um conjunto de dados sintético. A implementação usa um framework de orquestração de agentes, banco de dados em memória para o contexto ativo, banco relacional e vetorial para o armazenamento durável e um modelo de linguagem comercial para sumarização, extração e geração de respostas. O sistema preserva a continuidade e a personalização entre sessões, isola estritamente as memórias por usuário e empresa e mantém o histórico de conversa dentro do limite configurado independentemente da duração da sessão. A avaliação verificou o atendimento de todos os requisitos funcionais e confirmou que a memória ativa não degrada a latência mediana de resposta, mantendo-a equivalente à configuração sem memória.