|
Abstract:
|
Em um contexto de ampla adoção de LLMs, a inovação por uso dessa tecnologia deve
mudar como trabalhamos em diversas áreas, porém as IAs ainda apresentam alguns
problemas, e grande parte deles não são intrínsecos a essa tecnologia, mas sim a
como a usamos, assim havendo espaço para a otimização de técnicas e arquiteturas
de uso para chegar a um resultado melhor e mais eficiente. Este trabalho parte do contexto da plataforma conversacional LIA da Lifeshub voltada a apoiar vendas complexas
no setor de saúde por meio da consulta integrada a bases cadastrais, empresariais,
assistenciais e de relacionamento comercial. Em agentes de inteligência artificial generativa que usam ferramentas externas, esse tipo de consulta tende a elevar consumo
de tokens, latência, custo e instabilidade, principalmente quando a pergunta exige cruzamento de entidades e preservação factual entre fontes. O objetivo é implementar e
avaliar otimizações na camada de orquestração da Lineage Intelligence Agent (LIA),
sem propor o desenvolvimento da plataforma em si, para tornar o uso de modelos
de linguagem mais eficiente e confiável. As otimizações investigadas incluem seleção semântica de ferramentas, compactação de payloads e contexto, uso de memória
operacional, compressão cognitiva, recuperação auxiliar de evidências e separação
entre recuperação e composição da resposta. Essas estratégias buscam reduzir informação desnecessária enviada ao modelo, organizar melhor as evidências e diminuir
decisões repetitivas ou frágeis do agente. A avaliação foi conduzida por um benchmark
de ablação com diferentes arquiteturas e modelos, medindo acurácia, qualidade factual, latência, consumo de tokens e uso de ferramentas. Os resultados indicam que
as otimizações podem melhorar custo e eficiência em parte dos cenários, mas que o
melhor arranjo depende do modelo e do tipo de tarefa. O trabalho contribui com uma
metodologia experimental para avaliar arquiteturas de agentes com ferramentas em
aplicações corporativas de saúde. |
