Elaboração de Uma Rede Neural Pré-Treinada Para Séries Temporais

Abstract

A previsão de séries temporais consiste em estimar valores futuros de uma variável ou de um conjunto de variáveis com base em observações passadas, considerando sua estrutura temporal e possíveis relações com outros fatores. Uma das principais características desse tipo de modelagem é a dependência temporal, ou seja, a correlação entre observações consecutivas, que exige métodos específicos para a captura de padrões sazonais, tendências e flutuações aleatórias. Com os avanços recentes em Aprendizado de Máquina e o aumento da disponibilidade de grandes volumes de dados, novas abordagens têm sido propostas para lidar com problemas mais complexos, incluindo séries multivariadas, dados não lineares e ambientes dinâmicos. Nesse contexto, o presente projeto teve como objetivo desenvolver uma rede neural pré-treinada, de modo a facilitar o desenvolvimento de novos modelos. A proposta busca tornar mais acessível a modelagem de séries temporais por meio de redes neurais, uma vez que, a partir de um modelo previamente treinado, é possível adaptar e criar modelos para diferentes contextos utilizando uma quantidade menor de dados. Para alcançar o objetivo proposto, o estudo foi dividido em duas etapas. A primeira consistiu na exploração da temática de transfer learning (TL) em redes neurais, comparando diversas abordagens aplicadas a redes Long Short-Term Memory (LSTM) e avaliando como elas influenciam as métricas de desempenho na previsão. Para este estudo foram utilizados dados históricos de dióxido de carbono (CO₂). A segunda etapa teve como foco a análise multivariada com LSTMs por meio da concatenação ou agregação de variáveis de entrada, utilizando dados meteorológicos de múltiplas cidades brasileiras. Os resultados obtidos com TL mostraram que todos os métodos apresentaram capacidade de adaptação aos dados locais; entretanto, o grau de congelamento das camadas afeta a flexibilidade de ajuste. Congelar menos camadas confere maior liberdade ao modelo para aprender as peculiaridades locais, potencialmente reduzindo o erro das predições. Quanto à análise multivariada, a abordagem baseada na agregação por média entre cidades apresentou a melhor relação entre simplicidade, estabilidade e desempenho preditivo, mostrando-se eficaz ao suavizar variações locais e fornecer ao modelo uma base de treinamento mais generalista, capaz de gerar previsões mais consistentes. Como trabalhos futuros, sugere-se explorar inputs da rede LSTM, explorando diferentes maneiras de agregação ou ainda concatenação bem como alternativas para a avaliação do desempenho utilizando outras arquiteturas baseadas em LSTM.