Método fuzzy para aprendizagem online de parâmetros em redes bayesianas

Abstract

Em problemas de aprendizagem, existem situações onde os dados de treinamento não estão totalmente disponíveis durante o momento do aprendizado. Eles são gerados de forma interativa no tempo ou online e tem entre as suas características a possibilidade de haver dados inconsistentes ou faltantes. Em Redes Bayesianas, a aprendizagem é dividida em duas categorias: estrutural (relacionada ao grafo da rede e suas ligações) e paramétrica (relacionada a probabilidade condicional das ligações). Neste trabalho é apresentado o EMFuzzyOnline - um método de aprendizagem de parâmetros online que se adapta rapidamente à mudanças na distribuição dos dados. Essa adaptação busca não apenas de reproduzir a distribuição dos dados na Rede Bayesiana (aprendizagem generativa), como aumentar a acurácia da rede como um todo (aprendizagem discriminativa). O método utiliza as técnicas fuzzy, estatística e inferência bayesiana. A abordagem é comparada com o método Voting EM Adaptativo e a Maximização da Verossimilhança considerando duas condições de simulação: quando a distribuição dos dados é desconhecida, e quando ela é conhecida e passa por mudanças bruscas durante a aprendizagem. Os experimentos foram feitos considerando três cenários distintos: testando a rede estado da arte proposta no método Voting EM, com bases de dados públicas do repositório UCI e com uma base de dados real de perfuração de poços de petróleo. O EMFuzzyOnline se mostrou robusto e versátil em ambas as situações demonstrado através de experimentação e resultados estatísticos, além de oferecer uma parametrização mais simplificada do que a abordagem tradicional - reduzindo de três para um parâmetro de configuração.<br>

Abstract : In learning problems, there are situations where training data is not fully available at the learning time. They are incrementally generated by time, defining a type of domain called online that has among its characteristics the possibility of data failure or even missing data. In Bayesian networks, learning is divided into two categories: structure (related to the graph of conditional relations) and parameters (related to the strength of conditional relations). In this work we present EMFuzzyOnline, an online parameter learning method that quickly adapts to changes in the environment not only to reproduce the probability distribution (generative learning) but also to increase the accuracy in the network (discriminative learning) - it uses fuzzy techniques, statistics and general inference to achieve this goal. The approach is compared with the Adaptive Voting EM method and to Maximum Likelihood considering two simulation conditions: when distributions are unknown and when distributions undergo to abrupt changes. The experiments were made considering three different scenarios: testing the state-ofart network proposed on Voting EM Adaptive Method, with public datasets from UCI repository and with a real life database from oil wells perforation. The EMFuzzyOnline achieves good results in both situations by adjusting to environment changes more quickly and by simplifying the parameterization of the traditional approach.