Processos Gaussianos para Aprendizado Supervisionado

Abstract

Este trabalho investiga o uso de processos gaussianos para a resolução de problemas de aprendizado supervisionado, método que vem aumentando em popularidade nos últimos anos na área de aprendizado de máquinas e vem se mostrando uma estratégia competitiva e viável. Primeiramente, tais processos são definidos e suas propriedades estudadas, com um enfoque no papel de suas funções de covariância. Com isso, seguindo uma abordagem Bayesiana, esse processos são aplicados para a resolução de problemas de regressão e classificação. Infelizmente, na maioria dos casos, a distribuição posterior obtida está computacionalmente indisponível, o que leva ao estudo de métodos de aproximação para tal distribuição. Alguns métodos são discutidos, sendo esses o método de expectation propagation, o método de aproximação de Laplace e o uso de Markov chain Monte Carlo. Um enfoque maior é dado para o método de expectation propagation. São apresentados algoritmos para a implementação de tais métodos, com destaque para o nested expectation propagation como um algoritmo para classificação por processos gaussianos seguindo o método de expectation propagation. As estratégias, métodos e algoritmos apresentados são então testados e os resultados obtidos apontam para o uso de processos gaussianos para a resolução de problemas de aprendizagem supervisionada ser uma estratégia viável e com bom desempenho.