Algumas Considerações sobre as Aproximações Variacionais

O principal problema numérico na Inferência Bayesiana é como aproximar um ou vários valores esperados da forma $\int g( \theta ) \, p ( \theta | D) \, d \theta$. Nos primórdios da área, usavam-se métodos assintóticos, tais como a aproximação Normal ou a de Laplace, que, essencialmente, substituíam o problema de integração (difícil) por outro de otimização (mais fácil). Posteriormente, a partir da década dos (19)80s, popularizaram-se métodos de Monte Carlo, primeiro amostragem por rejeição ou por importância e depois os baseados em Cadeias de Markov (MCMC). Mais recentemente, surgiram novamente métodos baseados em otimização, chamados de Aproximações Variacionais. Nesta apresentação vamos fazer uma breve introdução aos métodos variacionais, comparar as suas principais diferenças com os métodos de Monte Carlo e, a partir dessa comparação, apontar algumas direções de pesquisa que poderiam fazê-los mais competitivos com as aproximações de Monte Carlo.