Episodio

Inferencia variante: Fundamentos y métodos modernos

con David Blei, Rajesh Ranganath, Shakir Mohamed

Uno de los principales problemas de las estadísticas modernas y el aprendizaje automático es aproximar las distribuciones de probabilidad difíciles de calcular. Este problema es especialmente importante en el modelado probabilístico, que enmarca toda la inferencia sobre cantidades desconocidas como un cálculo sobre una distribución condicional. En este tutorial revisamos y analizamos la inferencia variante (VI), un método que aproxima las distribuciones de probabilidad a través de la optimización. VI se ha usado en innumerables aplicaciones en el aprendizaje automático y tiende a ser más rápido que los métodos más tradicionales, como el muestreo de monte Carlo de la cadena Markov. En los años 1990, los avances recientes y la implementación más fácil han renovado el interés y la aplicación de esta clase de métodos. Este tutorial tiene como objetivo proporcionar una introducción a VI con una visión moderna del campo y una visión general del papel que desempeña la inferencia probabilística en muchas de las áreas centrales del aprendizaje automático.

El tutorial tiene tres partes. En primer lugar, proporcionamos una revisión amplia de la inferencia variacional desde varias perspectivas. Esta parte sirve como introducción (o revisión) de sus conceptos centrales. En segundo lugar, desarrollamos y conectamos algunas de las herramientas fundamentales para VI que se han desarrollado en los últimos años, herramientas como la estimación de degradado de Monte Carlo, la inferencia variante de caja negra, la aproximación estocástica y los codificadores automáticos de variantes. Estos métodos han llevado a un resurgencia de la investigación y las aplicaciones de VI. Por último, analizamos algunos de los problemas no resueltos en VI y apuntamos a indicaciones de investigación prometedores.

Objetivos de aprendizaje;

  • Obtenga una comprensión bien fundamentada de los avances modernos en la inferencia variacional.
  • Comprenda cómo implementar versiones básicas para una amplia clase de modelos.
  • Comprenda las conexiones y los distintos nombres usados en otras áreas de investigación relacionadas.
  • Comprender los problemas importantes en la investigación de inferencias variacionales.

Audiencia objetivo;

  • Investigadores de aprendizaje automático en todo el nivel de experiencia de los estudiantes de primer año a otros investigadores más experimentados
  • Dirigido a aquellos que quieran comprender los avances recientes en la inferencia de variaciones
  • La comprensión básica de la probabilidad es suficiente