Amostragem de Gibbs - Gibbs sampling

Parte de uma série sobre
Estatísticas bayesianas
Teoria
Regra de decisão admissível Eficiência bayesiana Epistemologia bayesiana Probabilidade bayesiana Interpretações de probabilidade Teorema de Bayes Fator Bayes Inferência bayesiana Rede bayesiana Anterior Posterior Probabilidade Conjugado anterior Preditivo posterior Hiperparâmetro Hyperprior Princípio da indiferença Princípio da entropia máxima Método Bayes empírico Regra de Cromwell Teorema de Bernstein-von Mises Critério de Schwarz Intervalo de credibilidade Estimativa máxima a posteriori Probabilismo radical
Técnicas
Regressão linear bayesiana Estimador bayesiano Cálculo bayesiano aproximado Cadeia de Markov Monte Carlo
Portal de matemática
v t e

Em estatística , a amostragem de Gibbs ou um amostrador de Gibbs é um algoritmo de Markov Chain Monte Carlo (MCMC) para obter uma sequência de observações que são aproximadas de uma distribuição de probabilidade multivariada especificada , quando a amostragem direta é difícil. Esta sequência pode ser usada para aproximar a distribuição conjunta (por exemplo, para gerar um histograma da distribuição); para aproximar a distribuição marginal de uma das variáveis, ou algum subconjunto das variáveis ​​(por exemplo, os parâmetros desconhecidos ou variáveis ​​latentes ); ou para calcular uma integral (como o valor esperado de uma das variáveis). Normalmente, algumas das variáveis ​​correspondem a observações cujos valores são conhecidos e, portanto, não precisam ser amostrados.

A amostragem de Gibbs é comumente usada como meio de inferência estatística , especialmente a inferência bayesiana . É um algoritmo aleatório (ou seja, um algoritmo que faz uso de números aleatórios ) e é uma alternativa aos algoritmos determinísticos para inferência estatística, como o algoritmo de maximização de expectativa (EM).

Tal como acontece com outros algoritmos MCMC, a amostragem de Gibbs gera uma cadeia de Markov de amostras, cada uma delas correlacionada com amostras próximas. Como resultado, deve-se ter cuidado se forem desejadas amostras independentes. Geralmente, as amostras do início da cadeia (o período de burn-in ) podem não representar com precisão a distribuição desejada e geralmente são descartadas.

Introdução

A amostragem de Gibbs tem o nome do físico Josiah Willard Gibbs , em referência a uma analogia entre o algoritmo de amostragem e a física estatística . O algoritmo foi descrito pelos irmãos Stuart e Donald Geman em 1984, cerca de oito décadas após a morte de Gibbs.

Em sua versão básica, a amostragem de Gibbs é um caso especial do algoritmo Metropolis – Hastings . No entanto, em suas versões estendidas (veja abaixo ), pode ser considerado um quadro geral para a amostragem de um grande conjunto de variáveis, amostrando cada variável (ou, em alguns casos, cada grupo de variáveis) por sua vez, e pode incorporar a Metrópole– Algoritmo de Hastings (ou métodos como amostragem de fatia ) para implementar uma ou mais das etapas de amostragem.

A amostragem de Gibbs é aplicável quando a distribuição conjunta não é conhecida explicitamente ou é difícil amostrar diretamente, mas a distribuição condicional de cada variável é conhecida e é fácil (ou pelo menos, mais fácil) de amostrar. O algoritmo de amostragem de Gibbs gera uma instância a partir da distribuição de cada variável por sua vez, condicional aos valores atuais das outras variáveis. Pode-se mostrar que a sequência de amostras constitui uma cadeia de Markov , e a distribuição estacionária dessa cadeia de Markov é apenas a desejada distribuição conjunta.

A amostragem de Gibbs é particularmente bem adaptada para amostrar a distribuição posterior de uma rede Bayesiana , uma vez que as redes Bayesianas são normalmente especificadas como uma coleção de distribuições condicionais.

Implementação

A amostragem de Gibbs, em sua encarnação básica, é um caso especial do algoritmo Metropolis-Hastings . O ponto da amostragem de Gibbs é que, dada uma distribuição multivariada , é mais simples amostrar de uma distribuição condicional do que marginalizar integrando sobre uma distribuição conjunta . Suponha que queremos obter amostras de de uma distribuição conjunta . Denote a amostra por . Procedemos da seguinte forma: ${\ displaystyle \ left.k \ right.}$${\ displaystyle \ mathbf {X} = (x_ {1}, \ dots, x_ {n})}$${\ displaystyle p (x_ {1}, \ dots, x_ {n})}$${\ displaystyle i}$${\ displaystyle \ mathbf {X} ^ {(i)} = \ left (x_ {1} ^ {(i)}, \ dots, x_ {n} ^ {(i)} \ right)}$

1. Começamos com algum valor inicial .${\ displaystyle \ mathbf {X} ^ {(i)}}$
2. Queremos a próxima amostra. Chame esta próxima amostra . Como é um vetor, amostramos cada componente do vetor,, a partir da distribuição desse componente condicionado em todos os outros componentes amostrados até agora. Mas há um problema: condicionamos os componentes de até , e depois condicionamos os componentes de, começando de até . Para conseguir isso, amostramos os componentes em ordem, começando pelo primeiro componente. Mais formalmente, para amostrar , nós o atualizamos de acordo com a distribuição especificada por . Usamos o valor que o ésimo componente tinha na amostra, não a amostra.${\ displaystyle \ mathbf {X} ^ {(i + 1)}}$${\ displaystyle \ mathbf {X} ^ {(i + 1)} = \ left (x_ {1} ^ {(i + 1)}, x_ {2} ^ {(i + 1)}, \ dots, x_ {n} ^ {(i + 1)} \ direita)}$${\ displaystyle x_ {j} ^ {(i + 1)}}$${\ displaystyle \ mathbf {X} ^ {(i + 1)}}$ ${\ displaystyle x_ {j-1} ^ {(i + 1)}}$${\ displaystyle \ mathbf {X} ^ {(i)}}$${\ displaystyle x_ {j + 1} ^ {(i)}}$${\ displaystyle x_ {n} ^ {(i)}}$${\ displaystyle x_ {j} ^ {(i + 1)}}$${\ displaystyle p \ left (x_ {j} ^ {(i + 1)} | x_ {1} ^ {(i + 1)}, \ dots, x_ {j-1} ^ {(i + 1)} , x_ {j + 1} ^ {(i)}, \ dots, x_ {n} ^ {(i)} \ right)}$${\ displaystyle (j + 1)}$${\ displaystyle i}$${\ displaystyle (i + 1)}$
3. Repita as etapas acima .${\ displaystyle k}$

Se tal amostragem for realizada, estes fatos importantes são válidos:

• As amostras aproximam a distribuição conjunta de todas as variáveis.
• A distribuição marginal de qualquer subconjunto de variáveis ​​pode ser aproximada simplesmente considerando as amostras para aquele subconjunto de variáveis, ignorando o resto.
• O valor esperado de qualquer variável pode ser aproximado pela média de todas as amostras.

Ao realizar a amostragem:

• Os valores iniciais das variáveis ​​podem ser determinados aleatoriamente ou por algum outro algoritmo, como a maximização da expectativa .
• Na verdade, não é necessário determinar um valor inicial para a primeira variável amostrada.
• É comum ignorar algum número de amostras no início (o chamado período de burn-in ) e, então, considerar apenas cada amostra ao calcular a média dos valores para calcular uma expectativa. Por exemplo, as primeiras 1.000 amostras podem ser ignoradas e, em seguida, a média de cada 100 amostras, descartando todo o resto. A razão para isso é que (1) a distribuição estacionária da cadeia de Markov é a distribuição conjunta desejada sobre as variáveis, mas pode demorar um pouco para que essa distribuição estacionária seja alcançada; (2) as amostras sucessivas não são independentes umas das outras, mas formam uma cadeia de Markov com alguma correlação. Às vezes, os algoritmos podem ser usados ​​para determinar a quantidade de autocorrelação entre as amostras e o valor de (o período entre as amostras que são realmente usadas) calculado a partir disso, mas na prática há uma boa quantidade de " magia negra " envolvida.${\ displaystyle n}$${\ displaystyle n}$
• O processo de recozimento simulado é frequentemente usado para reduzir o comportamento do " passeio aleatório " na parte inicial do processo de amostragem (ou seja, a tendência de se mover lentamente ao redor do espaço da amostra, com uma grande quantidade de autocorrelação entre as amostras, em vez de se mover rapidamente , conforme desejado). Outras técnicas que podem reduzir a autocorrelação são a amostragem de Gibbs colapsada , a amostragem de Gibbs bloqueada e o excesso de relaxamento ordenado ; Veja abaixo.

Relação de distribuição condicional e distribuição conjunta

Além disso, a distribuição condicional de uma variável, dadas todas as outras, é proporcional à distribuição conjunta:

${\ displaystyle p (x_ {j} \ mid x_ {1}, \ dots, x_ {j-1}, x_ {j + 1}, \ dots, x_ {n}) = {\ frac {p (x_ { 1}, \ dots, x_ {n})} {p (x_ {1}, \ dots, x_ {j-1}, x_ {j + 1}, \ dots, x_ {n})}} \ propto p (x_ {1}, \ pontos, x_ {n})}$

"Proporcional a", neste caso, significa que o denominador não é uma função de e, portanto, é o mesmo para todos os valores de ; faz parte da constante de normalização para a distribuição final . Na prática, para determinar a natureza da distribuição condicional de um fator , é mais fácil fatorar a distribuição conjunta de acordo com as distribuições condicionais individuais definidas pelo modelo gráfico sobre as variáveis, ignorar todos os fatores que não são funções de (todos os quais , junto com o denominador acima, constituem a constante de normalização) e, em seguida, restabelece a constante de normalização no final, conforme necessário. Na prática, isso significa fazer uma das três coisas: ${\ displaystyle x_ {j}}$${\ displaystyle x_ {j}}$${\ displaystyle x_ {j}}$${\ displaystyle x_ {j}}$${\ displaystyle x_ {j}}$

1. Se a distribuição for discreta, as probabilidades individuais de todos os valores possíveis de são calculadas e somadas para encontrar a constante de normalização.${\ displaystyle x_ {j}}$
2. Se a distribuição for contínua e de uma forma conhecida, a constante de normalização também será conhecida.
3. Em outros casos, a constante de normalização geralmente pode ser ignorada, pois a maioria dos métodos de amostragem não a exige.

Inferência

A amostragem de Gibbs é comumente usada para inferência estatística (por exemplo, determinar o melhor valor de um parâmetro, como determinar o número de pessoas que provavelmente farão compras em uma determinada loja em um determinado dia, o candidato em quem o eleitor provavelmente votará, etc.) . A ideia é que os dados observados sejam incorporados ao processo de amostragem pela criação de variáveis ​​separadas para cada parte dos dados observados e pela fixação das variáveis ​​em questão aos seus valores observados, em vez de amostragem dessas variáveis. A distribuição das variáveis ​​restantes é, então, efetivamente, uma distribuição posterior condicionada aos dados observados.

O valor mais provável de um parâmetro desejado (o modo ) poderia então simplesmente ser selecionado escolhendo o valor de amostra que ocorre mais comumente; isto é essencialmente equivalente à estimativa a posteriori máxima de um parâmetro. (Uma vez que os parâmetros são geralmente contínuos, muitas vezes é necessário "bin" os valores amostrados em um de um número finito de intervalos ou "bins" para obter uma estimativa significativa do modo.) Mais comumente, no entanto, o esperado valor ( média ou média) dos valores amostrados é escolhido; este é um estimador Bayes que aproveita os dados adicionais sobre toda a distribuição que estão disponíveis na amostragem bayesiana, enquanto um algoritmo de maximização como a maximização da expectativa (EM) é capaz de retornar apenas um único ponto da distribuição. Por exemplo, para uma distribuição unimodal, a média (valor esperado) é geralmente semelhante ao modo (valor mais comum), mas se a distribuição for enviesada em uma direção, a média será movida nessa direção, o que efetivamente explica o valor extra massa de probabilidade nessa direção. (Se uma distribuição for multimodal, o valor esperado pode não retornar um ponto significativo e qualquer um dos modos é normalmente uma escolha melhor.)

Embora algumas das variáveis ​​normalmente correspondam a parâmetros de interesse, outras são variáveis ​​desinteressantes ("incômodas") introduzidas no modelo para expressar adequadamente as relações entre as variáveis. Embora os valores amostrados representem a distribuição conjunta de todas as variáveis, as variáveis ​​de incômodo podem simplesmente ser ignoradas ao calcular os valores ou modos esperados; isso é equivalente a marginalizar em relação às variáveis ​​incômodas. Quando um valor para várias variáveis ​​é desejado, o valor esperado é simplesmente calculado para cada variável separadamente. (Ao calcular o modo, no entanto, todas as variáveis ​​devem ser consideradas juntas.)

Aprendizagem supervisionada , aprendizagem não supervisionada e aprendizagem semissupervisionada (também conhecida como aprendizagem com valores ausentes) podem ser tratadas simplesmente fixando os valores de todas as variáveis ​​cujos valores são conhecidos e amostrando o restante.

Para os dados observados, haverá uma variável para cada observação - em vez de, por exemplo, uma variável correspondente à média da amostra ou variância da amostra de um conjunto de observações. Na verdade, geralmente não haverá nenhuma variável correspondente a conceitos como "média da amostra" ou "variância da amostra". Em vez disso, em tal caso, haverá variáveis ​​que representam a média verdadeira desconhecida e a variância verdadeira, e a determinação dos valores de amostra para essas variáveis ​​resulta automaticamente da operação do amostrador de Gibbs.

Modelos lineares generalizados (ou seja, variações de regressão linear ) às vezes também podem ser tratados pela amostragem de Gibbs. Por exemplo, a regressão probit para determinar a probabilidade de uma determinada escolha binária (sim / não), com antecedentes normalmente distribuídos colocados sobre os coeficientes de regressão, pode ser implementada com a amostragem de Gibbs porque é possível adicionar variáveis ​​adicionais e tirar vantagem da conjugação . No entanto, a regressão logística não pode ser tratada dessa forma. Uma possibilidade é aproximar a função logística com uma mistura (normalmente 7–9) de distribuições normais. Mais comumente, no entanto, Metropolis – Hastings é usado em vez da amostragem de Gibbs.

Fundo matemático

Suponha que uma amostra seja retirada de uma distribuição dependendo de um vetor de parâmetro de comprimento , com distribuição anterior . Pode ser que seja muito grande e que a integração numérica para encontrar as densidades marginais do seria computacionalmente cara. Então, um método alternativo de cálculo das densidades marginais é criar uma cadeia de Markov no espaço , repetindo estas duas etapas: ${\ displaystyle \ left.X \ right.}$${\ displaystyle \ theta \ in \ Theta \, \!}$${\ displaystyle \ left.d \ right.}$${\ displaystyle g (\ theta _ {1}, \ ldots, \ theta _ {d})}$${\ displaystyle \ left.d \ right.}$${\ displaystyle \ left. \ theta _ {i} \ right.}$${\ displaystyle \ left. \ Theta \ right.}$

1. Escolha um índice aleatório ${\ displaystyle 1 \ leq j \ leq d}$
2. Escolha um novo valor para de acordo com${\ displaystyle \ left. \ theta _ {j} \ right.}$${\ displaystyle g (\ theta _ {1}, \ ldots, \ theta _ {j-1}, \, \ cdot \ ,, \ theta _ {j + 1}, \ ldots, \ theta _ {d}) }$

Essas etapas definem uma cadeia de Markov reversível com a distribuição invariante desejada . Isso pode ser provado da seguinte forma. Defina if for all e deixe denotar a probabilidade de um salto de para . Então, as probabilidades de transição são ${\ displaystyle \ left.g \ right.}$${\ displaystyle x \ sim _ {j} y}$${\ displaystyle \ left.x_ {i} = y_ {i} \ right.}$${\ displaystyle i \ neq j}$${\ displaystyle \ left.p_ {xy} \ right.}$${\ displaystyle x \ in \ Theta}$${\ displaystyle y \ in \ Theta}$

${\ displaystyle p_ {xy} = {\ begin {cases} {\ frac {1} {d}} {\ frac {g (y)} {\ sum _ {z \ in \ Theta: z \ sim _ {j } x} g (z)}} & x \ sim _ {j} y \\ 0 & {\ text {caso contrário}} \ end {cases}}}$

Então

${\ displaystyle g (x) p_ {xy} = {\ frac {1} {d}} {\ frac {g (x) g (y)} {\ sum _ {z \ in \ Theta: z \ sim _ {j} x} g (z)}} = {\ frac {1} {d}} {\ frac {g (y) g (x)} {\ sum _ {z \ in \ Theta: z \ sim _ {j} y} g (z)}} = g (y) p_ {yx}}$

uma vez que é uma relação de equivalência . Assim, as equações de equilíbrio detalhadas são satisfeitas, o que implica que a cadeia é reversível e tem distribuição invariável . ${\ displaystyle x \ sim _ {j} y}$${\ displaystyle \ left.g \ right.}$

Na prática, o índice não é escolhido aleatoriamente e a cadeia percorre os índices em ordem. Em geral, isso dá um processo de Markov não estacionário, mas cada etapa individual ainda será reversível e o processo geral ainda terá a distribuição estacionária desejada (contanto que a cadeia possa acessar todos os estados sob a ordem fixa). ${\ displaystyle \ left.j \ right.}$

Amostrador de Gibbs em inferência bayesiana e sua relação com a teoria da informação

Deixe denotar observações geradas a partir da distribuição de amostragem e é a priori suportado no espaço de parâmetro . Então, um dos objetivos centrais da estatística bayesiana é aproximar a densidade posterior ${\ displaystyle y}$${\ displaystyle f (y | \ theta)}$${\ displaystyle \ pi (\ theta)}$${\ displaystyle \ Theta}$

${\ displaystyle \ pi (\ theta | y) = {\ frac {f (y | \ theta) \ cdot \ pi (\ theta)} {m (y)}}}$

onde a probabilidade marginal é considerada finita para todos . ${\ displaystyle m (y) = \ int _ {\ Theta} f (y | \ theta) \ cdot \ pi (\ theta) d \ theta}$${\ displaystyle y}$

Para explicar o amostrador de Gibbs, também assumimos que o espaço de parâmetro é decomposto como ${\ displaystyle \ Theta}$

${\ displaystyle \ Theta = \ prod _ {i = 1} ^ {K} \ Theta _ {i} = \ Theta _ {1} \ times \ cdots \ Theta _ {i} \ times \ cdots \ Theta _ {K }, \ quad \ quad (K> 1)}$,

onde representa o produto cartesiano . Cada espaço de parâmetro de componente pode ser um conjunto de componentes escalares, subvetores ou matrizes. ${\ displaystyle \ times}$${\ displaystyle \ Theta _ {i}}$

Defina um conjunto que complemente o . Os ingredientes essenciais do amostrador de Gibbs são a -ésima distribuição posterior condicional completa para cada${\ displaystyle \ Theta _ {- i}}$${\ displaystyle \ Theta _ {i}}$${\ displaystyle i}$${\ displaystyle i = 1, \ cdots, K}$

${\ displaystyle \ pi (\ theta _ {i} | \ theta _ {- i}, y) = \ pi (\ theta _ {i} | \ theta _ {1}, \ cdots, \ theta _ {i- 1}, \ theta _ {i + 1}, \ cdots, \ theta _ {K}, y)}$.

Uma descrição pictórica do algoritmo de amostragem de Gibbs

Descrição esquemática da igualdade de informação associada ao amostrador de Gibbs na i-ésima etapa dentro de um ciclo

O algoritmo a seguir detalha um amostrador Gibbs genérico:

${\ displaystyle {\ text {Inicializar: escolha o valor inicial arbitrário}} \, \, \ theta ^ {(1)} = (\ theta _ {1} ^ {(1)}, \ theta _ {2} ^ { (1)}, \ cdots, \ theta _ {i} ^ {(1)}, \ theta _ {i + 1} ^ {(1)}, \ cdots, \ theta _ {K} ^ {(1) })}$

${\ displaystyle {\ text {Iterar um Ciclo:}} \,}$

${\ displaystyle \ quad \ quad {\ text {Etapa 1. desenhar}} \, \, \ theta _ {1} ^ {(s + 1)} \ sim \ pi (\ theta _ {1} | \ theta _ {2} ^ {(s)}, \ theta _ {3} ^ {(s)}, \ cdots, \ theta _ {K} ^ {(s)}, y)}$

${\ displaystyle \ quad \ quad {\ text {Etapa 2. desenhar}} \, \, \ theta _ {2} ^ {(s + 1)} \ sim \ pi (\ theta _ {2} | \ theta _ {1} ^ {(s + 1)}, \ theta _ {3} ^ {(s)}, \ cdots, \ theta _ {K} ^ {(s)}, y)}$

${\ displaystyle \ quad \ quad \ quad \ vdots}$

${\ displaystyle \ quad \ quad {\ text {Etapa i. desenhar}} \, \, \ theta _ {i} ^ {(s + 1)} \ sim \ pi (\ theta _ {i} | \ theta _ {1} ^ {(s + 1)}, \ theta _ {2} ^ {(s + 1)}, \ cdots, \ theta _ {i-1} ^ {(s + 1)}, \ theta _ {i + 1} ^ {(s)}, \ cdots , \ theta _ {K} ^ {(s)}, y)}$

${\ displaystyle \ quad \ quad {\ text {Etapa i + 1. desenhar}} \, \, \ theta _ {i + 1} ^ {(s + 1)} \ sim \ pi (\ theta _ {i + 1} | \ theta _ {1} ^ {(s + 1) }, \ theta _ {2} ^ {(s + 1)}, \ cdots, \ theta _ {i} ^ {(s + 1)}, \ theta _ {i + 2} ^ {(s)}, \ cdots, \ theta _ {K} ^ {(s)}, y)}$

${\ displaystyle \ quad \ quad \ quad \ vdots}$

${\ displaystyle \ quad \ quad {\ text {Etapa K. desenhar}} \, \, \ theta _ {K} ^ {(s + 1)} \ sim \ pi (\ theta _ {K} | \ theta _ {1} ^ {(s + 1)}, \ theta _ {2} ^ {(s + 1)}, \ cdots, \ theta _ {K-1} ^ {(s + 1)}, y)}$

${\ displaystyle {\ text {fim da iteração}}}$

Observe que o amostrador de Gibbs é operado pelo esquema iterativo de Monte Carlo em um ciclo. O número de amostras retiradas pelo algoritmo acima formula as cadeias de Markov com a distribuição invariante para ser a densidade alvo . ${\ displaystyle S}$${\ displaystyle \ {\ theta ^ {(s)} \} _ {s = 1} ^ {S}}$${\ displaystyle \ pi (\ theta | y)}$

Agora, para cada um , defina as seguintes quantidades teóricas de informação: ${\ displaystyle i = 1, \ cdots, K}$

${\ displaystyle I (\ theta _ {i}; \ theta _ {- i}) = {\ text {KL}} (\ pi (\ theta | y) || \ pi (\ theta _ {i} | y ) \ cdot \ pi (\ theta _ {- i} | y)) = \ int _ {\ Theta} \ pi (\ theta | y) \ log {\ bigg (} {\ frac {\ pi (\ theta | y)} {\ pi (\ theta _ {i} | y) \ cdot \ pi (\ theta _ {- i} | y)}} {\ bigg)} d \ theta,}$

${\ displaystyle H (\ theta _ {- i}) = - \ int _ {\ Theta _ {- i}} \ pi (\ theta _ {- i} | y) \ log \ pi (\ theta _ {- i} | y) d \ theta _ {- i},}$

${\ displaystyle H (\ theta _ {- i} | \ theta _ {i}) = - \ int _ {\ Theta} \ pi (\ theta | y) \ log \ pi (\ theta _ {- i} | \ theta _ {i}, y) d \ theta,}$

a saber, informação mútua posterior, entropia diferencial posterior e entropia diferencial condicional posterior, respectivamente. Podemos semelhante definir informação quantidades teóricas , e trocando o e nas quantidades definidas. Então, as seguintes equações são válidas. ${\ displaystyle I (\ theta _ {- i}; \ theta _ {i})}$${\ displaystyle H (\ theta _ {i})}$${\ displaystyle H (\ theta _ {i} | \ theta _ {- i})}$${\ displaystyle i}$${\ displaystyle -i}$${\ displaystyle K}$

${\ displaystyle I (\ theta _ {i}; \ theta _ {- i}) = H (\ theta _ {- i}) - H (\ theta _ {- i} | \ theta _ {i}) = H (\ theta _ {i}) - H (\ theta _ {i} | \ theta _ {- i}) = I (\ theta _ {- i}; \ theta _ {i}), \ quad (i = 1, \ cdots, K)}$.

A informação mútua quantifica a redução na incerteza da quantidade aleatória uma vez que a conhecemos , a posteriori. Ele desaparece se e somente se e for marginalmente independente, um posterior. A informação mútua pode ser interpretada como a quantidade que é transmitida da -ésima etapa para a -ésima etapa dentro de um único ciclo do amostrador de Gibbs. ${\ displaystyle I (\ theta _ {i}; \ theta _ {- i})}$${\ displaystyle \ theta _ {i}}$${\ displaystyle \ theta _ {- i}}$${\ displaystyle \ theta _ {i}}$${\ displaystyle \ theta _ {- i}}$${\ displaystyle I (\ theta _ {i}; \ theta _ {- i})}$${\ displaystyle i}$${\ displaystyle i + 1}$

Variações e extensões

Existem inúmeras variações do amostrador Gibbs básico. O objetivo dessas variações é reduzir a autocorrelação entre as amostras o suficiente para superar quaisquer custos computacionais adicionados.

Amostrador Gibbs bloqueado

• Um amostrador de Gibbs bloqueado agrupa duas ou mais variáveis ​​juntas e amostras de sua distribuição conjunta condicionada a todas as outras variáveis, em vez de amostrar cada uma individualmente. Por exemplo, em um modelo de Markov oculto , um amostrador de Gibbs bloqueado pode amostrar todas as variáveis ​​latentes que compõem a cadeia de Markov de uma só vez, usando o algoritmo para frente e para trás .

Amostrador Gibbs recolhido

• Um amostrador Gibbs recolhido integra ( marginaliza ) uma ou mais variáveis ​​ao amostrar para alguma outra variável. Por exemplo, suponhamos que um modelo consiste em três variáveis A , B , e C . Um amostrador de Gibbs simples amostraria de p ( A  |  B , C ), então p ( B  |  A , C ), então p ( C  |  A , B ). Um amostrador de Gibbs colapsado pode substituir a etapa de amostragem de A por uma amostra retirada da distribuição marginal p ( A  |  C ), com a variável B integrada neste caso. Alternativamente, a variável B poderia ser totalmente recolhida, alternadamente amostrando de p ( A  |  C ) ep ( C  |  A ) e não amostrando sobre B de forma alguma. A distribuição sobre uma variável A que surge ao recolher uma variável pai B é chamada de distribuição composta ; a amostragem desta distribuição é geralmente tratável quando B é o conjugado anterior para A , particularmente quando A e B são membros da família exponencial . Para obter mais informações, consulte o artigo sobre distribuições de compostos ou Liu (1994).

Implementando um amostrador Gibbs recolhido

Distribuições de colapso de Dirichlet

Em modelos bayesianos hierárquicos com variáveis ​​categóricas , como alocação latente de Dirichlet e vários outros modelos usados ​​no processamento de linguagem natural , é bastante comum reduzir as distribuições de Dirichlet que são normalmente usadas como distribuições anteriores sobre as variáveis ​​categóricas. O resultado desse colapso introduz dependências entre todas as variáveis ​​categóricas dependentes de um determinado Dirichlet anterior, e a distribuição conjunta dessas variáveis ​​após o colapso é uma distribuição multinomial de Dirichlet . A distribuição condicional de uma dada variável categórica nesta distribuição, condicionada nas demais, assume uma forma extremamente simples que torna a amostragem de Gibbs ainda mais fácil do que se o colapso não tivesse ocorrido. As regras são as seguintes:

1. O recolhimento de um nó anterior de Dirichlet afeta apenas os nós pai e filho do anterior. Uma vez que o pai costuma ser uma constante, normalmente só precisamos nos preocupar com os filhos.
2. O recolhimento de um Dirichlet anterior introduz dependências entre todos os filhos categóricos dependentes daquele anterior - mas nenhuma dependência extra entre quaisquer outros filhos categóricos. (Isso é importante ter em mente, por exemplo, quando há vários priors de Dirichlet relacionados pelo mesmo hiperprior. Cada prior de Dirichlet pode ser recolhido de forma independente e afeta apenas seus filhos diretos.)
3. Após o colapso, a distribuição condicional de um filho dependente nos outros assume uma forma muito simples: a probabilidade de ver um determinado valor é proporcional à soma do hiperprior correspondente para este valor e a contagem de todos os outros nós dependentes assumindo o mesmo valor. Nós não dependentes do mesmo anterior não devem ser contados. A mesma regra se aplica a outros métodos de inferência iterativa, como Bayes variacional ou maximização de expectativa ; no entanto, se o método envolver manter contagens parciais, as contagens parciais para o valor em questão devem ser somadas em todos os outros nós dependentes. Às vezes, essa contagem parcial resumida é denominada contagem esperada ou similar. A probabilidade é proporcional ao valor resultante; a probabilidade real deve ser determinada normalizando todos os valores possíveis que a variável categórica pode assumir (ou seja, somando o resultado computado para cada valor possível da variável categórica e dividindo todos os resultados computados por esta soma).
4. Se um determinado nó categórico tem filhos dependentes (por exemplo, quando é uma variável latente em um modelo de mistura ), o valor calculado na etapa anterior (contagem esperada mais anterior, ou o que for calculado) deve ser multiplicado pelas probabilidades condicionais reais ( não um valor calculado que é proporcional à probabilidade!) de todos os filhos dados a seus pais. Consulte o artigo sobre a distribuição multinomial Dirichlet para uma discussão detalhada.
5. No caso em que a associação de grupo dos nós dependentes de um determinado Dirichlet anterior pode mudar dinamicamente dependendo de alguma outra variável (por exemplo, uma variável categórica indexada por outra variável categórica latente, como em um modelo de tópico ), as mesmas contagens esperadas ainda são calculadas , mas precisa ser feito com cuidado para que o conjunto correto de variáveis ​​seja incluído. Consulte o artigo sobre a distribuição multinomial de Dirichlet para obter mais discussão, inclusive no contexto de um modelo de tópico.

Colapso de outros antecedentes conjugados

Em geral, qualquer conjugado anterior pode ser recolhido, se seus únicos filhos tiverem distribuições conjugadas a ele. A matemática relevante é discutida no artigo sobre distribuições de compostos . Se houver apenas um nó filho, o resultado freqüentemente assumirá uma distribuição conhecida. Por exemplo, recolher uma variância com distribuição gama inversa de uma rede com um único filho gaussiano produzirá uma distribuição t de Student . (Por falar nisso, recolher a média e a variância de uma única criança gaussiana ainda produzirá uma distribuição t de Student, desde que ambas sejam conjugadas, ou seja, média gaussiana, variância gama inversa.)

Se houver vários nós filhos, todos eles se tornarão dependentes, como no caso Dirichlet - categórico . A distribuição conjunta resultante terá uma forma fechada que se assemelha em alguns aspectos à distribuição composta, embora tenha um produto de vários fatores, um para cada nó filho.

Além disso, e mais importante, a distribuição condicional resultante de um dos nós filhos dados os outros (e também dados os pais dos nós colapsados, mas não dados os filhos dos nós filhos) terá a mesma densidade que a distribuição preditiva posterior de todos os nós filhos restantes. Além disso, a distribuição preditiva posterior tem a mesma densidade que a distribuição composta básica de um único nó, embora com parâmetros diferentes. A fórmula geral é fornecida no artigo sobre distribuições de compostos .

Por exemplo, dada uma rede Bayes com um conjunto de nós condicionalmente independentes distribuídos de forma idêntica distribuída por Gauss com distribuições anteriores conjugadas colocadas na média e variância, a distribuição condicional de um nó dado os outros após a composição da média e da variância será um Distribuição t de Student . Da mesma forma, o resultado da composição da gama anterior de um número de nós com distribuição de Poisson faz com que a distribuição condicional de um nó, dado que os outros, assuma uma distribuição binomial negativa .

Nesses casos, onde a composição produz uma distribuição bem conhecida, procedimentos de amostragem eficientes geralmente existem, e usá-los frequentemente (embora não necessariamente) seja mais eficiente do que não colapsar e, em vez disso, amostrar os nós anteriores e filhos separadamente. No entanto, no caso em que a distribuição composta não é bem conhecida, pode não ser fácil de amostrar, uma vez que geralmente não pertencerá à família exponencial e normalmente não será log-côncava (o que tornaria mais fácil amostrar usando amostragem de rejeição adaptativa , uma vez que sempre existe uma forma fechada).

No caso em que os nós filhos dos próprios nós colapsados ​​têm filhos, a distribuição condicional de um desses nós filhos dados todos os outros nós no gráfico terá que levar em consideração a distribuição desses filhos de segundo nível. Em particular, a distribuição condicional resultante será proporcional a um produto da distribuição composta conforme definido acima, e as distribuições condicionais de todos os nós filhos dados seus pais (mas não dados seus próprios filhos). Isso decorre do fato de que a distribuição condicional completa é proporcional à distribuição conjunta. Se os nós filhos dos nós colapsados ​​são contínuos , esta distribuição geralmente não será de uma forma conhecida e pode muito bem ser difícil de amostrar, apesar do fato de que uma forma fechada pode ser escrita, pelas mesmas razões descritas acima para não -distribuições de compostos bem conhecidas. No entanto, no caso particular em que os nós filhos são discretos , a amostragem é viável, independentemente de os filhos desses nós filhos serem contínuos ou discretos. Na verdade, o princípio envolvido aqui é descrito em detalhes justos no artigo sobre a distribuição multinomial de Dirichlet .

Amostrador Gibbs com super-relaxamento ordenado

• Um amostrador de Gibbs com superelaxamento ordenado amostra um determinado número ímpar de valores candidatos para em qualquer etapa e os classifica, junto com o valor único para de acordo com alguma ordem bem definida. Se é as s ^th menor na lista ordenada então o é selecionado como o s ^ª maior da lista ordenada. Para obter mais informações, consulte Neal (1995).${\ displaystyle x_ {j} ^ {(i)}}$${\ displaystyle x_ {j} ^ {(i-1)}}$${\ displaystyle x_ {j} ^ {(i-1)}}$${\ displaystyle x_ {j} ^ {(i)}}$

Outras extensões

Também é possível estender a amostragem de Gibbs de várias maneiras. Por exemplo, no caso de variáveis ​​cuja distribuição condicional não é fácil de amostrar, uma única iteração de amostragem por fatia ou o algoritmo Metropolis-Hastings pode ser usado para amostrar a partir das variáveis ​​em questão. Também é possível incorporar variáveis ​​que não são variáveis ​​aleatórias , mas cujo valor é calculado deterministicamente a partir de outras variáveis. Modelos lineares generalizados , por exemplo, regressão logística (também conhecidos como " modelos de entropia máxima "), podem ser incorporados desta forma. (BUGS, por exemplo, permite este tipo de mistura de modelos.)

Modos de falha

Existem duas maneiras pelas quais a amostragem de Gibbs pode falhar. O primeiro é quando existem ilhas de estados de alta probabilidade, sem nenhum caminho entre eles. Por exemplo, considere uma distribuição de probabilidade sobre vetores de 2 bits, onde os vetores (0,0) e (1,1) cada um tem probabilidade ½, mas os outros dois vetores (0,1) e (1,0) têm probabilidade zero. A amostragem de Gibbs ficará presa em um dos dois vetores de alta probabilidade e nunca alcançará o outro. De forma mais geral, para qualquer distribuição sobre vetores de valor real de alta dimensão, se dois elementos particulares do vetor estiverem perfeitamente correlacionados (ou perfeitamente anticorrelacionados), esses dois elementos ficarão presos e a amostragem de Gibbs nunca será capaz de mudar eles.

O segundo problema pode acontecer mesmo quando todos os estados têm probabilidade diferente de zero e há apenas uma única ilha de estados de alta probabilidade. Por exemplo, considere uma distribuição de probabilidade sobre vetores de 100 bits, onde o vetor de todos os zeros ocorre com probabilidade ½ e todos os outros vetores são igualmente prováveis ​​e, portanto, têm uma probabilidade de cada um. Se você quiser estimar a probabilidade do vetor zero, seria suficiente tirar 100 ou 1000 amostras da distribuição verdadeira. Isso provavelmente daria uma resposta muito próxima de ½. Mas provavelmente você teria que pegar mais do que amostras da amostragem de Gibbs para obter o mesmo resultado. Nenhum computador poderia fazer isso na vida. ${\ displaystyle {\ frac {1} {2 (2 ^ {100} -1)}}}$${\ displaystyle 2 ^ {100}}$

Esse problema ocorre independentemente da duração do período de burn-in. Isso ocorre porque na distribuição verdadeira, o vetor zero ocorre na metade do tempo e essas ocorrências são misturadas aleatoriamente com os vetores diferentes de zero. Mesmo uma pequena amostra verá vetores zero e diferentes de zero. Mas a amostragem de Gibbs alternará entre retornar apenas o vetor zero por longos períodos (aproximadamente em uma linha) e, em seguida, apenas vetores diferentes de zero por longos períodos (aproximadamente em uma linha). Portanto, a convergência para a distribuição verdadeira é extremamente lenta, exigindo muito mais do que etapas; executar todas essas etapas não é computacionalmente viável em um período de tempo razoável. A lenta convergência aqui pode ser vista como consequência da maldição da dimensionalidade . Um problema como esse pode ser resolvido pela amostragem de bloco de todo o vetor de 100 bits de uma vez. (Isso pressupõe que o vetor de 100 bits faz parte de um conjunto maior de variáveis. Se esse vetor for a única coisa sendo amostrada, então a amostragem de bloco é equivalente a não fazer amostragem de Gibbs, o que por hipótese seria difícil.) ${\ displaystyle 2 ^ {99}}$${\ displaystyle 2 ^ {99}}$${\ displaystyle 2 ^ {99}}$

Programas

• O software OpenBUGS ( Inferência Bayesiana Usando Amostragem de Gibbs ) faz uma análise Bayesiana de modelos estatísticos complexos usando a cadeia de Markov Monte Carlo .

• JAGS ( Just another Gibbs sampler ) é um programa GPL para análise de modelos hierárquicos Bayesianos usando Markov Chain Monte Carlo.

• Church é um software livre para realizar inferência de Gibbs sobre distribuições arbitrárias que são especificadas como programas probabilísticos.

• PyMC3 é uma biblioteca Python de código aberto para aprendizagem Bayesiana de Modelo Gráfico Probabilístico geral .
• Turing é uma biblioteca de Julia de código aberto para Inferência Bayesiana usando programação probabilística .

Notas

Referências

• Bishop, Christopher M. (2006), Pattern Recognition and Machine Learning , Springer, ISBN 978-0-387-31073-2
• Bolstad, William M. (2010), Understanding Computational Bayesian Statistics , John Wiley ISBN  978-0-470-04609-8
• Casella, G .; George, EI (1992). "Explicando o Gibbs Sampler". The American Statistician . 46 (3): 167. CiteSeerX  10.1.1.554.3993 . doi : 10.2307 / 2685208 . JSTOR  2685208 . (Contém um resumo básico e muitas referências.)
• Gelfand, Alan E .; Smith, Adrian FM (1990), "Sampling-Based Approaches to Calculating Marginal Densities", Journal of the American Statistical Association , 85 (410): 398–409, doi : 10.2307 / 2289776 , JSTOR  2289776 , MR  1141740
• Gelman, A. , Carlin JB, Stern HS, Dunson D., Vehtari A., Rubin DB (2013), Bayesian Data Analysis , terceira edição. Londres: Chapman & Hall .
• Levin, David A .; Peres, Yuval ; Wilmer, Elizabeth L. (2008), " Markov Chains and Mixing Times ", American Mathematical Society .
• Robert, CP; Casella, G. (2004), Monte Carlo Statistical Methods (segunda edição), Springer-Verlag.