Método Delta - Delta method

Em estatística , o método delta é um resultado relativo à distribuição de probabilidade aproximada para uma função de um estimador estatístico assintoticamente normal a partir do conhecimento da variância limite desse estimador.

História

O método delta foi derivado da propagação do erro , e a ideia por trás disso era conhecida no início do século XIX. Sua aplicação estatística pode ser rastreada já em 1928 por TL Kelley . Uma descrição formal do método foi apresentada por JL Doob em 1935. Robert Dorfman também descreveu uma versão dele em 1938.

Método delta univariado

Enquanto o método delta se generaliza facilmente para uma configuração multivariada, a motivação cuidadosa da técnica é mais facilmente demonstrada em termos univariados. Grosso modo, se houver uma sequência de variáveis ​​aleatórias X _n satisfatória

${\ displaystyle {{\ sqrt {n}} [X_ {n} - \ theta] \, {\ xrightarrow {D}} \, {\ mathcal {N}} (0, \ sigma ^ {2})}, }$

onde θ e σ ² são constantes de valor finito e denotam convergência na distribuição , então ${\ displaystyle {\ xrightarrow {D}}}$

${\ displaystyle {{\ sqrt {n}} [g (X_ {n}) - g (\ theta)] \, {\ xrightarrow {D}} \, {\ mathcal {N}} (0, \ sigma ^ {2} \ cdot [g '(\ theta)] ^ {2})}}$

para qualquer função g que satisfaça a propriedade de que g ′ ( θ ) existe e tem valor diferente de zero.

Prova no caso univariado

A demonstração desse resultado é bastante direta sob a suposição de que g ′ ( θ ) é contínuo . Para começar, usamos o teorema do valor médio (ou seja: a aproximação de primeira ordem de uma série de Taylor usando o teorema de Taylor ):

${\ displaystyle g (X_ {n}) = g (\ theta) + g '({\ tilde {\ theta}}) (X_ {n} - \ theta),}$

onde fica entre X _n e θ . Observe que, uma vez que e , deve ser que e uma vez que g ′ ( θ ) é contínuo, aplicando o teorema de mapeamento contínuo resulta ${\ displaystyle {\ tilde {\ theta}}}$${\ displaystyle X_ {n} \, {\ xrightarrow {P}} \, \ theta}$${\ displaystyle | {\ tilde {\ theta}} - \ theta | <| X_ {n} - \ theta |}$${\ displaystyle {\ tilde {\ theta}} \, {\ xrightarrow {P}} \, \ theta}$

${\ displaystyle g '({\ tilde {\ theta}}) \, {\ xrightarrow {P}} \, g' (\ theta),}$

onde denota convergência em probabilidade . ${\ displaystyle {\ xrightarrow {P}}}$

Reorganizar os termos e multiplicar por dá ${\ displaystyle {\ sqrt {n}}}$

${\ displaystyle {\ sqrt {n}} [g (X_ {n}) - g (\ theta)] = g '\ left ({\ tilde {\ theta}} \ right) {\ sqrt {n}} [ X_ {n} - \ theta].}$

Desde a

${\ displaystyle {{\ sqrt {n}} [X_ {n} - \ theta] {\ xrightarrow {D}} {\ mathcal {N}} (0, \ sigma ^ {2})}}$

por suposição, segue-se imediatamente do apelo ao teorema de Slutsky que

${\ displaystyle {{\ sqrt {n}} [g (X_ {n}) - g (\ theta)] {\ xrightarrow {D}} {\ mathcal {N}} (0, \ sigma ^ {2} [ g '(\ theta)] ^ {2})}.}$

Isso conclui a prova.

Prova com uma ordem explícita de aproximação

Alternativamente, pode-se adicionar mais uma etapa no final, para obter a ordem de aproximação :

${\ displaystyle {\ begin {alinhados} {\ sqrt {n}} [g (X_ {n}) - g (\ theta)] & = g '\ left ({\ tilde {\ theta}} \ right) { \ sqrt {n}} [X_ {n} - \ theta] = {\ sqrt {n}} [X_ {n} - \ theta] \ left [g '({\ tilde {\ theta}}) + g' (\ theta) -g '(\ theta) \ right] \\ & = {\ sqrt {n}} [X_ {n} - \ theta] \ left [g' (\ theta) \ right] + {\ sqrt {n}} [X_ {n} - \ theta] \ left [g '({\ tilde {\ theta}}) - g' (\ theta) \ right] \\ & = {\ sqrt {n}} [ X_ {n} - \ theta] \ left [g '(\ theta) \ right] + O_ {p} (1) \ cdot o_ {p} (1) \\ & = {\ sqrt {n}} [X_ {n} - \ theta] \ left [g '(\ theta) \ right] + o_ {p} (1) \ end {alinhado}}}$

Isso sugere que o erro na aproximação converge para 0 na probabilidade.

Método delta multivariado

Por definição, um estimador B consistente converge em probabilidade para seu valor verdadeiro β , e muitas vezes um teorema do limite central pode ser aplicado para obter normalidade assintótica :

${\ displaystyle {\ sqrt {n}} \ left (B- \ beta \ right) \, {\ xrightarrow {D}} \, N \ left (0, \ Sigma \ right),}$

onde n é o número de observações e Σ é uma matriz de covariância (simétrica positiva semidefinida). Suponha que queremos estimar a variação de uma função com valor escalar h do estimador B . Mantendo apenas os dois primeiros termos da série de Taylor , e usando notação vetorial para o gradiente , podemos estimar h (B) como

${\ displaystyle h (B) \ approx h (\ beta) + \ nabla h (\ beta) ^ {T} \ cdot (B- \ beta)}$

o que implica que a variância de h (B) é aproximadamente

${\ displaystyle {\ begin {alinhado} \ operatorname {Var} \ left (h (B) \ right) & \ approx \ operatorname {Var} \ left (h (\ beta) + \ nabla h (\ beta) ^ { T} \ cdot (B- \ beta) \ right) \\ & = \ operatorname {Var} \ left (h (\ beta) + \ nabla h (\ beta) ^ {T} \ cdot B- \ nabla h ( \ beta) ^ {T} \ cdot \ beta \ right) \\ & = \ operatorname {Var} \ left (\ nabla h (\ beta) ^ {T} \ cdot B \ right) \\ & = \ nabla h (\ beta) ^ {T} \ cdot \ operatorname {Cov} (B) \ cdot \ nabla h (\ beta) \\ & = \ nabla h (\ beta) ^ {T} \ cdot (\ Sigma) \ cdot \ nabla h (\ beta) \ end {alinhado}}}$

Pode-se usar o teorema do valor médio (para funções de valor real de muitas variáveis) para ver que isso não depende de uma aproximação de primeira ordem.

O método delta, portanto, implica que

${\ displaystyle {\ sqrt {n}} \ left (h (B) -h (\ beta) \ right) \, {\ xrightarrow {D}} \, N \ left (0, \ nabla h (\ beta) ^ {T} \ cdot \ Sigma \ cdot \ nabla h (\ beta) \ direita)}$

ou em termos univariados,

${\ displaystyle {\ sqrt {n}} \ left (h (B) -h (\ beta) \ right) \, {\ xrightarrow {D}} \, N \ left (0, \ sigma ^ {2} \ cdot \ left (h ^ {\ prime} (\ beta) \ right) ^ {2} \ right).}$

Exemplo: a proporção binomial

Suponha que X _n seja binomial com parâmetros e n . Desde a ${\ displaystyle p \ in (0,1]}$

${\ displaystyle {{\ sqrt {n}} \ left [{\ frac {X_ {n}} {n}} - p \ right] \, {\ xrightarrow {D}} \, N (0, p (1 -p))},}$

podemos aplicar o método Delta com g ( θ ) = log ( θ ) para ver

${\ displaystyle {{\ sqrt {n}} \ left [\ log \ left ({\ frac {X_ {n}} {n}} \ right) - \ log (p) \ right] \, {\ xrightarrow { D}} \, N (0, p (1-p) [1 / p] ^ {2})}}$

Portanto, mesmo que para qualquer n finito , a variância de não exista de fato (uma vez que X _n pode ser zero), a variância assintótica de existe e é igual a ${\ displaystyle \ log \ left ({\ frac {X_ {n}} {n}} \ right)}$${\ displaystyle \ log \ left ({\ frac {X_ {n}} {n}} \ right)}$

${\ displaystyle {\ frac {1-p} {np}}.}$

Observe que, como p> 0 , as , então com probabilidade convergindo para um, é finito para n grande . ${\ displaystyle \ Pr \ left ({\ frac {X_ {n}} {n}}> 0 \ right) \ rightarrow 1}$${\ displaystyle n \ rightarrow \ infty}$${\ displaystyle \ log \ left ({\ frac {X_ {n}} {n}} \ right)}$

Além disso, se e são estimativas de taxas de grupo diferentes de amostras independentes de tamanhos n e m respectivamente, então o logaritmo do risco relativo estimado tem variância assintótica igual a ${\ displaystyle {\ hat {p}}}$${\ displaystyle {\ hat {q}}}$ ${\ displaystyle {\ frac {\ hat {p}} {\ hat {q}}}}$

${\ displaystyle {\ frac {1-p} {p \, n}} + {\ frac {1-q} {q \, m}}.}$

Isso é útil para construir um teste de hipótese ou para fazer um intervalo de confiança para o risco relativo.

Forma alternativa

O método delta é freqüentemente usado em uma forma que é essencialmente idêntica àquela acima, mas sem a suposição de que X _n ou B seja assintoticamente normal. Freqüentemente, o único contexto é que a variação é "pequena". Os resultados então fornecem apenas aproximações para as médias e covariâncias das quantidades transformadas. Por exemplo, as fórmulas apresentadas em Klein (1953, p. 258) são:

${\ displaystyle {\ begin {alinhado} \ operatorname {Var} \ left (h_ {r} \ right) = & \ sum _ {i} \ left ({\ frac {\ partial h_ {r}} {\ partial B_ {i}}} \ right) ^ {2} \ operatorname {Var} \ left (B_ {i} \ right) + \ sum _ {i} \ sum _ {j \ neq i} \ left ({\ frac { \ parcial h_ {r}} {\ parcial B_ {i}}} \ direita) \ esquerda ({\ frac {\ parcial h_ {r}} {\ parcial B_ {j}}} \ direita) \ operatorname {Cov} \ left (B_ {i}, B_ {j} \ right) \\\ operatorname {Cov} \ left (h_ {r}, h_ {s} \ right) = & \ sum _ {i} \ left ({\ frac {\ partial h_ {r}} {\ partial B_ {i}}} \ right) \ left ({\ frac {\ partial h_ {s}} {\ partial B_ {i}}} \ right) \ operatorname { Var} \ left (B_ {i} \ right) + \ sum _ {i} \ sum _ {j \ neq i} \ left ({\ frac {\ parcial h_ {r}} {\ parcial B_ {i}} } \ right) \ left ({\ frac {\ partial h_ {s}} {\ partial B_ {j}}} \ right) \ operatorname {Cov} \ left (B_ {i}, B_ {j} \ right) \ end {alinhado}}}$

onde h _r é o r th elemento de h ( B ) e B _i é o i -ésimo elemento de B .

Método delta de segunda ordem

Quando g ′ ( θ ) = 0, o método delta não pode ser aplicado. No entanto, se g ′ ′ ( θ ) existe e não é zero, o método delta de segunda ordem pode ser aplicado. Pela expansão de Taylor,, de forma que a variância de depende até o 4º momento de . ${\ displaystyle {\ sqrt {n}} [g (X_ {n}) - g (\ theta)] = {\ frac {1} {2}} {\ sqrt {n}} [X_ {n} - \ theta] ^ {2} \ left [g '' (\ theta) \ right] + o_ {p} (1)}$${\ displaystyle g \ left (X_ {n} \ right)}$${\ displaystyle X_ {n}}$

O método delta de segunda ordem também é útil para conduzir uma aproximação mais precisa da distribuição de quando o tamanho da amostra é pequeno. . Por exemplo, quando segue a distribuição normal padrão, pode ser aproximado como a soma ponderada de um normal padrão e um qui-quadrado com grau de liberdade de 1. ${\ displaystyle g \ left (X_ {n} \ right)}$${\ displaystyle {\ sqrt {n}} [g (X_ {n}) - g (\ theta)] = {\ sqrt {n}} [X_ {n} - \ theta] g '(\ theta) + { \ frac {1} {2}} {\ sqrt {n}} [X_ {n} - \ theta] ^ {2} g '' (\ theta) + o_ {p} (1)}$${\ displaystyle X_ {n}}$${\ displaystyle g \ left (X_ {n} \ right)}$

Veja também

• Expansões de Taylor para os momentos de funções de variáveis ​​aleatórias
• Transformação de estabilização de variância

Referências

Leitura adicional

• Oehlert, GW (1992). "Uma Nota sobre o Método Delta". The American Statistician . 46 (1): 27–29. doi : 10.1080 / 00031305.1992.10475842 . JSTOR   2684406 .
• Wolter, Kirk M. (1985). "Métodos da série de Taylor" . Introdução à estimativa de variância . Nova York: Springer. pp. 221–247. ISBN   0-387-96119-4 .

links externos

• Asmussen, Søren (2005). "Algumas aplicações do método Delta" (PDF) . Notas da aula . Aarhus University.
• Feiveson, Alan H. "Explanation of the delta method" . Stata Corp.
• Xu, junho; Long, J. Scott (22 de agosto de 2005). "Usando o método Delta para construir intervalos de confiança para probabilidades, taxas e mudanças discretas previstas" (PDF) . Notas da aula . Indiana University.