Lema de Neyman-Pearson - Neyman–Pearson lemma

Na estatística , o lema de Neyman-Pearson foi introduzido por Jerzy Neyman e Egon Pearson em um artigo em 1933. O lema de Neyman-Pearson é parte da teoria de testes estatísticos de Neyman-Pearson, que introduziu conceitos como erros de segundo tipo , poder função e comportamento indutivo. A teoria de Fisherian do teste de significância postulou apenas uma hipótese. Ao introduzir uma hipótese concorrente, o sabor Neyman-Pearsonian dos testes estatísticos permite investigar os dois tipos de erros . Os casos triviais em que sempre rejeitamos ou aceitamos a hipótese nula são de pouco interesse, mas isso prova que não se deve abrir mão do controle sobre um tipo de erro enquanto calibra o outro. Neyman e Pearson, consequentemente, passaram a restringir sua atenção à classe de todos os testes de nível, enquanto subsequentemente minimizavam o erro do tipo II, tradicionalmente denotado por . Seu artigo seminal de 1933, incluindo o lema de Neyman-Pearson, vem no final deste esforço, não apenas mostrando a existência de testes com maior poder que retêm um nível pré-especificado de erro tipo I ( ), mas também fornecendo uma maneira de construir tais testes. O teorema de Karlin-Rubin estende o lema de Neyman-Pearson para configurações envolvendo hipóteses compostas com razões de verossimilhança monótonas. ${\ displaystyle \ alpha}$${\ displaystyle \ beta}$${\ displaystyle \ alpha}$

Proposição

Considere um teste com hipóteses e , onde a função de densidade de probabilidade (ou função de massa de probabilidade ) é para . Denotando a região de rejeição por , o lema de Neyman-Pearson afirma que um teste mais poderoso (MP) satisfaz o seguinte: para alguns , ${\ displaystyle H_ {0}: \ theta = \ theta _ {0}}$${\ displaystyle H_ {1}: \ theta = \ theta _ {1}}$${\ displaystyle f ({\ boldsymbol {x}} \ mid \ theta _ {i})}$${\ displaystyle i = 0,1}$${\ displaystyle R}$${\ displaystyle \ eta \ geq 0}$

• ${\ displaystyle {\ boldsymbol {x}} \ in R}$se ,${\ displaystyle f ({\ boldsymbol {x}} \ mid \ theta _ {1})> \ eta f ({\ boldsymbol {x}} \ mid \ theta _ {0})}$
• ${\ displaystyle {\ boldsymbol {x}} \ in R ^ {c}}$se ,${\ displaystyle f ({\ boldsymbol {x}} \ mid \ theta _ {1}) <\ eta f ({\ boldsymbol {x}} \ mid \ theta _ {0})}$
• ${\ displaystyle \ mathbb {P} _ {\ theta _ {0}} ({\ boldsymbol {X}} \ in R) = \ alpha}$para um nível de significância prefixado .${\ displaystyle \ alpha}$

Além disso, se houver pelo menos um teste de MP que satisfaça as duas condições, o lema de Neyman-Pearson afirma que todo teste de MP de nível existente deve obedecer às desigualdades da razão de verossimilhança. Observe que o teste mais poderoso nem sempre pode ser único, como pode ser inferido a partir do lema. Na verdade, pode nem existir. ${\ displaystyle \ alpha}$

Na prática, a razão de verossimilhança é freqüentemente usada diretamente para construir testes - veja teste de razão de verossimilhança . No entanto, também pode ser usado para sugerir estatísticas de teste particulares que possam ser de interesse ou para sugerir testes simplificados - para isso, considera-se a manipulação algébrica da razão para ver se há estatísticas-chave relacionadas ao tamanho da razão ( ou seja, se uma grande estatística corresponde a uma proporção pequena ou grande).

Prova

Defina a região de rejeição da hipótese nula para o teste de Neyman – Pearson (NP) como

${\ displaystyle R _ {\ text {NP}} = \ left \ {x: {\ frac {{\ mathcal {L}} (\ theta _ {0} \ mid x)} {{\ mathcal {L}} ( \ theta _ {1} \ mid x)}} \ leqslant \ eta \ right \}}$

onde é escolhido para que${\ displaystyle \ eta}$${\ displaystyle \ operatorname {P} (R _ {\ text {NP}} \ mid \ theta _ {0}) = \ alpha \ ,.}$

Qualquer teste alternativo terá uma região de rejeição diferente que denotamos . ${\ displaystyle R _ {\ text {A}}}$

A probabilidade de os dados caírem em qualquer região ou parâmetro fornecido é ${\ displaystyle R = R _ {\ text {A}}}$${\ displaystyle R = R _ {\ text {NP}}}$${\ displaystyle \ theta}$

${\ displaystyle \ operatorname {P} (R \ mid \ theta) = \ int _ {R} {\ mathcal {L}} (\ theta \ mid x) \, \ operatorname {d} x \ ,.}$

Para que o teste com região crítica tenha nível de significância , deve ser verdade que , portanto ${\ displaystyle R _ {\ text {A}}}$${\ displaystyle \ alpha}$${\ displaystyle \ alpha \ geqslant \ operatorname {P} (R _ {\ text {A}} \ mid \ theta _ {0})}$

${\ displaystyle \ alpha = \ operatorname {P} (R _ {\ text {NP}} \ mid \ theta _ {0}) \ geqslant \ operatorname {P} (R _ {\ text {A}} \ mid \ theta _ {0}) \ ,.}$

Será útil dividi-los em integrais em regiões distintas:

${\ displaystyle {\ begin {alinhado} \ operatorname {P} (R _ {\ text {NP}} \ mid \ theta) & = \ operatorname {P} (R _ {\ text {NP}} \ cap R _ {\ text {A}} \ mid \ theta) + \ operatorname {P} (R _ {\ text {NP}} \ cap R _ {\ text {A}} ^ {c} \ mid \ theta) \\\ operatorname {P} (R _ {\ text {A}} \ mid \ theta) & = \ operatorname {P} (R _ {\ text {NP}} \ cap R _ {\ text {A}} \ mid \ theta) + \ operatorname {P } (R _ {\ text {NP}} ^ {c} \ cap R _ {\ text {A}} \ mid \ theta) \ end {alinhado}}}$

onde é o complemento da região R . Ambiente , essas duas expressões e a desigualdade acima produzem que ${\ displaystyle R ^ {c} \ equiv \ {x: x \ notin R \}}$${\ displaystyle \ theta = \ theta _ {0}}$

${\ displaystyle \ operatorname {P} (R _ {\ text {NP}} \ cap R _ {\ text {A}} ^ {c} \ mid \ theta _ {0}) \ geqslant P (R _ {\ text {NP }} ^ {c} \ cap R _ {\ text {A}} \ mid \ theta _ {0}) \ ,.}$

Os poderes dos dois testes são e , e gostaríamos de provar que: ${\ displaystyle \ operatorname {P} (R _ {\ text {NP}} \ mid \ theta _ {1})}$${\ displaystyle \ operatorname {P} (R _ {\ text {A}} \ mid \ theta _ {1})}$

${\ displaystyle \ operatorname {P} (R _ {\ text {NP}} \ mid \ theta _ {1}) \ geqslant \ operatorname {P} (R _ {\ text {A}} \ mid \ theta _ {1} )}$

No entanto, conforme mostrado acima, isso é equivalente a:

${\ displaystyle \ operatorname {P} (R _ {\ text {NP}} \ cap R _ {\ text {A}} ^ {c} \ mid \ theta _ {1}) \ geqslant \ operatorname {P} (R_ { \ text {NP}} ^ {c} \ cap R _ {\ text {A}} \ mid \ theta _ {1})}$

a seguir, mostramos que a desigualdade acima se mantém:

${\ displaystyle {\ begin {alinhados} \ operatorname {P} (R _ {\ text {NP}} \ cap R _ {\ text {A}} ^ {c} \ mid \ theta _ {1}) & = \ int _ {R _ {\ text {NP}} \ cap R _ {\ text {A}} ^ {c}} {\ mathcal {L}} (\ theta _ {1} \ mid x) \, \ operatorname {d} x \\ [4pt] & \ geqslant {\ frac {1} {\ eta}} \ int _ {R _ {\ text {NP}} \ cap R _ {\ text {A}} ^ {c}} {\ mathcal {L}} (\ theta _ {0} \ mid x) \, \ operatorname {d} x && {\ text {por definição de}} R _ {\ text {NP}} {\ text {isto é verdade para seu subconjunto }} \\ [4pt] & = {\ frac {1} {\ eta}} \ operatorname {P} (R _ {\ text {NP}} \ cap R _ {\ text {A}} ^ {c} \ mid \ theta _ {0}) && {\ text {por definição de}} \ operatorname {P} (R \ mid \ theta) \\ [4pt] & \ geqslant {\ frac {1} {\ eta}} \ operatorname {P} (R _ {\ text {NP}} ^ {c} \ cap R _ {\ text {A}} \ mid \ theta _ {0}) \\ [4pt] & = {\ frac {1} {\ eta}} \ int _ {R _ {\ text {NP}} ^ {c} \ cap R _ {\ text {A}}} {\ mathcal {L}} (\ theta _ {0} \ mid x) \, \ operatorname {d} x \\ [4pt] & \ geqslant \ int _ {R _ {\ text {NP}} ^ {c} \ cap R _ {\ text {A}}} {\ mathcal {L}} (\ theta _ {1} \ mid x) \, \ operatorname {d} x && {\ text {por definição de}} R _ {\ text {NP}} {\ text {isto é verdadeiro para seu complemento e compl subconjuntos ement; igualdade se}} R _ {\ text {NP}} ^ {c} \ cap R _ {\ text {A}} {\ text {is empty}} \\ [4pt] & = \ operatorname {P} (R _ {\ texto {NP}} ^ {c} \ cap R _ {\ text {A}} \ mid \ theta _ {1}) \ end {alinhado}}}$

Exemplo

Vamos ser uma amostra aleatória da distribuição, onde a média é conhecido, e suponha que nós desejamos para testar contra . A probabilidade para este conjunto de dados normalmente distribuídos é ${\ displaystyle X_ {1}, \ dots, X_ {n}}$${\ displaystyle {\ mathcal {N}} (\ mu, \ sigma ^ {2})}$${\ displaystyle \ mu}$${\ displaystyle H_ {0}: \ sigma ^ {2} = \ sigma _ {0} ^ {2}}$${\ displaystyle H_ {1}: \ sigma ^ {2} = \ sigma _ {1} ^ {2}}$

${\ displaystyle {\ mathcal {L}} \ left (\ sigma ^ {2} \ mid \ mathbf {x} \ right) \ propto \ left (\ sigma ^ {2} \ right) ^ {- n / 2} \ exp \ left \ {- {\ frac {\ sum _ {i = 1} ^ {n} (x_ {i} - \ mu) ^ {2}} {2 \ sigma ^ {2}}} \ right \ }.}$

Podemos calcular a razão de verossimilhança para encontrar a estatística-chave neste teste e seu efeito no resultado do teste:

${\ displaystyle \ Lambda (\ mathbf {x}) = {\ frac {{\ mathcal {L}} \ left ({\ sigma _ {0}} ^ {2} \ mid \ mathbf {x} \ right)} {{\ mathcal {L}} \ left ({\ sigma _ {1}} ^ {2} \ mid \ mathbf {x} \ right)}} = \ left ({\ frac {\ sigma _ {0} ^ {2}} {\ sigma _ {1} ^ {2}}} \ right) ^ {- n / 2} \ exp \ left \ {- {\ frac {1} {2}} (\ sigma _ {0 } ^ {- 2} - \ sigma _ {1} ^ {- 2}) \ sum _ {i = 1} ^ {n} (x_ {i} - \ mu) ^ {2} \ right \}.}$

Essa proporção depende apenas dos dados transmitidos . Portanto, pelo lema de Neyman-Pearson, o teste mais poderoso desse tipo de hipótese para esses dados dependerá apenas de . Além disso, por inspeção, podemos ver que se , então, é uma função decrescente de . Portanto, devemos rejeitar se for suficientemente grande. O limite de rejeição depende do tamanho do teste. Neste exemplo, a estatística de teste pode ser mostrada como uma variável aleatória distribuída de qui-quadrado em escala e um valor crítico exato pode ser obtido. ${\ displaystyle \ sum _ {i = 1} ^ {n} (x_ {i} - \ mu) ^ {2}}$${\ displaystyle \ sum _ {i = 1} ^ {n} (x_ {i} - \ mu) ^ {2}}$${\ displaystyle \ sigma _ {1} ^ {2}> \ sigma _ {0} ^ {2}}$${\ displaystyle \ Lambda (\ mathbf {x})}$${\ displaystyle \ sum _ {i = 1} ^ {n} (x_ {i} - \ mu) ^ {2}}$${\ displaystyle H_ {0}}$${\ displaystyle \ sum _ {i = 1} ^ {n} (x_ {i} - \ mu) ^ {2}}$

Aplicação em economia

Uma variante do lema de Neyman-Pearson encontrou uma aplicação no domínio aparentemente não relacionado da economia do valor da terra. Um dos problemas fundamentais na teoria do consumidor é calcular a função de demanda do consumidor dados os preços. Em particular, dada uma propriedade de terra heterogênea, uma medida de preço sobre a terra e uma medida de utilidade subjetiva sobre a terra, o problema do consumidor é calcular a melhor parcela de terra que ele pode comprar - ou seja, a parcela de terra com maior utilidade, cujo preço é no máximo seu orçamento. Acontece que esse problema é muito semelhante ao problema de encontrar o teste estatístico mais poderoso e, portanto, o lema de Neyman-Pearson pode ser usado.

Usos em engenharia elétrica

O lema de Neyman-Pearson é bastante útil em engenharia eletrônica , nomeadamente no projeto e uso de sistemas de radar , sistemas de comunicação digital e em sistemas de processamento de sinais . Em sistemas de radar, o lema de Neyman-Pearson é usado para definir primeiro a taxa de detecções perdidas em um nível desejado (baixo) e, em seguida, minimizar a taxa de alarmes falsos , ou vice-versa. Nem falsos alarmes nem detecções perdidas podem ser definidos em taxas arbitrariamente baixas, incluindo zero. Todos os itens acima também se aplicam a muitos sistemas de processamento de sinais.

Usos em física de partículas

O lema de Neyman-Pearson é aplicado à construção de razões de verossimilhança específicas de análise, usadas para, por exemplo, testar assinaturas de novas físicas contra a previsão do Modelo Padrão nominal em conjuntos de dados de colisão próton-próton coletados no LHC .

Veja também

• Poder estatístico
• o teste F de Fisher
• Expoentes de erro no teste de hipótese
• Teorema de Wilks

Referências

• EL Lehmann, Joseph P. Romano, Testing Statistical Hypotheses , Springer, 2008, p. 60

links externos

• Cosma Shalizi dá uma derivação intuitiva do Lema de Neyman – Pearson usando ideias da economia
• cnx.org: critério de Neyman – Pearson