Cramer-Rao ojämlikhet

Cramer-Pao- ojämlikheten är en ojämlikhet som, under vissa förhållanden på den statistiska modellen, ger en nedre gräns för variansen av skattningen av en okänd parameter, vilket uttrycker den i termer av Fisher-informationen .

Uppkallad efter den svenske matematikern Harald Cramer och den indiske matematikern Kalyampudi Rao , men oberoende av dem etablerades även Frechet , Darmois ( fr. Georges Darmois ), Aitken ( engelska Alexander Aitken ) och Silverstone ( Harold Silverstone ). En generalisering i kvantteorin för uppskattning är känd - kvantcramer-Rao-ojämlikheten .

Formulering

För en statistisk modell , är ett urval av storlek , bestäms sannolikhetsfunktionen och följande villkor (regularitetsvillkor) är uppfyllda: $(X,\,B,\,P_{\theta })$ $x=(x_{1},\dots ,\,x_{n})$ $n$ $L(\theta ,\,x)=L(\theta ,\;x_{1},\,x_{2},\dots \,x_{n})$

$L_{}^{}>0$ och överallt differentierbar med avseende på ; $\theta _{}^{}$
funktionen ( samplingsbidragsfunktionen ) har finit varians (eller motsvarande Fisher-information är finit ); $U(\theta ,\,x)={\frac {\partial \ln L(\theta ,\,x)}{\partial \theta ))$
för varje statistik med ett ändligt andra moment gäller följande likhet: ${\widehat {\theta }}(x)$ ${\frac {\partial }{\partial \theta }}\int \limits _{X}{\widehat {\theta }}(x)\,L(\theta ,\,x)\,dx =\int \limits _{X}{\widehat {\theta }}(x)\,{\frac {\partial }{\partial \theta }}L(\theta ,\,x)\,dx$ .

Om, under dessa förhållanden, en statistik ges som opartiskt uppskattar en differentierbar funktion , då är följande olikhet sann: ${\widehat {\theta }}(x)$ $\tau (\theta )$

\mathrm {D} _{\theta }{\big (}{\widehat {\theta }}(x){\big )}\geqslant {\frac {(\tau '(\theta ))^ {2}}{nI(\theta )}}}

, var ;

I(\theta )=M\left({\frac {d\ln L(\theta ,x)}{d\theta }}\right)^{2}

och jämlikhet uppnås om och endast om:

{\frac {d\ln L(\theta ,x)}{d\theta }}=a(\theta )({\widehat {\theta }}(x)-\tau (\theta ))

Här är informationsmängden enligt Fisher i en observation, och är fördelningstätheten för den allmänna befolkningen i fallet med en kontinuerlig statistisk modell och sannolikheten för en händelse i fallet med en diskret statistisk modell. $I^{}(\theta )$ $L(\theta ,t)$ $X$ $(X=t)$

Specialfall

Följande specialfall, även kallat Cramer-Rao-olikheten, används ofta: om regularitetsvillkoren är uppfyllda, och är en opartisk uppskattning av parametern , då: ${\widehat {\theta }}(x)$ $\theta$

\mathrm {D} _{\theta }\,{\widehat {\theta }}(x)\geqslant {\frac {1}{I_{n}(\theta )))

Jämlikhet i denna ojämlikhet uppnås om och endast om . ${\hat {\theta }}(x)-\theta =a(\theta )U(\theta ,x)$

Applikation

En uppskattning av en parameter kallas effektiv om Cramer-Rao-ojämlikheten för den förvandlas till en jämlikhet. Således kan olikheten användas för att bevisa att variansen för en given uppskattning är den minsta möjliga, det vill säga att denna uppskattning i någon mening är bättre än alla andra.

Litteratur

Matematisk statistik, red. V. S. Zarubina, serie "Mathematics at the Technical University", vol. XVII, M., MSTU, 2002