Robusthet

Den aktuella versionen av sidan har ännu inte granskats av erfarna bidragsgivare och kan skilja sig väsentligt från versionen som granskades den 6 oktober 2017; kontroller kräver 7 redigeringar .

Robusthet ( eng. robustness ← robust "stark; stark; solid; stabil") är en egenskap hos en statistisk metod som kännetecknar inflytandets oberoende på resultatet av studiet av olika sorters utsläpp , motståndskraft mot störningar.

Outlier (robust) metod - en metod som syftar till att identifiera extremvärden, minska deras påverkan eller utesluta dem från urvalet .

I praktiken kan förekomsten i urvalet av även ett litet antal extremvärden (outliers) i hög grad påverka resultatet av studien, till exempel är minsta kvadratmetoden och metoden för maximal sannolikhet på specifika fördelningar föremål för sådana snedvridningar, och värden som erhållits som ett resultat av studien kan upphöra att ha någon betydelse för dig själv. För att eliminera påverkan av sådan störning används olika tillvägagångssätt för att minska påverkan av "dåliga" observationer (outliers), eller för att helt eliminera dem. Huvuduppgiften för outliermetoder är att skilja en "dålig" observation från en "bra", och även de enklaste tillvägagångssätten, subjektiva (baserat på forskarens inre känslor), kan dock vara till stor nytta för motiverat avslag, forskare använder fortfarande metoder som är baserade på någon rigorös matematisk motivering. Denna process är en mycket icke-trivial uppgift för en statistiker och definierar ett av områdena inom statistisk vetenskap .

Begreppet utbrottsstabilitet (robusthet)

Betrakta ett klassiskt exempel på robusta och icke-robusta egenskaper för att beräkna medelinkomsten. Låt det vara 10 personer, av vilka nio tjänar 100 rubel var och en tjänar 500 rubel. Det aritmetiska medelvärdet av siffrorna är 140, även om 90 % av personerna i urvalet tjänar mindre. Samtidigt är provets median 100: ett mycket annorlunda värde påverkade inte värdet på medianen. Således är medianen ett exempel på en robust egenskap, medan det aritmetiska medelvärdet inte är det.

Avvikande stabilitet (robusthet) i statistik förstås som känslighet för olika avvikelser och inhomogeniteter i urvalet, förknippad med vissa, allmänt okända, orsaker [1] [2] . Det kan vara detektorfel som registrerar observationer, någons samvetsgranna eller medvetna försök att ”passa in” provet innan det kommer in i statistiken, designfel, stavfel som smugit sig in och mycket mer. Till exempel är den mest extrema uppskattningen av fördelningslagsförskjutningsparametern medianen , vilket är ganska uppenbart på en intuitiv nivå (för ett rigoröst bevis bör man använda det faktum att medianen är en trunkerad M-uppskattning, se nedan ) [ 1] . Förutom direkt "defekta" observationer kan det även finnas ett antal observationer som följer en annan fördelning . På grund av distributionslagarnas villkorlighet , och detta är inget annat än en beskrivningsmodell, kan själva urvalet innehålla vissa avvikelser med idealet.

Ändå har det parametriska tillvägagångssättet blivit så vant, vilket bevisar sin enkelhet och ändamålsenlighet, att det är absurt att vägra det. Därför blev det nödvändigt att anpassa gamla modeller till nya uppgifter.

Det är värt att betona separat och inte glömma att de avvisade observationerna behöver separat, närmare uppmärksamhet. Observationer som verkar "dåliga" för en hypotes kan mycket väl stämma överens med en annan. Slutligen, inte alltid skarpt framstående observationer är ett "äktenskap". En sådan observation för genteknik , till exempel, är värd miljontals andra som skiljer sig lite från varandra.

Grundläggande tillvägagångssätt

För att begränsa påverkan av inhomogeniteter, eller för att eliminera den helt, finns det många olika tillvägagångssätt. Bland dem sticker två huvudriktningar ut.

Gruppera data utan att radera individuella observationer (för att minska risken för provskador av individuella extremvärden). Därefter är det tillåtet att använda klassiska statistikmetoder med en tillräcklig grad av tillförsikt .

Spåra utsläpp direkt i analysprocessen. Till exempel, för att bestämma parametrarna för distributionslagen, är det möjligt att använda en iterativ procedur med trunkerade eller th - reducerade M-uppskattningar [1] .

Gruppera data som en metod för avvikande statistik

Genom att gruppera urvalet kan påverkan av individuella observationer minskas drastiskt utan att förkasta dem. Indelningen i intervaller är inte speciellt svår och ger ett mycket påtagligt resultat. Det finns tre vanligaste partitioneringsmetoderna.

Uppdelning i lika långa intervall. Det enklaste och därför vanligaste sättet.

Lika sannolikhet binning, även kallad lika frekvensgruppering, återspeglar den praktiska implementeringen av denna metod. Som ett resultat av en sådan gruppering av provet maximeras informationsentropin , där den högsta asymptotiska styrkan av goodness -of-fit-kriteriet uppnås , eller sannolikhetskvotskriteriet [3] . $\sum {-P_{i}}\ln {P_{i}}$ $P_{i}=\int \limits _{x_{i-1}}^{x_{i}}f(x)\,\mathrm {d} x$ $\chi ^{2}$

Uppdelning i asymptotiskt optimala intervall. Med en sådan partition minimeras förlusten av information som ett resultat av gruppering, det vill säga Fisher-informationen maximeras , där är lagens uppskattade parameter. För många distributionslagar var det möjligt att erhålla intervallgränser invarianta med avseende på parametrar, och motsvarande tabeller sammanställdes. En sådan partition tillåter oss att maximera kraften i kriteriet . $\sum \left({\frac {\partial \ln P_{i}}{\partial \theta }}\right)^{2}P_{i}$ $\theta$

Influence function approach

Ett separat tillvägagångssätt vid konstruktionen av extrema metoder är uppskattningen av parametrarna i distributionslagen för ett "förorenat" prov med hjälp av det tillvägagångssätt som föreslås av Hampel [1] . För att studera inflytandet av en enskild observation på bedömningen (statistik under övervägande) av en eller annan parameter i distributionslagen, introducerar Hampel den så kallade påverkansfunktionen , som inte är något annat än en derivata av denna statistik .

Grundläggande begrepp

Funktionen introduceras som en funktion av något urval från fördelningen med parametern (det är också ). beror på . Så är en funktion av lagen och av parametern . Låt även uppfylla några villkor för konsistens och regelbundenhet : $T$ $X=(X_{1}\ldots X_{n})\in \mathbb {X}$ $F$ $\theta \in \Theta$ $F_{\theta }$ $T$ ${\displaystyle X:F_{\theta ))$ $T$ $F$ $\theta$ $T$

T(F)=\theta ,\quad \int T\,\mathrm {d} F=0.

Derivatan av denna funktion vid en punkt med distribution : $T$ $F$

\exists \,a:\quad \lim _{t\to 0}{\frac {T((1-t)F+tG)-T(F)}{t}}:=\int a \,\mathrm {d} G,

var:

$a$ - en viss funktion, vars innebörd kommer att bli tydlig i nästa steg;
$G$ är någon distributionslag annorlunda än . $F$

När du ersätter , tillskriver händelsen en massaenhet i stället för , som ett resultat av vilket endast : $\Delta _{x}$ $X=x$ $G$ $yxa)$

IF=\lim _{t\to 0}{\frac {T((1-t)F+t\Delta _{x})-T(F)}{t)).

Denna funktion kallas för påverkansfunktionen .

Innebörden av påverkansfunktionen visas genom att ersätta och ersätta gränsen, som ett resultat omvandlas uttrycket till , vilket motsvarar situationen när ytterligare en ny läggs till urvalet bestående av observationer som lyder fördelningen . Således spårar den reaktionen av den använda funktionaliteten på det tillägg som gjorts, och visar effekten av bidraget från en enskild observation på bedömningen över hela datamängden. ${\frac {1}{n}}$ $t$ $F_{t,x}=(1-t)F+t\Delta _{x}$ $F_{{\frac {1}{n)),x}={\frac {(n-1)F+\Delta _{x}}{n}}$ $(n-1)$ $F$ $IF$ $T$ $x$

För att karakterisera påverkan av individuella observationer introduceras också begreppet känslighet för ett stort fel : $\gamma$

\gamma =\sup _{{x\in {\mathbb {X}}}}|OM(x)|.

Om påverkansfunktionen är begränsad kallas motsvarande uppskattning B(be)-robust .

M-poäng

De mest effektiva och mest använda uppskattningarna av parametrarna för distributionslagar är maximal sannolikhetsuppskattningar (MLEs), som bestäms av ett av följande villkor:

\sum _{i}\ln P_{i}\to \max _{\theta \in \Theta },\qquad \sum _{i}{\frac {\partial \ln P_{i)) {\partial \theta }}=0,\qquad \sum _{i}{\frac {P_{i}'}{P_{i}}}=0,

när det gäller ett ogrupperat prov och i fallet med ett grupperat prov, $P_{i}=f(x_{i},\theta )$ $P_{i}=\left(\int \limits _{x_{i-1}}^{x_{i}}f(x,\theta )\,\mathrm {d} x\right)^ {n_{i}}$

M-uppskattningar - det finns en viss generalisering av massförstörelsevapen. De definieras på liknande sätt av en av relationerna:

\sum _{i=1}^{N}\rho (x_{i},\theta )\to \max _{\theta \in \Theta },\qquad \sum _{i=1} ^{N}\phi (x_{i},\theta )=0.

Om vi inför ett regularitetsvillkor i substitutionen och differentierar det med avseende på 0: $F_{t,x}=(1-t)F+t\Delta _{x}$ $t$

0={\frac {\partial }{\partial {t))}\int \phi (x,T(F_{t,x}))\,\mathrm {d} F_{t,x}

0=\int {\frac {\partial \phi (x,T(F_{t,x}))}{\partial \theta }}IF\,\mathrm {d} F_{t,x} +\int \phi (x,T(F_{t,x}))\,\mathrm {d} {\frac {\partial ((1-t)F+t\Delta _{x})}{\ partiell t}}

0=IF\int {\frac {\partial \phi (x,T(F_{t,x}))}{\partial \theta }}\,\mathrm {d} F_{t,x} +\phi (x,T(F_{t,x})),

då är det inte svårt att få uttrycket för påverkansfunktionen för M-uppskattningar :

IF={\frac {-\phi (x)}{\int \phi '_{\theta }(x)\,\mathrm {d} F)).

Detta uttryck låter oss dra slutsatsen att M-uppskattningarna är ekvivalenta upp till en konstant faktor som inte är noll.

Det är lätt att kontrollera att för MLE för den vanliga normalfördelningslagen ser påverkansfunktionerna för skiftparametern respektive skalparametern ut: ${\mathcal {N}}(0,1)$ $IF$

IF=x,\quad IF={\frac {1}{2}}\;x^{2}-{\frac {1}{2}}.

Dessa funktioner är obegränsade, vilket innebär att MLE inte är utbrottstolerant (robust) vad gäller B-robusthet.

För att korrigera detta begränsar M-uppskattningar artificiellt och begränsar det därför (se uttrycket för M-uppskattningar), vilket sätter en övre barriär för påverkan av extremvärden (långt ifrån parametrarnas förväntade värden) observationer. Detta görs genom att introducera de så kallade trunkerade M-uppskattningarna, definierade av uttrycket: $IF$ $IF$

\phi _{b}(z)=\left\{{\begin{array}{lr}\phi (b),&b<z\\\phi (z),&-b<z\leqslant b\\\phi (-b),&z\leqslant -b\end{array}}\right\},

där , och är uppskattningar av skift- respektive skalparametrar. $z={\frac {x-\theta }{S}}$ $\theta$ $S$

Bland de trunkerade M-uppskattningarna är de trunkerade MLE [1] optimala ur B-robusthetens synvinkel .

Parameteruppskattningsprocedur

För att lösa ekvationen

\sum _{i=1}^{N}\phi (x_{i},\theta )=0

någon numerisk metod måste användas . För att göra detta måste du välja de initiala uppskattningarna. Nollskiftsparametern är vanligtvis medianen och skalparametern är en multipel av medianen för avvikelserna från medianen.

Till exempel, om du behöver uppskatta skiftparametern, säg, för normalfördelningslagen , kan du använda Newtons metod för att numeriskt hitta rötterna till ekvationen . Som ett resultat reduceras hela proceduren för att hitta parametern till den iterativa beräkningen av uttrycket:

\theta _{{k+1}}=\theta _{k}-{\frac {\sum _{{i=1}}^{N}\phi (x_{i},\theta _{k} )}{\summa _{{i=1}}^{N}\phi '_{\theta }(x_{i},\theta _{k))}}=\theta _{k}-{\ frac {\sum _{{i=1}}^{N}\phi \left((x_{i}-\theta _{k})/S\right)}{\summa _{{i=1} }^{N}\phi '_{\theta }\left((x_{i}-\theta _{k})/S\right)))=\theta _{k}+S{\frac {\ summa _{{i=1}}^{N}\phi \left(z\right)}{\summa _{{i=1}}^{N}\phi '_{z}\left(z\ höger)}},

var är någon uppskattning av skalparametern som används för att utjämna fördelningar med olika intervall. $S$

Se även

Omskolning
Marelliers sats

Anteckningar

↑ 1 2 3 4 5 Hampel F., Ronchetti E., Rausseu P., Stael W. Robusthet i statistik. Robust statistik: tillvägagångssättet baserat på påverkansfunktioner . — M .: Mir, 1989.
↑ Huber P. Robusthet i statistik. — M .: Mir, 1984.
↑ Kendall M., Stewart A. Statistisk slutledning och associationer. — M .: Nauka, 1973.

Länkar

Dodonov Yu. S., Dodonova Yu. A. Robusta mått på central tendens: viktning som ett möjligt alternativ till datatrunkering i svarstidsanalys .
Publikationer om extrema (robusta) metoder för att uppskatta parametrar och testa statistiska hypoteser på webbplatsen för professor NSTU Lemeshko B. Yu.

Litteratur

Robert G. Staudte: Robust uppskattning och testning . Wiley, New York 1990. ISBN 0-471-85547-2
Rand R. Wilcox: Introduktion till robust uppskattning och hypotestestning . Academic Press, San Diego Cal 1997. ISBN 0-12-751545-3