Probit regression

Den aktuella versionen av sidan har ännu inte granskats av erfarna bidragsgivare och kan skilja sig väsentligt från versionen som granskades den 7 oktober 2019; kontroller kräver 3 redigeringar .

Probit- regression ( probit model , eng. probit ) är en statistisk (icke-linjär) modell och metod för att analysera beroendet av kvalitativa (främst binära) variabler av en mängd olika faktorer, baserat på normalfördelningen (till skillnad från t.ex. liknande logitregression , som är baserad på den logistiska fördelningen ). Inom ekonomi ( ekonometri ) används probit-modeller (tillsammans med logit, gompit, etc.) i binära valmodeller eller i modeller för flerval mellan olika alternativ, för modellering av företags fallissemang , inom livförsäkring - för att uppskatta sannolikheten för dödsfall beroende på ålder och kön etc. Inom toxikologi används probit-regression för att uppskatta effekten av dosen eller koncentrationen av vissa ämnen på biologiska föremål.

Probitmodellen låter dig uppskatta sannolikheten att den analyserade (beroende) variabeln kommer att få värdet 1 för givna faktorvärden (det vill säga det är en uppskattning av andelen "enheter" för ett givet faktorvärde). I probitmodellen modelleras sannolikhetsfunktionen för sannolikhet som en linjär kombination av faktorer (inklusive en konstant). Probitfunktionen kallas funktionen invers till den kumulativa funktionen (CDF) för standardnormalfördelningen, det vill säga funktionen som bestämmer kvantilen för standardnormalfördelningen för en given sannolikhet . $x_{q}=\Phi ^{-1}(q)$

Termen " probit " som en derivata av engelskan. Sannolikhetsenheten föreslogs (används först) av Chester Ittner Bliss [1899-1979]) [1] i hans artikel om den kvantitativa analysen av gifters dödliga effekt på exemplet med effekten av nikotin på oxalbladlössen ( Aphis rumicis ) L. ) [1] . Sedan dess har metoden för probitanalys varit särskilt populär inom toxikologi . Själva användningen av normalfördelningsfunktionen för att beskriva förhållandet "dos-effekt" går tillbaka till den engelske matematikern J. W. Trevan, som visade att intensiteten av det cellulära svaret på en given dos av en läkemedelssubstans följer den Gaussiska fördelningen [2] .

Kärnan i modellen

Probitmodellen är ett specialfall av den binära valmodellen som använder normalfördelningen. Låt nämligen den beroende variabeln vara binär, det vill säga att den bara kan ta två värden, som för enkelhetens skull antas vara och . Det kan till exempel betyda närvaro/frånvaro av några villkor, framgång eller misslyckande för något, svaret är ja/nej i en undersökning etc. Låt det också finnas en vektor av regressorer (faktorer) som påverkar . Probitmodellen antar att sannolikheten för vad som bestäms av normalfördelningen, så probitmodellen är: $Y$ $ett$ $0$ $Y$ $X$ $Y$ $Y=1$

p(x)=P(Y=1\mid X=x)=\Phi (x^{T}b)

var är den kumulativa fördelningsfunktionen ( CDF ) för standardnormalfördelningen, är de okända parametrarna som ska uppskattas. $\Phi$ $b$

Användningen av standardnormalfördelningen begränsar inte modellens generalitet, eftersom ett eventuellt medelvärde som inte är noll beaktas i en konstant som nödvändigtvis finns bland faktorerna, och en eventuell icke-enhetsvarians beaktas pga. till lämplig normalisering av alla koefficienter b.

Som i det allmänna fallet med den binära valmodellen är modellen baserad på antagandet att det finns någon dold (oobserverad) variabel , beroende på vilka värden den observerade variabeln tar värdet av eller : $Y^{*}$ $Y$ $0$ $ett$

Y={\begin{cases}1,Y^{*}>0\\0,Y^{*}<0\end{cases))

Den latenta variabeln antas bero på faktorer i betydelsen vanlig linjär regression , där det slumpmässiga felet i detta fall har en standardnormalfördelning . Sedan $X$ $y^{*}=x^{T}b+\varepsilon$ $N(0,1)$

$p(x)=P(Y^{*}>0|X=x)=P(x^{T}b+\varepsilon >0)=P(\varepsilon >-x^{T}b) =1-\Phi (-x^{T}b)=\Phi (x^{T}b)$

Den sista likheten följer av normalfördelningens symmetri.

Modellen kan också underbyggas genom användbarheten av alternativ - en icke-observerbar funktion , det vill säga i själva verket två funktioner och för två alternativ. Användningsskillnadsfunktionen för alternativ här spelar rollen som den mycket dolda variabeln. $U(y,x)$ $U_{1}(x)=x^{T}b_{1}+\varepsilon _{1}$ $U_{0}(x)=x^{T}b_{0}+\varepsilon _{0}$

Parameteruppskattning

Uppskattning görs vanligtvis med den maximala sannolikhetsmetoden . Låt det finnas ett urval av volymen av faktorer och en beroende variabel . Använd indexet för ett givet observationsnummer . Log-likelihood-funktionen har formen: $n$ $X$ $Y$ $t$

l(b)=\summa _{t=1}^{n}(y_{t}\ln \Phi (x_{t}^{T}b)+(1-y_{t})\ ln(1-\Phi (x_{t}^{T}b))

Maximering av denna funktion med avseende på okända parametrar gör att man kan erhålla konsekventa , asymptotiskt effektiva och asymptotiskt normala parameteruppskattningar. Det senare betyder att:

{\sqrt {n}}({\hat {b}}-b)\ {\xrightarrow {d}}\ {\mathcal {N}}(0,\,\Omega ^{-1}) ,

var är den asymptotiska kovariansmatrisen för parameteruppskattningar, som bestäms av standardmetoden för den maximala sannolikhetsmetoden (genom hessian eller gradienten för log-sannolikhetsfunktionen vid den optimala punkten): $\Omega ^{-1}$

\Omega =\operatörsnamn {E} {\bigg [}{\frac {\varphi ^{2}(X'b)}{\Phi (X'b)(1-\Phi (X'b) )))XX'{\bigg ]}

var är sannolikhetstäthetsfunktionen ( PDF ) för standardnormalfördelningen . $\varphi$

Matrisen är känd och dess konsekventa uppskattning används : $\Omega$

{\hat {\Omega }}={\frac {1}{n}}\sum _{t=1}^{n}{\bigg [}{\frac {\varphi ^{2}( x_{t}^{T}b)}{\Phi (x_{t}^{T}b)(1-\Phi (x_{t}^{T}b))))x_{t}x_{ t}^{T}{\bigg ]}

Typiskt utförs modellutvärdering i specialiserade (statistiska, ekonometriska ) mjukvaruprodukter, till exempel Statistica , EViews, Matrixer, R [3] , SPSS, etc. [4] , även om "manuell" utvärdering är möjlig, till exempel i MS Office Excel, med den inbyggda "Searching for a solution" för att maximera loggsannolikhetsfunktionen.

Kvalitetsmått och modelltestning

För att bedöma kvaliteten på den konstruerade probit -regressionen används standardstatistiken för binära valmodeller :

Sannolikhetskvotsstatistik ( ). $LR$

Pseudo-bestämningskoefficient ( $R_{pseudo}^{2})$

McFadden bestämningskoefficient ( likelihood ratio index )( ) $R_{McFadden}^{2},LRI$

Informationskriterier för Akaike, Schwartz, Hannan-Quinn ( ). $AIC,BIC(SC),HQ$

Statistik Hosmer-Lemeshow (Hosmer-Lemeshow, ) $HL$ .

Andrews statistik (Andrews)

Det är viktigt att analysera andelen korrekta förutsägelser. I synnerhet analyseras andelen korrekta och (eller) felaktiga prognoser för värdet av vart och ett av värdena för den beroende variabeln (0 och 1).

Exempel

Toxikologi

Betrakta probit-modellen genom att använda exemplet med insekticidverkan på insekter [5] [6] . Den beroende binära variabeln är en variabel som tar värdet 1 om insekten dog, och 0 annars. I ett urval av insekter är svaret från vissa insekter på en insekticid inte beroende av andras svar. "Mätaren" för dosen fungerar som en faktor för modellen , där är dosen av insekticidet. Sannolikheten att en insekt slumpmässigt utvald från populationen kommer att dö under en given tid är lika med $n$ $x=\lg(d)$ $d$

p(x)=\Phi (\alpha +\beta x)

Om modellparametrarna och är kända (vi betecknar uppskattningarna respektive ), så hittas dosnivån , vid vilken en viss procentandel av insekter dör, från ekvationen $\alfa$ $\beta$ $a$ $b$ ${\displaystyle x_{p))$

a+bx_{p}=\Phi ^{-1}(p)=q_{p}\Rightarrow x_{p}=(q_{p}-a)/b

var är nivåkvantilen för standardnormalfördelningen. ${\displaystyle q_{p))$ $sid$

I synnerhet för den dosnivå vid vilken 50 % av insekterna dör, . Detta värde i toxikologi kallas vanligtvis LD 50 . $x_{50}$ ${\displaystyle \lg d_{50}=x_{50}=-a/b\Rightarrow d_{50}=10^{-a/b))$

Du kan också konstruera ett ungefärligt konfidensintervall för följande: . Spridningen kan uppskattas ungefär som följer: ${\displaystyle x_{p))$ $x_{p}\pm 2\sigma _{x_{p))$ $\sigma _{x_{p}}^{2}$

\sigma _{x_{p}}^{2}=(\sigma _{a}^{2}+2x_{p}\sigma _{ab}+x_{p}^{2}\sigma _{b}^{2})/b^{2}

där är en uppskattning av variansen av modellparameteruppskattningar, är en uppskattning av kovariansen mellan parameteruppskattningar. ${\displaystyle \sigma _{a}^{2},\sigma _{b}^{2))$ $\sigma _{{ab}}$

Ett mer exakt konfidensintervall kan uppskattas från Fellers teorem , enligt vilken 95 % konfidensgränser för är rötterna till andragradsekvationen ${\displaystyle x_{p))$ $\lambda _{1}$ $\lambda _{2}$

\lambda ^{2}(b^{2}-t^{2}\sigma _{b}^{2})-2\lambda (b^{2}x_{p}+t^{ 2}\sigma _{ab})+(b^{2}x_{p}^{2}-t^{2}\sigma _{a}^{2})=0

var är 95% Students t-fördelningspunkt. $t=t_{95}$

Variationer och generaliseringar

I praktiken finns det situationer då det är nödvändigt att utforska inte två alternativ, utan flera alternativ. Om dessa alternativ är oordnade talar man om en multinominell probitmodell . När det gäller beställda alternativ (till exempel en 5-punktsbedömning av kvaliteten på en tjänst eller produkt) talar man om en ordinal eller beställd ( beställd ) probitmodell .

Se även

Anteckningar

↑ 12 Bliss CI. The method of probits (engelska) // Science. - 1934. - Vol. 79 , nr. 2037 . - S. 38-39 . - doi : 10.1126/science.79.2037.38 . — PMID 17813446 . — .
↑ Trevan, JW 1927. Felet vid bestämning av toxicitet. Proc. Royal Soc. 101B: 483-514. citerad i Albert A. Selektiv toxicitet. Fysiska och kemiska baser för terapi. Per. från engelska. I 2 volymer. T. 1. - M: Medicine, 1989, S. 247. ISBN 5-225-01519-0
↑ R Exempel på dataanalys - Probit-regression . Hämtad 3 augusti 2012. Arkiverad från originalet 29 november 2012. (obestämd)
↑ sv:Comparison_of_statistical_packages#Regression
↑ Finney, DJ Probit Analysis (3:e upplagan ) . - Cambridge University Press, Cambridge, Storbritannien, 1971. - ISBN 052108041X .
↑ Handbook of Applied Statistics. I 2 vol. T. 1: Per. från engelska. / Ed. E. Lloyd, W. Lederman, Yu. N. Tyurin. — M.: Finans och statistik, 1989. — 510 sid. — ISBN 5-279-00245-3

Litteratur

Magnus Ya. R., Katyshev P. K., Peresetsky A. A. Ekonometri. Inledande kurs. - M . : Delo, 2007. - 504 sid. - ISBN 978-5-7749-0473-0 . .

Nosko V.P. Ekonometri för nybörjare (ytterligare kapitel). – M.: IET, 2005. S. 379.