Multivariat normalfördelning

Den aktuella versionen av sidan har ännu inte granskats av erfarna bidragsgivare och kan skilja sig väsentligt från versionen som granskades den 7 april 2020; kontroller kräver 5 redigeringar .

Multivariat normalfördelning (eller multivariat Gaussfördelning ) i sannolikhetsteorin är en generalisering av endimensionell normalfördelning . En slumpmässig vektor som har en multivariat normalfördelning kallas en Gaussisk vektor [1] .

Definitioner

En slumpmässig vektor har en multivariat normalfördelning om ett av följande ekvivalenta villkor är sant: ${\mathbf {X}}=(X_{1},\ldots,X_{n})^{{\top }}:\Omega \to {\mathbb {R}}^{n}$

En godtycklig linjär kombination av vektorkomponenter har en normalfördelning eller är en konstant (detta påstående fungerar bara om den matematiska förväntan är 0). $\sum \limits _{{i=1}}^{n}a_{i}X_{i}$
Det finns en vektor med oberoende standard normala slumpvariabler , en reell vektor och en dimensionsmatris , så att: ${\mathbf {Z}}=(Z_{1},\ldots,Z_{m})^{{\top }}$ ${\mathbf {\mu }}=(\mu _{1},\ldots ,\mu _{n})^{{\top }}$ $\mathbf {A}$ $n \ gånger m$

{\mathbf {X}}={\mathbf {A}}{\mathbf {Z}}+{\mathbf {\mu }}

Det finns en vektor och en icke-negativ bestämd symmetrisk matris av dimension , så att vektorns karakteristiska funktion har formen: ${\mathbf {\mu }}\in {\mathbb {R}}^{n}$ ${\mathbf {\Sigma ))$ $n\ gånger n$ $\mathbf {X}$

\phi _{{{\mathbf {X}}}}({\mathbf {u}})=e^{{i{\mathbf {\mu }}^{{\top }}{\mathbf {u} }-{\frac {1}{2}}{\mathbf {u}}^{{\top }}\Sigma {\mathbf {u}}}},\;{\mathbf {u}}\in { \mathbb {R}}^{n}

Densiteten för den icke-degenererade normalfördelningen

Om vi endast betraktar distributioner med en icke-singular kovariansmatris , kommer följande definition också att vara ekvivalent:

Det finns en vektor och en positiv-definitiv symmetrisk matris med dimension , så att vektorns sannolikhetstäthet har formen [2] ::

{\mathbf {\mu }}\in {\mathbb {R}}^{n}

{\mathbf {\Sigma ))

n\ gånger n

\mathbf {X}

f_{{{\mathbf {X}}}}({\mathbf {x}})={\frac {1}{(2\pi )^{{n/2}}\vert \Sigma \vert ^{ {1/2}}}}e^{{-{\frac {1}{2}}({\mathbf {x}}-{\mathbf {\mu }})^{{\top }}\Sigma ^{{-1}}({\mathbf {x}}-{\mathbf {\mu }})))),\;{\mathbf {x}}\in {\mathbb {R}}^{n }

, där är matrisens determinant och är matrisen invers mot

\vert \Sigma \vert

\Sigma

\Sigma ^{{-1}}

\Sigma

Vektorn är medelvektorn och är dess kovariansmatris . ${\mathbf {\mu ))$ $\mathbf {X}$ $\Sigma$
I fallet med minskar den multivariata normalfördelningen till den vanliga normalfördelningen. $n=1$
Om den slumpmässiga vektorn har en multivariat normalfördelning, skriv . $\mathbf {X}$ $\mathbf {X} \sim {\mathcal {N))(\mathbf {\mu } ,\Sigma )$

Bivariat normalfördelning

Ett specialfall av den multivariata normalfördelningen är den bivariata normalfördelningen. I det här fallet har vi två slumpvariabler med matematiska förväntningar , varianser och kovarians . I detta fall har kovariansmatrisen storlek 2, och dess determinant är $X_{1},X_{2}$ ${\displaystyle \mu _{1},\mu _{2))$ ${\displaystyle \sigma _{1}^{2},\sigma _{2}^{2))$ $\sigma_{12}$

\mathrm {det} \Sigma =\sigma _{1}^{2}\sigma _{2}^{2}-\sigma _{12}^{2}=\sigma _{1}^ {2}\sigma _{2}^{2}(1-\rho ^{2}),

var är korrelationskoefficienten för stokastiska variabler. $\rho ={\frac {\sigma _{12}}{\sigma _{1}\sigma _{2}}}$

Då kan tätheten för en tvådimensionell icke-degenererad (korrelationskoefficient i absolut värde är inte lika med enhet) normalfördelning skrivas som:

f(x_{1},x_{2})={\frac {1}{2\pi \sigma _{1}\sigma _{2}{\sqrt {1-\rho ^{2} }}}}\exp \left\{-{\frac {1}{2(1-\rho ^{2})}}\left[{\frac {(x_{1}-\mu _{1} )^{2)){\sigma _{1}^{2))}-\rho {\frac {2(x_{1}-\mu _{1})(x_{2}-\mu _{ 2})}{\sigma _{1}\sigma _{2}}}+{\frac {(x_{2}-\mu _{2})^{2}}{\sigma _{2}^ {2}}}\right]\right\}

. I händelse av att (det vill säga de är beroende) är deras summa fortfarande normalfördelad, men ytterligare en term förekommer i variansen : .

X\sim {\mathcal {N}}(\mu _{1},\sigma _{1}^{2}),Y\sim {\mathcal {N}}(\mu _{2} ,\sigma _{2}^{2}),cov(X,Y)=\sigma _{12}

X,Y

2\sigma _{12}

X+Y\sim {\mathcal {N))(\mu _{1}+\mu _{2},\sigma _{1}^{2}+\sigma _{2}^{2 }+2\sigma _{12})

Egenskaper för den multivariata normalfördelningen

Om en vektor har en multivariat normalfördelning, så har dess komponenter en univariat normalfördelning. Det omvända är sant när komponenterna är oberoende [3] . $\mathbf {X} =(X_{1},\ldots ,X_{n})^{\top }$ $X_{i},i=1,\ldots,n,$
Om de slumpmässiga variablerna har en univariat normalfördelning och är gemensamt oberoende , har slumpvektorn en multivariat normalfördelning. Kovariansmatrisen för en sådan vektor är diagonal. $X_{1},\ldots ,X_{n}$ $\mathbf {X} =(X_{1},\ldots ,X_{n})^{\top }$ $\Sigma$
Om har en multivariat normalfördelning och dess komponenter är parvis okorrelerade , då är de oberoende. Men om några slumpvariabler har endimensionella normalfördelningar och inte parvis korrelerar, så följer det inte att de är oberoende och har en multivariat normalfördelning. $\mathbf {X} =(X_{1},\ldots ,X_{n})^{\top }$ $X_{i},\;i=1,\ldots ,n$

Exempel. Låt , och med lika sannolikheter och vara oberoende av det angivna normalvärdet. Sedan om , då är korrelationen och lika med noll. Dessa slumpvariabler är dock beroende och har, i kraft av det första påståendet i stycket, ingen multivariat normalfördelning.

X\sim {\mathcal {N}}(0,1)

\alpha =\pm 1

Y=\alpha X\sim {\mathcal {N}}(0,1)

X

Y

Den multivariata normalfördelningen är stabil under linjära transformationer . Om , och är en godtycklig matris av dimension , då $\mathbf {X} \sim {\mathcal {N))(\mathbf {\mu } ,\Sigma )$ $\mathbf {A}$ $m\ gånger n$

{\mathbf {A}}{\mathbf {X}}\sim {\mathbf {N}}\left({\mathbf {A}}{\mathbf {\mu }},{\mathbf {A}}\ Sigma {\mathbf {A}}^{{\top }}\right).

Genom en sådan transformation och förskjutning kan varje icke-degenererad normalfördelning reduceras till en vektor med oberoende standardnormalvärden .

Moment i den multivariata normalfördelningen

Låt vara centrerade (med noll matematisk förväntan) slumpvariabler som har en multivariat normalfördelning, då är momenten för udda lika med noll, och för jämna de beräknas det med formeln $X$ $\mu _{i_{1}i_{2}i_{3}...i_{k}}=E(X_{i_{1}}X_{i_{2}}X_{i_{3} }...X_{i_{k}})$ $k$ $k=2m$

\sum \sigma _{i_{t_{1}}i_{t_{2}}}\sigma _{i_{t_{3}}i_{t_{4}}}\sigma _{i_{t_ {4}}i_{t_{5}}}}...\sigma _{i_{t_{k-1}}i_{t_{k}}}

där summeringen utförs över alla möjliga uppdelningar av index i par. Antalet faktorer i varje term är , antalet termer är $m$ ${\frac {(2m)!}{2^{m}m!}}={\frac {(2m-1)!}{2^{m-1}(m-1)!}}$

Till exempel, för moment av fjärde ordningen i varje term finns det två faktorer och det totala antalet termer kommer att vara lika med . Motsvarande allmänna formel för momenten av fjärde ordningen är: $4!/(2^{2}\cdot 2!)=(1\cdot 2\cdot 3\cdot 4)/(4\cdot 2\cdot 1)=3$

\mu _{ijkm}=E(X_{i}X_{j}X_{k}X_{m})=\sigma _{ij}\sigma _{km}+\sigma _{ik}\ sigma _{jm}+\sigma _{im}\sigma _{kj}

I synnerhet om $i=j=k=m$

{\displaystyle \mu _{iiii}=E(X_{i}^{4})=3{\sigma }_{ii}^{2}=3{\sigma }_{i}^{4))

På $i=j\not=k=m$

{\displaystyle \mu _{iijj}=E(X_{i}^{2}X_{j}^{2})={\sigma }_{ii}{\sigma }_{jj}+2{\ sigma }_{ij}={\sigma }_{i}^{2}{\sigma }_{j}^{2}+2{\sigma }_{ij))

På $i=j=k\not=m$

\mu _{iij}=E(X_{i}^{3}X_{j})={\sigma }_{ii}{\sigma }_{ij}+{\sigma }_{ii }{\sigma }_{ij}+{\sigma }_{ij}{\sigma }_{ii}=3{\sigma }_{ij}{\sigma }_{ii}=3{\sigma } _{i}^{2}{\sigma }_{ij}

Villkorlig tilldelning

Låt slumpmässiga vektorer och ha en gemensam normalfördelning med matematiska förväntningar , kovariansmatriser och kovariansmatris . Detta innebär att den kombinerade slumpmässiga vektorn följer en multivariat normalfördelning med en förväntansvektor och en kovariansmatris, som kan representeras som följande blockmatris $X$ $Y$ $\mu _{X},\mu _{Y}$ $V_{X},V_{Y}$ $C_{{XY}}$ ${\boldsymbol Z}={\begin{bmatrix}{\boldsymbol X}\\{\boldsymbol Y}\end{bmatrix}}$ ${\boldsymbol {\mu }}_{Z}={\begin{bmatrix}{\boldsymbol {\mu }}_{X}\\{\boldsymbol {\mu}}_{Y}\end {bmatrix}}$

{\boldsymbol V}_{Z}={\begin{bmatrix}{\boldsymbol V}_{X}&{\boldsymbol C}_{{XY}}\\{\boldsymbol C}_{{YX}} &{\boldsymbol V}_{{Y}}\end{bmatrix}}

var . $C_{{YX}}=C_{{XY}}^{T}$

Då har den slumpmässiga vektorn , givet värdet av den slumpmässiga vektorn, en (multivariat) normal villkorlig fördelning med följande villkorliga medelvärde och villkorlig kovariansmatris $Y$ $X$

$E(Y|X=x)=\mu _{Y}+C_{{YX}}V_{X}^{{-1}}(x-\mu _{X}),\qquad V(Y| X=x)=V_{Y}-C_{{YX}}V_{X}^{{-1}}C_{{XY}}$ .

Den första likheten definierar den linjära regressionsfunktionen (beroendet av vektorns villkorliga förväntan på det givna värdet x för den slumpmässiga vektorn ), och matrisen är matrisen av regressionskoefficienter. $Y$ $X$ $C_{{XY}}V^{{-1}}$

Den villkorliga kovariansmatrisen är den slumpmässiga felkovariansmatrisen för linjära regressioner av komponenterna i vektor för vektor . I fallet där är en vanlig slumpvariabel (enkomponentvektor), är den villkorliga kovariansmatrisen den villkorliga variansen (i huvudsak variansen av det slumpmässiga felet för regressionen på vektorn ) $Y$ $X$ $Y$ $Y$ $X$

Anteckningar

↑ A. N. Shiryaev. Sannolikhet. Volym 1. MTSNMO, 2007.
↑ Groot, 1974 , sid. 58-63.
↑ A.A. Novoselov. Favoriter: Normaliteten hos en ledfördelning . Moderna risksystem (28 mars 2014). Hämtad 8 maj 2017. Arkiverad från originalet 17 maj 2017. (obestämd)

Litteratur

M. de Groot Optimal Statistical Decisions = Optimal Statistical Decisions. —M.: Mir, 1974. — 492 sid.

Sannolikhetsfördelningar
Diskret	Bernoulli Binom Geometrisk hypergeometrisk Logaritmisk Negativ binomial Poisson Diskret uniform Multinomial
Absolut kontinuerligt	Beta Weibulla Gamma- hyperexponentiell Gompertz Kolmogorov Cauchy Laplace lognormal Normal (Gaussian) Logistisk Nakagami Pareto Pearson halvcirkelformig kontinuerlig uniform Ris Rayleigh Studerande Tracey - Vidoma Fiskare Chi-kvadrat Exponentiell Varians-gamma Multivariat normal kopula