Dirichlet distribution

Den aktuella versionen av sidan har ännu inte granskats av erfarna bidragsgivare och kan skilja sig väsentligt från versionen som granskades den 23 maj 2021; verifiering kräver 1 redigering .

Inom sannolikhetsteori och matematisk statistik är Dirichlet-fördelningen (uppkallad efter Johann Peter Gustav Lejeune-Dirichlet ), ofta betecknad Dir( α ), en familj av kontinuerliga flerdimensionella sannolikhetsfördelningar av icke-negativa reella tal parametriserade av vektorn α . Dirichlet-fördelningen är en generalisering av betafördelningen till det multivariata fallet. Det vill säga, dess sannolikhetstäthetsfunktion returnerar konfidenssannolikheten att sannolikheten för var och en av de K ömsesidigt uteslutande händelserna är lika , givet att varje händelse har observerats en gång. $x_{i}$ $\alpha _{i}-1$

Sannolikhetstäthetsfunktion

Sannolikhetstäthetsfunktionen för en Dirichlet-fördelning av ordning K är [1] :

f(x_{1},\dots ,x_{K};\alpha _{1},\dots ,\alpha _{K})={\frac {1}{\mathrm {B} (\alpha )} }\prod _{i=1}^{K}x_{i}^{\alpha _{i}-1}

där , , , och är en flerdimensionell betafunktion , där $x_{i}\geq 0$ $\sum _{i=1}^{K}x_{i}=1$ $\alpha _{i}>0$ ${\mathrm {B} (\alpha )}={\frac {\prod \limits _{i=1}^{K}\Gamma (\alpha _{i})}{\Gamma \left( \sum \limits _{i=1}^{K}\alpha _{i}\right)}}$ ${\boldsymbol {\alpha }}=(\alpha _{1},\ldots ,\alpha _{K}).$

Egenskaper

Låt och sedan [1] $X=(X_{1},\ldots,X_{K})\sim \operatörsnamn {Dir} (\alpha )$ $\alpha _{0}=\summa _{i=1}^{K}\alpha _{i},$

\mathrm {E} [X_{i}\mid \alpha ]={\frac {\alpha _{i}}{\alpha _{0}}},

\mathrm {Var} [X_{i}\mid \alpha ]={\frac {\alpha _{i}(\alpha _{0}-\alpha _{i})}{\alpha _{ 0}^{2}(\alpha _{0}+1)}},

\mathrm {Cov} [X_{i}X_{j}\mid \alpha ]={\frac {-\alpha _{i}\alpha _{j}}{\alpha _{0}^{ 2}(\alpha _{0}+1)}}.

Fördelningsläget är vektorn x ( x 1 , …, x K ) med

x_{i}={\frac {\alpha _{i}-1}{\alpha _{0}-K)),\quad \alpha _{i}>1.

Dirichlet-fördelningen är konjugatet före multinomfördelningen , nämligen: if

\beta \mid X=(\beta _{1},\ldots ,\beta _{K})\mid X\sim \operatörsnamn {Mult} (X),

där β i är antalet förekomster av i i ett urval av n punkter i en diskret fördelning på {1, …, K } definierad genom X , då

X\mid \beta \sim \operatörsnamn {Dir} (\alpha +\beta ).

Detta förhållande används i Bayesiansk statistik för att uppskatta de latenta parametrarna, X , för en diskret sannolikhetsfördelning givet en uppsättning av n sampel. Uppenbarligen, om priorn betecknas som Dir( α ), så är Dir( α + β ) den bakre fördelningen efter en serie observationer med histogram β .

Relationer med andra distributioner

Om för $i\in\{1,2,\ldots ,K\},$

Y_{i}\sim \operatörsnamn {Gamma} ({\textrm {shape}}=\alpha _{i},{\textrm {scale}}=1)

oavsett alltså

V=\summa _{i=1}^{K}Y_{i}\sim \operatörsnamn {Gamma} ({\textrm {form}}=\summa _{i=1}^{K}\alpha _{ i},{\textrm {scale}}=1),

och

(X_{1},\ldots ,X_{K})=(Y_{1}/V,\ldots,Y_{K}/V)\sim \operatörsnamn {Dir} (\alpha _{1},\ldots ,\alpha _{K}).

Även om X i inte är oberoende av varandra, kan de genereras från en uppsättning oberoende gamma -slumpvariabler. Tyvärr, eftersom summan går förlorad i processen att bilda X = ( X 1 , …, X K ), blir det omöjligt att återställa de initiala värdena för gamma-slumpvariabler endast från dessa värden. Men på grund av det faktum att det är lättare att arbeta med oberoende slumpvariabler kan denna transformation av parametrar vara användbar för att bevisa egenskaperna hos Dirichlet-fördelningen. $K$ $V$

Generering av slumptal

Metoden för att konstruera en slumpmässig vektor för en Dirichletfördelning av dimension K med parametrar följer direkt av detta samband. Först får vi K oberoende slumpmässiga prover från gammafördelningar , som var och en har en densitet $x=(x_{1},\ldots,x_{K})$ $(\alpha _{1},\ldots ,\alpha _{K})$ $y_{1},\ldots ,y_{K}$

{\frac {y_{i}^{\alpha _{i}-1}\;e^{-y_{i))}{\Gamma (\alpha _{i)))))),

och sedan lägga

x_{i}=y_{i}\left/\sum _{j=1}^{K}y_{j}\right..

Visuell tolkning av parametrar

Som ett exempel på användning av Dirichlet-fördelningen kan vi föreslå ett problem där det krävs att gänga (var och en med en initial längd på 1,0) skärs till K-delar med olika längder så att alla delar har en given medellängd, men med möjlighet till viss variation i delarnas relativa längder. Värdena α / α 0 bestämmer medellängden på gängdelarna som resulterar från fördelningen. Spridningen runt medelvärdet är omvänt proportionell mot α 0 .

Se även

Anteckningar

↑ 1 2 Groot, 1974 , sid. 56-58.

Litteratur

M. de Groot Optimal Statistical Decisions = Optimal Statistical Decisions. —M.: Mir, 1974. — 492 sid.