Oberoende (sannolikhetsteori)

I sannolikhetsteorin kallas två slumpmässiga händelser oberoende om förekomsten av en av dem inte ändrar sannolikheten för att den andra ska inträffa. På liknande sätt kallas två slumpvariabler oberoende om det kända värdet för en av dem inte ger information om den andra.

Oberoende händelser

Vi kommer att anta att vi får ett fast sannolikhetsutrymme . $(\Omega ,\;{\mathcal {F}),\;\mathbb {P} )$

Definition 1. Två händelser är oberoende om $A,B\in {\mathcal {F}}$

förekomsten av en händelse förändrar inte sannolikheten för att händelsen inträffar .

A

B

Anmärkning 1. I händelse av att sannolikheten för en händelse, säg , är icke-noll, dvs. definitionen av oberoende är ekvivalent med: $B$ $\mathbb {P} (B)>0$

\mathbb {P} (A\mid B)=\mathbb {P} (A),

det vill säga den villkorade sannolikheten för händelsen under villkoret är lika med den ovillkorliga sannolikheten för händelsen . $A$ $B$ $A$

Definition 2. Låt det finnas en familj (ändlig eller oändlig) av slumpmässiga händelser , där är en godtycklig indexuppsättning . Då är dessa händelser parvis oberoende om några två händelser från denna familj är oberoende, det vill säga $\{A_{i}\}_{i\in I}\subset {\mathcal {F}}$ $jag$

\mathbb {P} (A_{i}\cap A_{j})=\mathbb {P} (A_{i})\cdot \mathbb {P} (A_{j}),\;\forall i\neq j.

Definition 3. Låt det finnas en familj (ändlig eller oändlig) av slumpmässiga händelser . Då är dessa händelser gemensamt oberoende om, för någon ändlig uppsättning av dessa händelser, följande är sant: $\{A_{i}\}_{i\in I}\subset {\mathcal {F}}$ $\{A_{i_{k}}\}_{k=1}^{N}$

\mathbb {P} (A_{i_{1}}\cap \ldots \cap A_{i_{N}})=\mathbb {P} (A_{i_{1}})\cdot \ldots \cdot \mathbb {P} (A_{i_{N}}).

Anmärkning 2. Gemensamt oberoende innebär uppenbarligen parvis oberoende. Det omvända är i allmänhet inte sant.

Exempel 1. Låt tre balanserade mynt kastas. Låt oss definiera händelser enligt följande:

$A_{1}$ : mynt 1 och 2 föll på samma sida;
$A_{2}$ : mynt 2 och 3 föll på samma sida;
$A_{3}$ : mynt 1 och 3 föll på samma sida;

Det är lätt att kontrollera att två händelser från denna uppsättning är oberoende. Ändå är de tre kollektivt beroende, för att till exempel veta att händelserna hände vet vi exakt vad som också hände. Mer formellt: . Å andra sidan, . $A_{1}$ $A_{2}$ $A_{3}$ $\mathbb {P} (A_{i}\cap A_{j})={\frac {1}{4}}={\frac {1}{2}}\cdot {\frac {1}{2} }=\mathbb {P} (A_{i})\cdot \mathbb {P} (A_{j})\quad \forall i\neq j$ $\mathbb {P} (A_{1}\cap A_{2}\cap A_{3})={\frac {1}{4}}\neq {\frac {1}{2}}\cdot {\ frac {1}{2}}\cdot {\frac {1}{2}}=\mathbb {P} (A_{1})\cdot \mathbb {P} (A_{2})\cdot \mathbb { P} (A_{3})$

Oberoende sigma-algebras

Definition 4. Låt två sigma-algebror på samma sannolikhetsrymd. De kallas oberoende om någon av deras representanter är oberoende av varandra, det vill säga: ${\mathcal {A}}_{1},\;{\mathcal {A}}_{2}\subset {\mathcal {F}}$

\mathbb {P} (A_{1}\cap A_{2})=\mathbb {P} (A_{1})\cdot \mathbb {P} (A_{2}),\;\forall A_{1 }\in {\mathcal {A}}_{1},\;A_{2}\in {\mathcal {A}}_{2}

Om det istället för två finns en hel familj (möjligen oändlig) av sigma-algebror, så definieras parvis och gemensamt oberoende för det på ett uppenbart sätt.

Oberoende slumpvariabler

Definitioner

Definition 5. Låt en familj av slumpvariabler ges , så att . Då är dessa slumpvariabler parvis oberoende om sigma-algebrorna som genereras av dem är parvis oberoende . Slumpvariabler är ömsesidigt oberoende om de sigma-algebror som genereras av dem är det. $(X_{i})_{i\in I}$ $X_{i}\colon \Omega \to \mathbb {R} ,\;\forall i\in I$ $\{\sigma (X_{i})\}_{i\in I}$

Det bör noteras att oberoende i praktiken, såvida det inte härleds från sammanhanget, tolkas som oberoende totalt sett .

Definitionen som ges ovan är likvärdig med någon annan av följande. Två slumpvariabler är oberoende om och endast om : $X,\;Y$

För alla : $A,\;B\in {\mathcal {B}}(\mathbb {R} )$

\mathbb {P} (X\in A,\;Y\in B)=\mathbb {P} (X\in A)\cdot \mathbb {P} (Y\in B)=\mathbb { P} (\left\{\omega :X(\omega )\in A,~\omega \in \Omega \right\})\cdot \mathbb {P} (\left\{\omega :Y(\omega )\i B,~\omega \i \Omega \right\}).

För alla Borel-funktioner är de slumpmässiga variablerna oberoende. $f,\;g\colon \mathbb {R} \to \mathbb {R}$ $f(X),\;g(Y)$
För alla begränsade Borel-funktioner : $f,\;g\colon \mathbb {R} \to \mathbb {R}$

\mathbb {E} \left[f(X)g(Y)\right]=\mathbb {E} \left[f(X)\right]\cdot \mathbb {E} \left[g(Y)\ höger].

Egenskaper för oberoende slumpvariabler

Låta vara fördelningen av en slumpmässig vektor , vara fördelningen och vara fördelningen av . Då är de oberoende om och bara om $\mathbb {P} ^{X,\;Y}$ $(X,\;Y)$ $\mathbb {P} ^{X}$ $X$ $\mathbb {P} ^{Y}$ $Y$ $X,\;Y$

\mathbb {P} ^{X,\;Y}=\mathbb {P} ^{X}\otimes \mathbb {P} ^{Y},

där betecknar den (direkta) produkten av åtgärder . $\ ibland$

Låta vara de kumulativa fördelningsfunktionerna, respektive. Då är de oberoende om och bara om $F_{X,\;Y},\;F_{X},\;F_{Y}$ $(X,\;Y),\;X,\;Y$ $X,\;Y$

F_{X,\;Y}(x,\;y)=F_{X}(x)\cdot F_{Y}(y).

Låt de slumpmässiga variablerna vara diskreta . Då är de oberoende om och bara om $X,\;Y$

\mathbb {P} (X=i,\;Y=j)=\mathbb {P} (X=i)\cdot \mathbb {P} (Y=j).

Låt de slumpmässiga variablerna vara gemensamt absolut kontinuerliga, det vill säga deras gemensamma fördelning har en densitet . Då är de oberoende om och bara om $X,\;Y$ $f_{{X,\;Y}}(x,\;y)$

f_{X,\;Y}(x,\;y)=f_{X}(x)\cdot f_{Y}(y),\;\forall (x,\;y)\in \mathbb {R } ^{2}

var är tätheterna för slumpvariabler och resp. $f_{X}(x),\;f_{Y}(y)$ $X$ $Y$

Låt de slumpmässiga variablerna vara oberoende och ha en finit varians . Då är de inte korrelerade . $X,\;Y$
Varje samling av slumpvariabler som är oberoende i populationen är parvis oberoende, men inte alla parvis oberoende samlingar är oberoende i populationen. Det senare demonstreras av myntkastningsexemplet som ges av S. N. Bernstein.

n-ärt oberoende

I det allmänna fallet, för vem som helst kan tala om -ärt oberoende. Tanken är liknande: en familj av slumpvariabler är -arno-oberoende om någon delmängd av dess kardinalitet är kollektivt oberoende. -ärt oberoende har använts i teoretisk datavetenskap för att bevisa MAXEkSAT- problemsatsen . $n\geqslant 2$ $n$ $n$ $n$ $n$

Se även

Länkar

Russell, Stuart. Artificiell intelligens: A Modern Approach / Stuart Russell, Peter Norvig. - Prentice Hall , 2002. - S. 478 . — ISBN 0-13-790395-2 .

Ordböcker och uppslagsverk	Britannica (online)