Låt vara en homogen Markov-kedja med diskret tid och ett räknebart antal tillstånd. Beteckna
övergångssannolikheter per steg. Om det finns en diskret fördelning sådan att och
,då kallas det ergodisk distribution , och själva kedjan kallas ergodisk .
Låt vara en Markov-kedja med ett diskret tillståndsutrymme och en matris av övergångssannolikheter . Då är den här kedjan ergod om och bara om den
Den ergodiska fördelningen är då den enda lösningen på systemet:
.Markov-kedjor | Klassificering av stater och|
---|---|
stat | |
Kedja |