Graph probabilistisk modell

En grafisk probabilistisk modell är en probabilistisk modell där beroenden mellan slumpvariabler representeras som en graf . Grafens hörn motsvarar slumpvariabler, och kanterna motsvarar direkta probabilistiska samband mellan slumpvariabler. Grafiska modeller används ofta inom sannolikhetsteori , statistik (särskilt Bayesiansk statistik ) och även inom maskininlärning .

Typer av grafmodeller

Bayesiskt nätverk

Ett Bayesianskt nätverk är ett fall av en riktad acyklisk grafisk modell , där riktade kanter kodar för probabilistiska beroendeförhållanden mellan variabler.

Enligt det Bayesianska nätverket är den gemensamma fördelningen av variabler lätt att skriva: om händelser (slumpvariabler) betecknas som

$X_{1},\ldots ,X_{n}$

då uppfyller den gemensamma fördelningen ekvationen

$P[X_{1},\ldots ,X_{n}]=\prod _{i=1}^{n}P[X_{i}|pa_{i}]$

var är uppsättningen av vertex-förfäder till vertexet . Med andra ord, den gemensamma fördelningen representeras som en produkt av villkorade atomfördelningar, som vanligtvis är kända. Alla två hörn som inte är förbundna med en kant är villkorligt oberoende om värdet på deras förfäder är känt. I allmänhet är vilka två vertexuppsättningar som helst villkorligt oberoende, givet värdena för den tredje vertexuppsättningen, om grafen uppfyller d -separabilitetsvillkoret . Lokalt och globalt oberoende är likvärdiga i Bayesianskt nätverk ${\displaystyle pa_{i))$ $X_{i}$

Ett viktigt specialfall av det Bayesianska nätverket är Hidden Markov Model

Markov slumpmässiga fält

Markovs slumpmässiga fält ges av en oriktad graf. Till skillnad från Bayesianska nätverk kan de innehålla cykler.

Med hjälp av Markovs slumpmässiga fält är det möjligt att enkelt representera bilder med hjälp av en rutnätsstruktur, vilket gör det möjligt att lösa till exempel problemet med att filtrera brus i en bild.

Andra typer av grafmodeller

faktorgraf är en oriktad tvådelad graf där faktorer och slumpvariabler är sammankopplade med kanter. Varje faktor representerar en sannolikhetsfördelning för alla variabler den länkar. Grafer översätts till faktorgrafform, till exempel för att kunna använda algoritmen för förtroendeutbredning .
en kedjegraf är en graf som kan innehålla både riktade och oriktade kanter, men utan riktade cykler (det vill säga om vi börjar röra oss vid någon vertex och rör oss längs grafen endast längs riktade kanter, så kommer vi inte att kunna återgå till det toppen från vilken vi startade). Både riktade och oriktade grafer är ett specialfall av kedjegrafer, som kan fungera som en generalisering av Bayesianska och Markov-nätverk.
villkorligt slumpmässigt fält — diskriminerande modell definierad på en oriktad graf

Applikationer

Grafmodeller används i informationsextraktion , taligenkänning , datorseende , lågdensitets-paritetskontrollkodavkodning , genupptäckt och sjukdomsdiagnos.

Länkar

Jensen, Finn. En introduktion till Bayesianska nätverk (neopr.) . - Berlin: Springer, 1996. - ISBN 0-387-91502-8 .
Cowell, Robert G.; Dawid, A. Philip; Lauritzen, Steffen L.; Spiegelhalter, David J. Probabilistiska nätverk och expertsystem . - Berlin: Springer, 1999. - ISBN 0-387-98767-3 . En mer avancerad och statistiskt inriktad bok
Pearl, Judeen . Probabilistiska resonemang iintelligenta system . — 2:a revisionen. - San Mateo, CA: Morgan Kaufmann , 1988. - ISBN 1558604790 . Ett beräkningsresonemang, där sambanden mellan grafer och sannolikheter formellt introducerades.
Biskop, Christopher M. Kapitel 8. Grafiska modeller // Mönsterigenkänning och maskininlärning (neopr.) . - Springer, 2006. - S. 359-422. — ISBN 0-387-31073-8 .
En kort introduktion till grafiska modeller och Bayesianska nätverk Arkiverad 12 november 2020 på Wayback Machine
Heckermans Bayes Net Learning Tutorial (inte tillgänglig länk)
Edoardo M. Airoldi. Komma igång med probabilistiska grafiska modeller // PLoS Computational Biology : tidskrift . - 2007. - Vol. 3 , nr. 12 . —P.e252 . _ - doi : 10.1371/journal.pcbi.0030252 .

Grafisk probabilistiska modeller
Bayesiskt nätverk Causal Bayesian Network Markov nätverk Dold Markov-modell

Maskininlärning och datautvinning
Uppgifter	Klassificeringsproblem Lärande utan lärare Lärarassisterat lärande Regressionsanalys AutoML Föreningens regler Särdragsextraktion Egenskapsträning Ranking utbildning Grammatisk härledning Online lärande
Att lära sig med en lärare	k-närmaste granne metod Naiv Bayes klassificerare beslutsträd Stöd vektor maskin Linjär regression Logistisk tillbakagång perceptron Ensembler av modeller Säckväv förstärkning slumpmässig skog Relevant vektormetod
klusteranalys	k-betyder metod Fuzzy klustringsmetod Hierarkisk klustring EM algoritm BJÖRK BOTA DBSCAN OPTIK Genomsnittlig förskjutning
Dimensionalitetsreduktion	Faktoranalys Huvudkomponentmetoden CCA ICA LDA Icke-negativ matrisexpansion t-SNE
Strukturell prognos	Graph probabilistisk modell Bayesiskt nätverk Dold Markov-modell CRF
Anomali upptäckt	k-närmaste granne metod Lokal utsläppsnivå
Grafisk probabilistiska modeller	Bayesiskt nätverk Markov nätverk Dold Markov-modell
Neurala nätverk	Begränsad Boltzmann-maskin självorganiserande karta Aktiveringsfunktion Sigmoid softmax Radiell basfunktion Ryggförökningsmetod Djup lärning Flerskiktsperceptron Återkommande neurala nätverk långtidsminne Kontrollerat återkommande block Konvolutionellt neuralt nätverk U-Net Autokodare
Förstärkningsinlärning	Markov process Bellmans ekvation Girig algoritm Q-lärande SARSA Temporell skillnad (TD)
Teori	Vapnik-Chervonenkis teori Bias-Dispersion Dilemma Beräkningslärandeteori Empirisk riskminimering Occam lär sig PAC-inlärning Statistisk inlärningsteori
Tidskrifter och konferenser	NeurIPS ICML ML JMLR ArXiv:cs.LG