Metod för korrigering av felfeedback

Felåterkopplingskorrigeringsmetoden är en stokastisk perceptronträningsmetod som är nödvändig för att säkerställa konvergens med variabla anslutningar av mer än ett lager. Metoden föreslogs av Rosenblatt för perceptroner med variabla SA-kopplingar och kan användas för binära flerskiktsperceptroner . Det är ett alternativ till backpropagation-metoden , men till skillnad från den garanterar den konvergensprocessen (att nå en lösning).

Algoritm

För varje R-element sätts felet , där krävs och är det uppnådda svaret. $E_{r}=R^{*}-r^{*}$ $R^{*}$ $r^{*}$
För varje A-element beräknas felet enligt följande: $a_{i}$
- I början ; $E_{i}=0$
- Om elementet är aktivt och länken ( eller generellt ) slutar vid R-elementet med ett fel som inte är noll , vilket skiljer sig i tecken från vikten av länken , så bör med sannolikhet en korrigering lika med -1 läggas till; $a_{i}$ $c_{{ir}}$ ${\textstyle c_{{ir}}=a_{i}\cdot w_{{ir}}}$ ${\textstyle c_{{ir}}=f(w_{{ir}},a_{i})}$ $E_{r}$ $w_{{ir}}$ $p_{1}$ $E_{i}$
- Om elementet är inaktivt och länken slutar vid R-elementet med ett fel som inte är noll , inte skiljer sig (sammanfaller) i tecken från vikten av länken , så bör med sannolikhet en korrigering lika med +1 läggas till; $a_{i}$ $c_{{ir}}$ $E_{r}$ $w_{{ir}}$ $p_{2}$ $E_{i}$
- Om elementet är inaktivt och länken slutar vid R-elementet med ett fel som inte är noll , vilket skiljer sig i tecken från vikten av länken (eller ), så bör med sannolikhet en korrigering lika med +1 läggas till; $a_{i}$ $c_{{ir}}$ $E_{r}$ $w_{{ir}}$ $w_{{ir}}=0$ $p_{3}$ $E_{i}$
- Under alla andra förhållanden förändras det inte. $E_{i}$
Om , då lägger vi till en korrigering med ett tecken som sammanfaller med tecknet till alla aktiva länkar som slutar på A- eller R-element , dvs. , där är det absoluta värdet (vanligtvis ett). $E_{i}\not=0$ $\eta$ $E_{i}$ $\Delta w_{{ij}}=a_{i}^{*}tecken(E_{i})\varepsilon$ $\varepsilon$ $\eta$

I de flesta fall kan den bästa prestandan erhållas om sannolikheterna väljs enligt följande villkor . ${\displaystyle p_{1}>p_{2}>p_{3))$

Litteratur

Rosenblatt, F. Principer för neurodynamisk: perceptroner och teorin om hjärnans mekanismer. - M . : Mir, 1965. - 480 sid.

Lakhmi C. Jain; NM Martin Fusion av neurala nätverk, fuzzy system och genetiska algoritmer: industriella tillämpningar. - CRC Press, CRC Press LLC, 1998