Tsybenkos sats

Den aktuella versionen av sidan har ännu inte granskats av erfarna bidragsgivare och kan skilja sig väsentligt från versionen som granskades den 13 juni 2020; verifiering kräver 1 redigering .

Tsybenkos sats , The Universal Approximation Theorem är en sats bevisad av George Tsybenko 1989 som säger att ett artificiellt frammatat neuralt nätverk med ett dolt lager kan approximera vilken kontinuerlig funktion som helst av många variabler med vilken precision som helst. Villkoren är: ett tillräckligt antal neuroner i det dolda lagret, bra urval och , var $\mathbf {w} _{1},\mathbf {w} _{2},\dots ,\mathbf {w} _{N},\mathbf {\alpha } ,$ $\mathbf {\theta }$

{\displaystyle \mathbf {w} _{i))

— vikter mellan ingångsneuroner och dolda lagerneuroner,

\mathbf {\alpha }

- vikter mellan kopplingar från neuroner i det dolda lagret och utgångsneuronen,

\mathbf {\theta }

— förskjutningar för neuroner i inmatningsskiktet.

Formell presentation

Låt vilken kontinuerlig sigmoid som helst fungera , till exempel . Sedan, om ges någon kontinuerlig funktion av reella variabler på (eller någon annan kompakt delmängd av ) och , så finns det vektorer och och en parametriserad funktion så att för alla $\varphi$ $\varphi (\xi )=1/(1+e^{-\xi })$ $f$ ${\displaystyle [0,1]^{n))$ $\mathbb {R} ^{n}$ $\varepsilon >0$ $\mathbf {w_{1}} ,\mathbf {w_{2}} ,\dots ,\mathbf {w_{N}} ,\mathbf {\alpha }$ $\mathbf {\theta }$ $G(\mathbf {\cdot } ,\mathbf {w} ,\mathbf {\alpha } ,\mathbf {\theta } ):[0,1]^{n}\to R$ ${\displaystyle \mathbf {x} \in [0,1]^{n))$

{\big |}G(\mathbf {x} ,\mathbf {w} ,\mathbf {\alpha } ,\mathbf {\theta } )-f(\mathbf {x} ){\big |} <\varepsilon ,

var

G(\mathbf {x} ,\mathbf {w} ,\mathbf {\alpha } ,\mathbf {\theta } )=\summa _{i=1}^{N}\alpha _{i} \varphi (\mathbf {w} _{i}^{T}\mathbf {x} +\theta _{i}),

och och $\mathbf {w} _{i}\in \mathbb {R} ^{n},$ $\alpha _{i},\theta _{i}\in \mathbb {R} ,$ $\mathbf {w} =(\mathbf {w} _{1},\mathbf {w} _{2},\dots ,\mathbf {w} _{N}),$ $\mathbf {\alpha } =(\alpha _{1},\alpha _{2},\dots ,\alpha _{N}),$ $\mathbf {\theta } =(\theta _{1},\theta _{2},\dots ,\theta _{N}).$

Länk

Cybenko, G. V. Approximation genom superpositioner av en sigmoidal funktion // Mathematics of Control Signals and Systems. - 1989. - V. 2 , nr 4 . - S. 303-314 .
Hassoun, M. Fundamentals of Artificiella neurala nätverk. - MIT Press, 1995. - S. 20, 48.

Tsybenkos sats

Formell presentation

Länk

Se även