Hadamard produkt

Den aktuella versionen av sidan har ännu inte granskats av erfarna bidragsgivare och kan skilja sig väsentligt från versionen som granskades den 14 augusti 2020; kontroller kräver 13 redigeringar .

Hadamard-produkten [1] ( Schur-produkt [2] , komponentvis produkt ) är en binär operation på två matriser av samma dimension, vars resultat är en matris av samma dimension, där varje element med index är produkten av element med index för de ursprungliga matriserna. Operationen är uppkallad efter den franske matematikern Jacques Hadamard och den tyske matematikern Isai Schur . $I j$ $I j$

Definition och egenskaper

För två matriser med samma dimension definieras Hadamard-produkten som den komponentmässiga produkten av två matriser: $A,B$ $m\ gånger n$

{\displaystyle (A\circ B)_{i,j}=(A\odot B)_{i,j}=(A)_{i,j}\cdot (B)_{i,j))

För två matriser som har olika dimensioner är Hadamard-produkten inte definierad.

Exempel för 3×3-matriser:

{\begin{bmatrix}a_{11}&a_{12}&a_{13}\\a_{21}&a_{22}&a_{23}\\a_{31}&a_{32}&a_{33}\ end{bmatrix}}\odot {\begin{bmatrix}b_{11}&b_{12}&b_{13}\\b_{21}&b_{22}&b_{23}\\b_{31}&b_{32}&b_ {33}\end{bmatrix}}={\begin{bmatrix}a_{11}\,b_{11}&a_{12}\,b_{12}&a_{13}\,b_{13}\\a_{ 21}\,b_{21}&a_{22}\,b_{22}&a_{23}\,b_{23}\\a_{31}\,b_{31}&a_{32}\,b_{32} &a_{33}\,b_{33}\end{bmatrix}}

Är en associativ och distribuerande operation och är, till skillnad från den vanliga matrisprodukten, kommutativ :

A\odot B=B\odot A

A\odot (B\odot C)=(A\odot B)\odot C

A\odot (B+C)=A\odot B+A\odot C

Egenskaper för blandade produkter med andra varianter av matrismultiplikation:

(A\otimes B)\odot (C\otimes D)=(A\odot C)\otimes (B\odot D)

, var är Kronecker - produkten ;

\ ibland

(A\bullet B)\odot (C\bullet D)=(A\odot C)\bullet (B\odot D)

, var är slutprodukten [3] ;

\bullet

(A\bullet B)(C\ast D)=(AC)\odot (BD)

, var är Khatri-Rao kolumnprodukten .

\ast

Applikationer

Används i komprimeringsalgoritmer med förlust , såsom JPEG .

I mjukvarupaketen MATLAB och GNU Octave används operationen som en standardmatrismultiplikationsoperation och betecknas med symbolen ".*" [4] .

Produktoperationen på vektordatatyper i GPGPU -programmeringsteknologier implementeras också enligt Hadamard-produktprincipen. Andra primitiva matematiska operationer på vektordatatyper implementeras som komponentvisa operationer på deras komponenter.

Blockversion

Penetrerande slutprodukt

Denna typ av matrisoperation är baserad på Hadamard-produkten och låter dig multiplicera matriselement för element med ett godtyckligt antal block av samma dimension , vilket bildar en blockmatris [5] : $p\times g$ $\mathbf {A}$ $p\times g$ $\mathbf {B}$

\mathbf {A} [\circ ]\mathbf {B} =\left[{\begin{array}{c |  c |  c |  c }\mathbf {A} \odot \mathbf {B} _{1}&\mathbf {A} \odot \mathbf {B} _{2}&\ ...\ &\mathbf {A} \odot \ mathbf {B} _{n}\end{array}}\right]

Till exempel för

\mathbf {A} =\left[{\begin{array}{c}1&2&3\\4&5&6\\7&8&9\end{array}}\right],\quad \mathbf {B} =\left[{ \begin{array}{c |  c |  c }\mathbf {B} _{1}&\mathbf {B} _{2}&\mathbf {B} _{3}\end{array}}\right]=\left[{\begin{array} {cc|  ccc |  ccc }1&4&7&2&8&14&3&12&21\\8&20&5&10&25&40&12&30&6\\2&8&3&2&4&2&7&3&9\end{array}}\right]

vi får:

\mathbf {A} [\circ ]\mathbf {B} =\left[{\begin{array}{ccc |  ccc |  ccc }1&8&21&2&16&42&3&24&63\\32&100&30&40&125&240&48&150&36\\14&64&27&14&32&18&49&24&81\end{array}}\right]

Huvudegenskaper :

\mathbf {A} [\circ ]\mathbf {B} =\mathbf {B} [\circ ]\mathbf {A}

;

\mathbf {M} \bullet \mathbf {M} =\mathbf {M} [\circ ](\mathbf {M} \otimes \mathbf {1} ^{\textsf {T)))

var är symbolen för slutprodukten av matriser. $\bullet$

\mathbf {c} \bullet \mathbf {M} =\mathbf {c} [\circ ]\mathbf {M}

, var är en vektor.

\mathbf {c}

Denna typ av matrismultiplikation föreslogs 1998 av Slyusar V.I. att beskriva svaren från en digital antennuppsättning med icke-identiska mottagningskanaler [5] . Dessutom låter detta arbete dig formalisera funktionen av ett konvolutionellt neuralt nätverk. Om vi till exempel betraktar den angivna matrisen som en array av bildpixlar vid ingången till den neurala nätverksalgoritmen, kommer blocken i matrisen att motsvara olika uppsättningar av koefficienter som används för att bilda ett faltningslager i flera parallella kanaler för bildbehandling av ett neuralt nätverk [6] . $\mathbf {A}$ $\mathbf {B}$

Driften av den penetrerande slutprodukten av en vektor och en matris är implementerad i TensorFlows maskininlärningsbibliotek med den inbyggda funktionen "tf.multiply" [6] [7] .

Anteckningar

↑ Miljon, Elizabeth Hadamard-produkten . Hämtad 2 januari 2012. Arkiverad från originalet 12 juni 2013. (obestämd)
↑ Davis, Chandler. "Normen för Schur-produktdriften." Numerische Mathematik 4.1 (1962): 343-344.
↑ Slyusar, VI Slutprodukter i matriser i radartillämpningar // Radioelectronics and Communications Systems.– 1998, Vol. 41; Nummer 3. - 1996. - 27 december. - S. 50-53 .
↑ Aritmetiska operatorer + - * / \ ^ ' - (nedlänk) . MATLAB dokumentation . Math fungerar. Hämtad 2 januari 2012. Arkiverad från originalet 24 april 2012. (obestämd)
↑ 1 2 Slyusar, VI En familj av ansiktsprodukter av matriser och dess egenskaper // Cybernetik och systemanalys C/C av Kibernetika I Sistemnyi Analiz. 1999. : tidskrift. - 1998. - 13 mars ( vol. 35 , nr 3 ). - s. 379-384 . - doi : 10.1007/BF02733426 .
↑ 1 2 Slyusar V.I. Tensor-matrismodell av neurala nätverk. // Helt ukrainsk vetenskaplig och praktisk internetkonferens "Automation and computer-integration technology in the field of education: camp, achievement, development prospects", 15 - 21 februari 2021, Cherkasy, Cherkasy National Bogdan University
↑ Tensorflöde, hur man multiplicerar en 2D-tensor (matris) med motsvarande element i en 1D-vektor. – 2017. . Hämtad 17 januari 2021. Arkiverad från originalet 15 oktober 2021. (obestämd)

Litteratur

Horn R. Matrisanalys: Per. från engelska. / R. Horn, Ch. Johnson. – M.: Mir, 1989.– 655 sid.