En ortogonal matris är en kvadratisk matris med reella element, vars resultat av multiplikation med den transponerade matrisen är lika med identitetsmatrisen [1] :
eller, ekvivalent, dess inversa matris (som nödvändigtvis existerar) är lika med den transponerade matrisen:
Den komplexa analogen av en ortogonal matris är den enhetliga matrisen .
En ortogonal matris med en determinant kallas speciell ortogonal .
Med andra ord är prickprodukten av en rad med sig själv 1, och med vilken annan rad som helst är 0. Detsamma gäller för kolumner.