Hessiska funktioner

Den aktuella versionen av sidan har ännu inte granskats av erfarna bidragsgivare och kan skilja sig väsentligt från versionen som granskades den 24 december 2021; kontroller kräver 2 redigeringar .

En funktions hessian är en symmetrisk kvadratisk form [1] som beskriver beteendet hos en funktion i andra ordningen.

För en funktion som är dubbelt differentierbar vid en punkt $f$ $x\in \mathbb{R} ^{n}$

H(x)=\summa _{{i=1}}^{n}\summa _{{j=1}}^{n}a_{{ij}}x_{i}x_{j}

eller

H(z)=\summa _{{i=1}}^{n}\summa _{{j=1}}^{n}a_{{ij}}z_{i}\överlinje {z}_{ j}

där (eller ) och funktionen definieras på -dimensionellt reellt utrymme (eller komplext utrymme ) med koordinater (eller ). I båda fallen är hessian en kvadratisk form som ges på tangentrymden , som inte förändras under linjära transformationer av variablerna. Hessian kallas också ofta för determinanten för en matris, se nedan. $a_{{ij}}=\partial ^{2}f/\partial x_{i}\partial x_{j}$ $a_{{ij}}=\partial ^{2}f/\partial z_{i}\partial \overline {z}_{j}$ $f$ $n$ $\mathbb {R} ^{n}$ $\mathbb{C}^n$ $x_{1},\ldots ,x_{n}$ $z_{1},\ldots ,z_{n}$ $(a_{ij}),$

Hessisk matris

Matrisen för denna kvadratiska form bildas av funktionens andra partiella derivator. Om alla derivat finns, då

H(f)={\begin{bmatrix}{\frac {\partial ^{2}f}{\partial x_{1}^{2))}&{\frac {\partial ^{2}f}{ \partial x_{1}\,\partial x_{2}}}&\cdots &{\frac {\partial ^{2}f}{\partial x_{1}\,\partial x_{n}}}\ \\\{\frac {\partial ^{2}f}{\partial x_{2}\,\partial x_{1))}&{\frac {\partial ^{2}f}{\partial x_{ 2}^{2))}&\cdots &{\frac {\partial ^{2}f}{\partial x_{2}\,\partial x_{n))}\\\\\vdots &\vdots &\ddots &\vdots \\\\{\frac {\partial ^{2}f}{\partial x_{n}\,\partial x_{1))}&{\frac {\partial ^{2} f}{\partial x_{n}\,\partial x_{2}}}&\cdots &{\frac {\partial ^{2}f}{\partial x_{n}^{2}}}\end {bmatrix}}

Determinanten för denna matris kallas den hessiska determinanten , eller helt enkelt den hessiska .

Hessiska matriser används i optimeringsproblem enligt Newtons metod . Den fullständiga beräkningen av den hessiska matrisen kan vara svår, så kvasi-newtonska algoritmer har utvecklats baserat på ungefärliga uttryck för den hessiska matrisen. Den mest kända av dem är Broyden-Fletcher-Goldfarb-Shanno-algoritmen .

Symmetri av den hessiska matrisen

De blandade derivatorna av funktionen f är de element i den hessiska matrisen som inte finns på huvuddiagonalen . Om de är kontinuerliga är differentieringsordningen inte viktig:

{\frac {\partial }{\partial x_{i))}\left({\frac {\partial f}{\partial x_{j))}\right)={\frac {\partial }{\partial x_{j))}\left({\frac {\partial f}{\partial x_{i))}\right)

Detta kan också skrivas som

f_{{x_{i}x_{j}}}=f_{{x_{j}x_{i}}},\quad \forall i,j\in \{1,\ldots ,n\}.

I det här fallet är den hessiska matrisen symmetrisk .

Kritiska punkter för en funktion

Om gradienten (dess vektorderivata ) är noll någon gång kallas denna punkt kritisk . Ett tillräckligt villkor för existensen av ett extremum vid denna punkt är teckendefiniiteten hos det hessiska f (förstått i detta fall som en kvadratisk form), nämligen: $f$ $x_{0}$

om hessian är positiv definitivt, är den lokala minimipunkten för funktionen , $x_{0}$ $f(x)$
om hessian är negativ definit, då är den lokala maxpunkten för funktionen , $x_{0}$ $f(x)$
om hessian inte är teckenbestämd (tar både positiva och negativa värden) och är icke-degenererad , då är funktionens sadelpunkt . $(\det H(f)\neq 0)$ $x_{0}$ $f(x)$

Variationer och generaliseringar

Vektor-funktioner

Om är en vektorfunktion , dvs. $f$

f=(f_{1},f_{2},\dots ,f_{n}),

sedan bildar dess andra partiella derivator inte en matris, utan en tensor av rang 3, som kan betraktas som en matris av hessiska matriser: $n$

H(f)=\left(H(f_{1}),\ldots ,H(f_{n})\right).

Vid urartar denna tensor till den vanliga hessiska matrisen. $n=1$

Banded Hessian

När man löser problemet med att hitta ett villkorligt extremum för en funktion med restriktioner $f:\mathbb {R} ^{n}\rightarrow \mathbb {R}$

\left\{{\begin{array}{c}g_{1}(x)=0,\\\vdots \\g_{m}(x)=0,\end{array}}\right .

där , , för att kontrollera tillräckliga förhållanden för ett extremum, kan man använda den så kallade kantade Hessian of the Lagrange-funktionen , som kommer att ha formen [2] $x \in \mathbb{R}^n$ $m<n$ $L(x,\lambda )$

\left({\begin{array}{cc}{\dfrac {\partial ^{2}L}{\partial x^{2))}&{\dfrac {\partial ^{2}L} {\partial x\partial \lambda }}\\\left({\dfrac {\partial ^{2}L}{\partial x\partial \lambda }}\right)^{\mathrm {T} }&{ \dfrac {\partial ^{2}L}{\partial \lambda ^{2))}\end{array}}\right)=\left({\begin{array}{cccccc}{\dfrac {\partial ^{2}L}{\partial x_{1}^{2))}&\ldots &{\dfrac {\partial ^{2}L}{\partial x_{1}\partial x_{n))} &{\dfrac {\partial g_{1}}{\partial x_{1}}}&\ldots &{\dfrac {\partial g_{m}}{\partial x_{1}}}\\\vdots & \ddots &\vdots &\vdots &\ddots &\vdots \\{\dfrac {\partial ^{2}L}{\partial x_{n}\partial x_{1))}&\ldots &{\dfrac {\partial ^{2}L}{\partial x_{n}^{2}}}&{\dfrac {\partial g_{1}}{\partial x_{n}}}&\ldots &{\dfrac {\partial g_{m)){\partial x_{n))}\\{\dfrac {\partial g_{1)){\partial x_{1))}&\ldots &{\dfrac {\partial g_ {1}}{\partial x_{n}}}&0&\ldots &0\\\vdots &\ddots &\vdots &\vdots &\ddots &\vdots \\{\dfrac {\partial g_{m}}{ \partial x_{1))}&\ldots &{\dfrac {\partial g_{m)){  \partial x_{n}}}&0&\ldots &0\end{array}}\right).

Verifieringen av tillräckliga extrema förhållanden består i att beräkna tecknen på bestämningsfaktorerna för en viss uppsättning submatriser av den gränsade Hessian. Nämligen om det finns sådana att och ${\displaystyle x^{*}\in \mathbb {R} ^{n))$ ${\displaystyle \lambda ^{*}\in \mathbb {R} ^{m))$ $\nabla L(x^{*},\lambda ^{*})=0$

(-1)^{m}{\mbox{det}}\left({\begin{array}{cccccc}{\dfrac {\partial ^{2}L}{\partial x_{1}^ {2}}}&\ldots &{\dfrac {\partial ^{2}L}{\partial x_{1}\partial x_{p}}}&{\dfrac {\partial g_{1}}{\ partiell x_{1))&\ldots &{\dfrac {\partial g_{m)){\partial x_{1))}\\\vdots &\ddots &\vdots &\vdots &\ddots &\vdots \ \{\dfrac {\partial ^{2}L}{\partial x_{p}\partial x_{1))}&\ldots &{\dfrac {\partial ^{2}L}{\partial x_{ p }^{2}}}&{\dfrac {\partial g_{1}}{\partial x_{p}}}&\ldots &{\dfrac {\partial g_{m}}{\partial x_{p ) )}\\{\dfrac {\partial g_{1}}{\partial x_{1}}}&\ldots &{\dfrac {\partial g_{1}}{\partial x_{p}}}&0& \ ldots &0\\\vdots &\ddots &\vdots &\vdots &\ddots &\vdots \\{\dfrac {\partial g_{m)){\partial x_{1))}&\ldots &{\ dfrac {\partial g_{m}}{\partial x_{p}}}&0&\ldots &0\end{array}}\right)>0

för , då har funktionen ett strikt villkorligt minimum vid punkten . Om $p=m+1,\ldots ,n$ $x^{*}$ $f$

(-1)^{p}{\mbox{det}}\left({\begin{array}{cccccc}{\dfrac {\partial ^{2}L}{\partial x_{1}^ {2}}}&\ldots &{\dfrac {\partial ^{2}L}{\partial x_{1}\partial x_{p}}}&{\dfrac {\partial g_{1}}{\ partiell x_{1))&\ldots &{\dfrac {\partial g_{m)){\partial x_{1))}\\\vdots &\ddots &\vdots &\vdots &\ddots &\vdots \ \{\dfrac {\partial ^{2}L}{\partial x_{p}\partial x_{1))}&\ldots &{\dfrac {\partial ^{2}L}{\partial x_{ p }^{2}}}&{\dfrac {\partial g_{1}}{\partial x_{p}}}&\ldots &{\dfrac {\partial g_{m}}{\partial x_{p ) )}\\{\dfrac {\partial g_{1}}{\partial x_{1}}}&\ldots &{\dfrac {\partial g_{1}}{\partial x_{p}}}&0& \ ldots &0\\\vdots &\ddots &\vdots &\vdots &\ddots &\vdots \\{\dfrac {\partial g_{m)){\partial x_{1))}&\ldots &{\ dfrac {\partial g_{m}}{\partial x_{p}}}&0&\ldots &0\end{array}}\right)>0

för , då har funktionen vid punkten ett strikt villkorligt maximum [3] . $p=m+1,\ldots ,n$ $x^{*}$ $f$

Historik

Konceptet introducerades av Ludwig Otto Hesse ( 1844 ), som använde ett annat namn. Termen "Hessian" myntades av James Joseph Sylvester .

Se även

Jacobian
Kritisk punkt (matematik)
Morse Lemma
Sylvesterkriteriet är ett kriterium för den positiva eller negativa definititeten hos en kvadratisk matris

Anteckningar

↑ Hessian . Hämtad 2 april 2016. Arkiverad från originalet 15 april 2016. (obestämd)
↑ Hallam, Arne Econ 500: Quantitative Methods in Economic Analysis I. Iowa State (7 oktober 2004). Hämtad 14 april 2021. Arkiverad från originalet 19 april 2021. (obestämd)
↑ Neudecker, Heinz. Matrisdifferentialkalkyl med tillämpningar i statistik och ekonometri / Heinz Neudecker, Jan R. Magnus. - New York: John Wiley & Sons , 1988. - S. 136. - ISBN 978-0-471-91516-4 .

Länkar

Kamynin L.I. Matematisk analys. T. 1, 2. - 2001.
Kudryavtsev L.D. "En kort kurs i matematisk analys. T.2. Differential- och integralkalkyl av funktioner för flera variabler. Harmonisk analys”, FIZMATLIT, 2002, 424 sid. — ISBN 5-9221-0185-4 . Eller någon annan utgåva.
Golubitsky M., Guillemin V. Stallkartläggningar och deras singulariteter, - M.: Mir, 1977.

Differentialkalkyl

Main

privata vyer

Differentialoperatorer
( i olika koordinater )

Första beställning	Nabla-operatör Lutning Divergens Rotor Helmholtzian
andra beställning	Elliptisk operatör Laplace-operatör Laplace vektor operatör D'Alembert operatör Laplace-Beltrami operatör
högre order	Hypoelliptisk operatör

Relaterade ämnen