¨Ubungsaufgaben Organisatorisches
Transcription
¨Ubungsaufgaben Organisatorisches
K. Eppler, Inst. f. Num. Mathematik [email protected] Übungsaufgaben 11. Übung SS 15: Woche vom 29. 6. - 3. 7. 2015 Heft Ü 2: 17.2, 17.3, 17.6 a), c), e), 17.7 a) -c), 17.9 a), b), 17.11 b), c) Organisatorisches - Klausurvorbereitung bei Dr. Herrich: Ab 11.6.: Jeden Donnerstag, WIL C 307, 16.40 - 18-10 Uhr (6.DS) K. Eppler, Inst. f. Num. Mathematik [email protected] Supremum/Infimum einer Funktion f : Rn → R Die Zahl M heißt Supremum der Funktion f , wenn M die kleinste obere Schranke von f ist, d.h. wenn f (x) ≤ M für alle x ∈ D und es eine Folge (xk ) ⊂ D gibt mit lim f (xk ) = M . Das Supremum von f wird bezeichnet durch k→∞ sup f (x). x∈D Die Zahl m heißt Infimum der Funktion f , wenn m die größte untere Schranke von f ist, d.h. wenn f (x) ≥ m für alle x ∈ D und es eine Folge (xk ) ⊂ D gibt mit lim f (xk ) = m. Das Infimum von k→∞ f wird bezeichnet durch inf f (x). x∈D K. Eppler, Inst. f. Num. Mathematik [email protected] Maximum/Minimum einer Funktion f : Rn → R Die Zahl M heißt Maximum der Funktion f , wenn f (x) ≤ M für alle x ∈ D und wenn es ein xM ∈ D gibt mit f (xM ) = M =: max f (x). x∈D Die Zahl m heißt Minimum der Funktion f , wenn f (x) ≥ m für alle x ∈ D und wenn es ein xm ∈ D gibt mit f (xm ) = m =: min f (x). x∈D K. Eppler, Inst. f. Num. Mathematik [email protected] Existenz von Supremum und Infimum Falls f nach oben beschränkt ist, d.h. wenn M ∈ R existiert, so dass f (x) ≤ M für alle x ∈ D, so existiert sup f (x) in R, andernfalls gilt sup f (x) = +∞. x∈D x∈D Falls f nach unten beschränkt ist, d.h. wenn m ∈ R existiert, so dass f (x) ≥ m für alle x ∈ D, so existiert inf f (x) in R, andernfalls gilt inf f (x) = −∞. x∈D x∈D K. Eppler, Inst. f. Num. Mathematik [email protected] Existenz von Maximum und Minimum Satz 5.2 (Satz von Weierstraß): Sei D ⊂ Rn eine kompakte Menge und f : D → R stetig. Dann existieren Maximum und Minimum der Funktion f (f nimmt auf D Maximum und Minimum an) K. Eppler, Inst. f. Num. Mathematik [email protected] Extremwertaufgaben ohne Nebenbedingungen auch: Unrestringierte Optimierungsaufgaben f (x) → min Lokale oder relative Extrema Def. 5.33: Es sei f : D → R und x∗ ∈ D. Falls es eine Umgebung U ⊂ D von x∗ gibt mit f (x∗ ) ≤ f (x) für alle x ∈ U, so heißt x∗ lokale Lösung (oder lokale Minimumstelle) der Optimierungsaufgabe f (x) → min . f (x∗ ) wird dann als lokales oder relatives Minimum bezeichnet. K. Eppler, Inst. f. Num. Mathematik [email protected] Lokale oder relative Maxima Die Begriffe lokale Lösung, lokale Maximumstelle, bzw. lokales oder relatives Maximum werden analog für die Optimierungsaufgabe f (x) → max definiert. Dann muss f (x∗ ) ≥ f (x) für alle x in einer Umgebung U von x∗ gelten. K. Eppler, Inst. f. Num. Mathematik [email protected] Notwendige Optimalitätsbedingung Satz 5.11: Seien D ⊆ Rn offen und f : D → R partiell differenzierbar. Ist x∗ ∈ D eine lokale Extremstelle (d.h. Minimumstelle oder Maximumstelle) von f , dann gilt ∇f (x∗ ) = 0, d.h. sämtliche partiellen Ableitungen von f verschwinden in x∗ . Jeder Punkt x∗ mit ∇f (x∗ ) = 0 heißt stationärer Punkt von f . K. Eppler, Inst. f. Num. Mathematik [email protected] Hinreichende Optimalitätsbedingung Satz 5.12: Sei D ⊆ Rn offen, f : D → R zweimal stetig partiell differenzierbar und ∇f (x∗ ) = 0. Dann ist x∗ eine (isolierte) • lokale Minimumstelle von f , falls ∇2 f (x∗ ) positiv definit ist, d.h. falls h> ∇2 f (x∗ )h > 0 für alle h ∈ Rn \ {0}, • lokale Maximumstelle von f , falls ∇2 f (x∗ ) negativ definit ist, d.h. falls h> ∇2 f (x∗ )h < 0 für alle h ∈ Rn \ {0}. K. Eppler, Inst. f. Num. Mathematik [email protected] Positive/negative Definitheit von Matrizen Eine symmetrische Matrix A ∈ Rn×n ist genau dann • positiv definit, wenn alle ihre Eigenwerte positiv sind, • negativ definit, wenn alle ihre Eigenwerte negativ sind. Im Fall n = 2 ist A := a b b c genau dann • positiv definit, wenn detA = ac − b2 > 0 und a > 0 • negativ definit, wenn detA = ac − b2 > 0 und a < 0 K. Eppler, Inst. f. Num. Mathematik [email protected] Globale Lösungen Sei D ⊆ Rn offen und f : D → R. Dann heißt x∗ ∈ D globale Lösung (oder globale Minimumstelle) der Optimierungsaufgabe f (x) → min, wenn f (x∗ ) ≤ f (x) für alle x ∈ D. Sei D ⊆ Rn offen und konvex und f : D → R konvex. Dann ist jeder stationäre Punkt von f eine globale Lösung der Optimierungsaufgabe f (x) → min . Ist f zweimal stetig partiell differenzierbar, so ist f genau dann konvex, wenn ∇2 f (x) für jedes x ∈ D positiv semidefinit ist. K. Eppler, Inst. f. Num. Mathematik [email protected] Sattelpunkte Sei D ⊆ Rn offen, f : D → R zweimal stetig partiell differenzierbar und ∇f (x∗ ) = 0. Falls ∇2 f (x∗ ) positive und negative Eigenwerte besitzt, so wird x∗ Sattelpunkt der Funktion f genannt. K. Eppler, Inst. f. Num. Mathematik [email protected] Illustration Sattelpunkte + + -- 2 Niveaulinien der Funktion f : R → R mit f (x, y) := Abbildung 5.22: Sattelpunkt bei (x, y) := (0, 0) x2 a2 − y2 b2 K. Eppler, Inst. f. Num. Mathematik [email protected] Numerische Optimierung: Gradientenverfahren Aufgabe: f (x) → min bei x ∈ Rn mit f ∈ C 1 (Rn ). S0 Wähle x0 ∈ Rn , k = 0. S1 Setze dk := −∇f (xk )/|∇f (xk )| (bzw. = −∇f (xk )). S2 Bestimme die Schrittweite s̄ aus mins∈R+ f (x0 + sdk ). S3 Setze xk+1 := xk + s̄dk , Abbruchtest (|∇f (xk+1 | < ε) ⇒ Nein: k := k + 1, GOTO S1. Bemerkung: dk ist die (lokale) Richtung des steilsten Abstieges“, ” d.h., Lösung der Richtungssuchaufgabe: min f 0 (xk ; d). kdk=1 K. Eppler, Inst. f. Num. Mathematik [email protected] Extemwertaufgaben mit Nebenbedingungen auch: Restringierte Optimierungsaufgaben f (x) → min bei x∈G wobei f : Rn → R und G ⊂ Rn gegeben sind. Minimalforderungen“: f glatt“ (f ∈ C 2 ), ” ” G abgeschlossen, zusammenhängend (evtl. beschränkt) K. Eppler, Inst. f. Num. Mathematik [email protected] Globales/Lokales (restringiertes) Optimum Ein Punkt x∗ ∈ G heißt globale Lösung (globale Minimumstelle) der Optimierungsaufgabe f (x) → min bei x ∈ G, wenn f (x∗ ) ≤ f (x) für alle x ∈ G. Ein Punkt x∗ ∈ G heißt lokale Lösung (lokale Minimumstelle) der Optimierungsaufgabe f (x) → min bei x ∈ G, wenn eine Umgebung U von x∗ existiert, so dass f (x∗ ) ≤ f (x) für alle x ∈ G ∩ U. K. Eppler, Inst. f. Num. Mathematik [email protected] Beschreibung des zulässigen Bereiches G Gegeben seien (2x-stetig differenzierbare) Funktionen g : Rn → Rm und h : Rn → Rp Ungleichungsrestriktionen G := {x ∈ Rn | g(x) ≤ 0} Gleichungsrestriktionen G := {x ∈ Rn | h(x) = 0} Ungleichungs- und Gleichungsrestriktionen G := {x ∈ Rn | g(x) ≤ 0, h(x) = 0} K. Eppler, Inst. f. Num. Mathematik [email protected] Lagrange Funktion Seien f : Rn → R, g : Rn → Rm und h : Rn → Rp gegeben. Dann heißt die Funktion L : Rn × Rm × Rp → R mit L(x, u, v) := f (x) + u> g(x) + v> h(x) Lagrange Funktion zur Optimierungsaufgabe f (x) → min bei g(x) ≤ 0, h(x) = 0. Mit ∇x L(x, u, v) := ∇f (x) + ∇g(x)u + ∇h(x)v wird der Gradient der Lagrange Funktion bzgl. x bezeichnet. K. Eppler, Inst. f. Num. Mathematik [email protected] Notwendige Optimalitätsbedingung (Gleichungen) Die Funktionen f : Rn → R und h : Rn → Rp seien stetig differenzierbar. Weiter sei x∗ eine lokale Lösung der Aufgabe f (x) → min bei h(x) = 0. (∗) Wenn p < n und die Jacobi-Matrix h0 (x∗ ) Vollrang besitzt, dann existiert ein Vektor v∗ = (v1∗ , . . . , vp∗ )> , so dass ∇ L(x∗ , v∗ ) = 0, x (∗∗) h(x∗ ) = 0. Der Vektor v∗ (bzw. seine Elemente) heißen Lagrange Multiplikator(en) und x∗ stationärer Punkt. Die Bedingungen (∗∗) werden als Lagrangesche Multiplikatorregel oder Karush-Kuh-Tucker Bedingungen zu (∗) bezeichnet. K. Eppler, Inst. f. Num. Mathematik [email protected] Buch, Kapitel 5: Abbildung 5.24 Graph der Funktion f und seine Einschränkung auf die zulässige Menge y2 x2 2 f (x, y) := x y, g(x, y) := 4 + 9 − 1 = 0 K. Eppler, Inst. f. Num. Mathematik [email protected] Buch, Kapitel 5: Abbildung 5.25 Ö Ö Ö Ö Ö Ö Ö Gradienten von f und g Ö Extremwerte von f unter Nebenbedingung g(x, y) = 0 K. Eppler, Inst. f. Num. Mathematik [email protected] Buch, Kapitel 5: Abbildung 5.26 Extremwerte von f (x, y) := x2 + 3y 2 − 4 unter der Nebenbedingung x2 − y − 2 = 0