Das Kefk Network Wiki befindet sich im Testbetrieb.

---

Aus Kefk.

Das Verfahren des steilsten Abstiegs oder einfach Gradientenverfahren genannt, ist ein Verfahren, das (typischerweise in der Numerik) eingesetzt wird, um nichtlineare Optimierungsprobleme ohne Nebenbedingungen zu lösen.

Ausgehend von einem Anfangspunkt x₀ wird die Richtung des steilsten Abstiegs bestimmt durch: ,

wobei den Nabla-Operator, also den Gradienten, bezeichnet.

Es wird dann wie folgt iteriert:

α_j bezeichnet die Schrittweite des Verfahrens und wird i.A. nach dem Cauchy-Prinzip bestimmt.

Unter geeigneten Voraussetzungen konvergiert das Verfahren gegen einen Wert X, so dass f(X) minimal ist.

Der Gradientenabstieg ist dem Bergsteigeralgorithmus (hill climbing) verwandt. Das Verfahren konvergiert allerdings oftmals sehr langsam, da es sich dem Optimum entweder mit einem starken Zick-Zack-Kurs nähert oder der Betrag des Gradienten in der Nähe des Optimums sehr klein ist, wodurch die Länge der Iterationsschritte dann ebenfalls sehr klein ist. Für die Lösung von linearen Gleichungssystemen bietet das CG-Verfahren hier eine immense Verbesserung.

Dieses Dokument entstammt in seiner ersten oder einer späteren Version der deutschsprachigen Wikipedia. Es ist dort zu finden unter dem Stichwort Gradientenabstiegsverfahren, die Liste der bisherigen Autoren befindet sich in der Versionsliste; die Originalfassung kann dort auch bearbeitet werden. Alle Texte der Wikipedia und ihre Derivate stehen unter der GNU-Lizenz für freie Dokumentation.