Die Methode der kleinsten Quadrate
Motivation
- Die Methode der kleinsten Quadrate dient dazu, überbestimmte
Gleichungssysteme so zu lösen, dass der mittlere quadratische
Fehler minimal wird.
- Der wichtigste Anwendungsfall ist es,
Formeln optimal zu parametrisieren, die den Zusammenhang
zweier Größen beschreiben. Dies geschieht aufgrund von Messungen.
- Es liegen in der Regel mehr (Fehler behaftete)
Messungen vor, als es Parameter zu bestimmen gibt.
- Das einfachste Beispiel ist ein Spezialfall der
Kleinsten Quadrate Methode, nämlich die Lineare Regression,
mit der eine Gerade optimal in die Punktewolke von Messungen gelegt wird.
- Hier ist der Formelzusammenhang y = c0 + c1*x und
während die Paare x und y durch Messungen vorgegeben sind,
sollen die Parameter c0 und c1 optimal bestimmt werden.
- Um das Prinip zu verstehen soll an dieser Stelle eine
Herleitung der Linearen Regression, wie sie sich auf diesem
Portal bei Informatik1 am Ende des Kapitels 8.2 befindet ausreichen.
|
Anwendungsfälle
- Gemessen werden bei den folgenden Beispielformeln also
jeweils x und das zugehörige y.
- Die Parameter ci müssen in jedem Fall als Linearkoeffizienten
vor den einzelnen von x abhägigen Termen stehen, damit
die Methode anwendbar ist.
- Sind die Koeffizienten c0 bis cn gesucht, so sollten
in jedem Fall n+1, besser aber ein Vielfaches an Messungen vorliegen,
damit die Methode anwendbar ist.
- Im folgenden sind willkürliche Formeln dargestellt,
für die die Methode anwendbar wäre. Stets ist y die von
x abhängige Größe und ci die gesuchten Linear-Koeffizienten:
|
Bild 0-1: Beispielgleichungen, deren Koeffizienten ci mit Hilfe der kleinsten Quadrate Methode aus Messungen bestimmt werden könnten.