Normalengleichung < Lin. Gleich.-systeme < Numerik < Hochschule < Mathe < Vorhilfe
|
| Status: |
(Frage) überfällig  | | Datum: | 16:19 Do 08.02.2007 | | Autor: | Musele |
| Aufgabe | 1. Was ist die geometrische Veranschaulichung der Normalengleichung?
2. Wie kommt man von den Gaußschen Fehlerquadraten zur Normalengleichung?
3. Warum ist die Normalengleichung nicht gut geeignet? |
1. Da hab ich irgendwie gar keine Ahnung. Vielleicht weil man von der Ausgleichsgerade ausgeht und der Abstand der einzelnen Punkte so am geringesten ist? (Aber warum?)
2. Ich hab hier folgendes stehen:
[mm] \parallel [/mm] b-Ax [mm] \parallel^2=(b-AX)^T(b-Ax)=x^TA^TAX-2x^TA^Tb+b^Tb
[/mm]
Wie es weitergeht ist mir klar, aber ich habe keine Ahnung wie man solche Gleichungen mit transponierten auflöst.
3.Hier hab ich stehen wegen: Aufwand, Auslöschung und schlechter Kondition
Die ersten zwei sind mir klar, aber warum wird die Kondition so schlecht? Wie rechnet man das aus?
Vielen herzlichen Dank!
Ich habe diese Frage in keinem Forum auf anderen Internetseiten gestellt.
|
|
| |
|
| Status: |
(Antwort) fertig  | | Datum: | 16:58 Do 08.02.2007 | | Autor: | Riley |
Hi Musele,
zu 2.) sieht schon mal gut aus was du bis jetzt da stehen hast:
F(x) = [mm] \| [/mm] Ax - [mm] b\|_2^2 [/mm] = [mm] x^T A^T [/mm] Ax - 2 [mm] x^T A^T [/mm] b + [mm] b^T [/mm] b
wenn diese Funktion nun ein Minimum haben soll, muss ja notwendigerweise gelten, dass der Gradient [mm] \nabla [/mm] F(x) = 0.
D.h. [mm] \nabla [/mm] F(x) = 2 [mm] A^T [/mm] A x - 2 [mm] A^T [/mm] b = 0, also genau dann wenn [mm] A^T [/mm] Ax = [mm] A^T [/mm] b.
hinreichende Bedingung ist, dass die Hessematrix positiv definit ist:
[mm] \nabla^2F(x) [/mm] = 2 [mm] A^T [/mm] A
betrachte: [mm] x^T A^T [/mm] A x = [mm] \|Ax\|_2^2>0.
[/mm]
3.) der Lösungsweg über die Normalgleichung ist einfach nicht gut, wenn die Matrix A schlecht konditioniert ist, weil ja dann [mm] A^T [/mm] A noch schlechter konditioniert ist!
viele grüße
riley
|
|
|
| |
|
| Status: |
(Frage) beantwortet  | | Datum: | 14:12 Sa 10.02.2007 | | Autor: | Musele |
Danke für die Antwort!
Ich hab wohl nur meine Frage missverständlich geschrieben. Das mit dem Gradient und so ist mir klar, ich hab wohl nur Probleme mit Matrizenrechnen...
[mm] \parallel b-Ax\parallel^2=(b-AX)^T(b-Ax)=x^TA^TAX-2x^TA^Tb+b^Tb [/mm]
Wenn ich das rechne komme ich auf:
[mm] (b-AX)^T(b-Ax)=b^Tb -x^TA^Tb-Axb^T+x^TA^TAX
[/mm]
Und wie man das dann mit den Matrizen ableitet ist mir auch nicht wirklich klar.
Wie komme ich von x^TA^TAX auf abgeleitet: 2A^TAx ?
Danke!
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 02:14 So 11.02.2007 | | Autor: | Riley |
Hi Musele,
es ist
[mm] \|b-Ax|_2^2
[/mm]
= [mm] (b-Ax)^T [/mm] (b-Ax)
= [mm] (b^T -(Ax)^T [/mm] )(b-Ax) (T in Summe reinziehen)
= [mm] (b^T x^T A^T [/mm] )(b-Ax) (beim Transponieren dreht sich Produkt um)
[mm] =b^T b-b^T Ax-x^T A^T [/mm] b + [mm] x^T A^T [/mm] A x (ganz "normal" ausmultipl. wie du es gemacht hast)
= b^Tb - 2 [mm] x^T A^T [/mm] b + [mm] x^T A^T [/mm] A x, da das Tranponierte einer Zahl, wieder die Zahl selbst ist, also [mm] Zahl^T [/mm] = Zahl.
d.h. [mm] b^T [/mm] A x= [mm] (b^T [/mm] A x [mm] )^T [/mm] = [mm] x^T A^T [/mm] b
Für die Ableitungen lies dir am besten mal diesen Thread durch, da hat mir das Mathemaduenn erklärt.
Bei uns im Tut hieß es es nur "das hier gilt halt":
[mm] \nabla(x^T [/mm] A b) = Ab
[mm] \nabla (x^T [/mm] A x) = 2Ax
[mm] \nabla [/mm] (a [mm] x^T [/mm] x) = 2ax
kannst dir ja mal ein bsp dazu aufschreiben und ausmultiplizieren...
viele grüße
riley
|
|
|
| |
|
| Status: |
(Mitteilung) Reaktion unnötig  | | Datum: | 16:20 Fr 16.02.2007 | | Autor: | matux |
$MATUXTEXT(ueberfaellige_frage)
|
|
|
|
