Lecture 016 :: Minsta kvadratmetoden.

Lecture :: Minsta kvadratmetoden
sammanfattning

Minsta kvadratmetoden handlar om att söka approximativ lösning till ett inkonsistent system. Det hela går ut på att söka den vektor i systemmatrisens kolonnrum som ligger närmast systemets högerledvektor. Denna vektor är högerledsvektorn ortogonala projektion ned till kolonnrummet. Eftersom vi inte antar att kolonnrummet har en ortogonal bas så ger beräkningsmetoderna i denna föreläsning en metod för att beräkna projektioner till ON-baslösa delrum. Minsta kvadratmetoden visar hur vi ställer upp en s.k. normalekvation. Principen för härledningen går ut på att skillnadsvektorn mellan projektionen och högerledsvektorn är vinkelrät mot kolonnrummet. Vi erbjuder två stycken typiska exempel. Den första är Linjär regression som innebär anpassning av rät linje till mätdata. Den andra är anpassning av en ellips till ett antal punkter i planet.

Innehåll:
Läsanvisningar::
Avsnitt i Kursboken
kapitlen 6.5-6.6
Extra material:
Om minsta kvadratmetoden

Minsta kvadratmetoden är ett sätt att hitta bästa approximativa lösningar till inkonsistenta linjära ekvationssystem. Principen grundar sig på ortogonal projektion men här krävs inte ortogonala baser.

För att hitta minstakvadratlösning till ett inhomogent ekvationssystem

så ställer man upp den så kallade normalekvationen:

där \(A^T\) är transponatet till \(A\).

Om \(A\)'s kolonner är linjärt oberoende så har denna normalekvation en unik lösning

Det är denna lösning som är den så kallade minsta kvadratlösningen.


Video :: Härledning av minsta kvadratmetoden, del 1.
Video :: Härledning av minsta kvadratmetoden, del 2.
Exempel: Linjär regression

Givet ett antal mätpunkter \(p_i=(x_i,y_i)\) som, om det inte vore för mätosäkerhet, förväntas ligga på en rät linje \(m+kx=y\). Mätosäkerheterna gör att det inte finns någon rät linje som går genom alla punkterna. Linjär regression går ut på att hitta en rät linje som ligger så nära så många som möjligt av punkterna.


Varje punkt \(p_i\) ger upphov till en ekvation \(m+x_ik=y_i\) i parametrarna \(m\) och \(k\) och vi får ett system som vi kan lösa med minsta kvadratmetoden.

Video :: Minsta kvadratanpassning av linje till mätpunkter
Exempel: anpassning av ellips till punkter

Givet ett antal punkter \(p_i=(x_i,y_i)\), \(i=1,\dots, n\), hitta en ellips på formen

som bäst anpassar sig till de givna punkterna.

Här ger varje punkt en ekvation i parametrarna \(a\) och \(b\). Tillsammans ger punkterna ett inkonsistent ekvationssystem i \(a\) och \(b\) som vi kan lösa i minsta kvadratmening.

Video :: Minsta kvadratanpassning till ellips.