||       對於方程組Ax=b，A為n×m矩陣，如果A列滿秩，且n>m。則方程組沒有精確解，此時稱方程組為超定方程組。

線性超定方程組經常遇到的問題是數 據的曲線擬合。對於超定方程，在MATLAB中，利用左除命令(x=A\b)來尋求它的最小二乘解。

最小二乘法(又稱最小平方法)是一種數學優化技術。它通過最小化誤差的平方和尋找數據的最佳函數匹配。利用最小二乘法可以簡便地求得未知的數據，並使得這些求得的數據與實際數據之間誤差的平方和為最小。最小二乘法還可用於曲線擬合。其他一些優化問題也可通過最小化能量或最大化熵用最小二乘法來表達

原理

在我們研究兩個變量(x,y)之間的相互關系時，通常可以得到一系列成對的數據(x1,y1.x2,y2... xm,ym)；將這些數據描繪在x -y直角坐標系中，若發現這些點在一條直線附近，可以令這條直線方程如(式1-1)。

其中：a0、a1 是任意實數

為建立這直線方程就要確定a0和a1，應用《最小二乘法原理》，將實測值Yi與利用(式1-1)計算值(Yj=a0+a1X)的離差(Yi-Yj)的平方和最小為“優化判據”。

令：φ =(式1-2)

把(式1-1)代入(式1-2)中得：

φ =(式1-3)

當最小時，可用函數 φ 對a0、a1求偏導數，令這兩個偏導數等於零。

∑(a0 + a1*Xi - Yi)(式1-4)

∑Xi(a0 + a1*Xi - Yi)(式1-5)

亦即：

na0 + (∑Xi ) a1 = ∑Yi (式1-6)

(∑Xi ) a0 + (∑Xi^2 ) a1 = ∑(Xi*Yi) (式1-7)

得到的兩個關於a0、 a1為未知數的兩個方程組，解這兩個方程組得出：

a0 = (∑Yi) / n - a1(∑Xi) / n (式1-8)

a1 = [n∑Xi Yi - (∑Xi ∑Yi)] / [n∑Xi2 - (∑Xi)2 )] (式1-9)

這時把a0、a1代入(式1-1)中， 此時的(式1-1)就是我們回歸的元線性方程即：數學模型。

在回歸過程中，回歸的關聯式不可能全部通過每個回歸數據點(x1,y1. x2,y2...xm,ym)，為了判斷關聯式的好壞，可借助相關系數“R”，統計量“F”，剩余標准偏差“S”進行判斷；“R”越趨近於 1 越好；“F”的絕對值越大越好；“S”越趨近於 0 越好。

R = [∑XiYi - m (∑Xi / m)(∑Yi / m)]/ SQR{[∑Xi2 - m (∑Xi / m)2][∑Yi2 - m (∑Yi / m)2]} (式1-10) *

在(式1-10)中，m為樣本容量，即實驗次數；Xi、Yi分別為任意一組實驗數據X、Y的數值。

擬合

對給定數據點{(Xi，Yi)}(i=0,1，…，m)，在取定的函數類Φ 中，求p(x)∈Φ，使誤差的平方和E^2最小，E^2=∑[p(Xi)-Yi]^2。從幾何意義上講，就是尋求與給定點 {(Xi，Yi)}(i=0,1，…，m)的距離平方和為最小的曲線y=p(x)。函數p(x)稱為擬合函數或最小二乘解，求擬合函數p(x)的方法稱為曲線擬合的最小二乘法。

用MATLAB命令

可解得。

最小二乘法的Matlab實現

① 一次函數線性擬合使用polyfit(x,y,1)

②多項式函數線性擬合使用 polyfit(x,y,n)，n為次數

擬合曲線

x=[0.5,1.0,1.5,2.0,2.5,3.0]，

y=[1.75,2.45,3.81,4.80,7.00,8.60]。

解：MATLAB程序如下：

x=[0.5,1.0,1.5,2.0,2.5,3.0];

y=[1.75,2.45,3.81,4.80,7.00,8.60];

p=polyfit(x,y,2)

x1=0.5:0.5:3.0;

y1=polyval(p,x1);

plot(x,y,'*r',x1,y1,'-b')

計算結果為：

p =0.5614 0.8287 1.1560

即所得多項式為y=0.5614x^2+0.8287x+1.15560

lsqcurvefit(fun,x0,x,y)

a=nlinfit(x,y,fun,b0)

最小二乘法在交通運輸學中的運用

交通發生預測的目的是建立分區產生的交通量與分區土地利用、社會經濟特征等變量之間的定量關系，推算規划年各分區所產生的交通量。因為一次出行有兩個端點，所以我們要分別分析一個區生成的交通和吸引的交通。交通發生預測通常有兩種方法：回歸分析法和聚類分析法。

回歸分析法是根據對因變量與一個或多個自變量的統計分析，建立因變量和自變量的關系，最簡單的情況就是一元回歸分析，一般式為：Y=α+βX式中Y是因變量，X是自變量，α和β是回歸系數。若用上述公式預測小區的交通生成，則以下標 i 標記所有變量；如果用它研究分區交通吸引，則以下標 j 標記所有變量。而運用公式的過程中需要利用最小二乘法來求解，上述公式中的回歸系數根據最小二乘法可得：

其中，式中的X拔是規划年的自變量值，Y拔是規划年分區交通生成(或吸引)預測值。