最小二乘法的计算过程

过程1 ：求偏导联立方程的过程

{∂F∂b=2∑i=1n(axi+b−yi)=0(1)∂F∂a=2∑i=1n(axi+b−yi)∗xi=0(2)\left\{ \begin{array}{l} \frac{\partial{F}}{\partial{b}}=2\sum_{i=1}^{n}\left(ax_i+b-y_i\right)=0& \left(1\right)\\ \frac{\partial{F}}{\partial{a}}=2\sum_{i=1}^{n}\left(ax_i+b-y_i\right)*x_i=0& \left(2\right) \end{array}\right.{∂b∂F=2∑i=1n(axi+b−yi)=0∂a∂F=2∑i=1n(axi+b−yi)∗xi=0(1)(2)
具体过程如下：
第一步：
{a∑i=1nxi+bn−∑i=1nyi=0(3)a∑i=1nxi2+b∑i=1nx−∑i=1nxiyi=0(4)\left\{ \begin{array}{l} a\sum_{i=1}^{n}x_i+bn-\sum_{i=1}^{n}y_i=0& \left(3\right)\\ a\sum_{i=1}^{n}x_i^2+b\sum_{i=1}^{n}x-\sum_{i=1}^{n}x_iy_i=0& \left(4\right) \end{array}\right.{a∑i=1nxi+bn−∑i=1nyi=0a∑i=1nxi2+b∑i=1nx−∑i=1nxiyi=0(3)(4)
第二步：
{a∑i=1nxi=∑i=1nyi−bn(5)a∑i=1nxi2=∑i=1nxiyi−b∑i=1nx(6)\left\{ \begin{array}{l} a\sum_{i=1}^{n}x_i=\sum_{i=1}^{n}y_i-bn& \left(5\right)\\ a\sum_{i=1}^{n}x_i^2=\sum_{i=1}^{n}x_iy_i-b\sum_{i=1}^{n}x& \left(6\right) \end{array}\right.{a∑i=1nxi=∑i=1nyi−bna∑i=1nxi2=∑i=1nxiyi−b∑i=1nx(5)(6)
第三步,(5)\left(5\right)(5)式除以(6)\left(6\right)(6)式：
∑i=1nxi∑i=1nxi2=∑i=1nyi−bn∑i=1nxiyi−b∑i=1nxi(7)\frac{\sum_{i=1}^{n}x_i}{\sum_{i=1}^{n}x_i^2}=\frac{\sum_{i=1}^{n}y_i-bn}{\sum_{i=1}^{n}x_iy_i-b\sum_{i=1}^{n}x_i}\left(7\right)∑i=1nxi2∑i=1nxi=∑i=1nxiyi−b∑i=1nxi∑i=1nyi−bn(7)
第四步，交叉相乘后化简：
∑i=1nxi∑i=1nxiyi−b(∑i=1nxi)2=∑i=1nxi2∑i=1nyi−bn∑i=1nxi2(8)\sum_{i=1}^{n}x_i\sum_{i=1}^{n}x_iy_i-b\left(\sum_{i=1}^{n}x_i\right)^2=\sum_{i=1}^{n}x_i^2\sum_{i=1}^{n}y_i-bn\sum_{i=1}^{n}x_i^2\left(8\right)i=1∑nxii=1∑nxiyi−b(i=1∑nxi)2=i=1∑nxi2i=1∑nyi−bni=1∑nxi2(8)
第五步，提取b然后相除：
b[(∑i=1nxi)2−n∑i=1nxi2]=∑i=1nxi∑i=1nxiyi−∑i=1nxi2∑i=1nyi(9)b\left[\left(\sum_{i=1}^{n}x_i\right)^2-n\sum_{i=1}^{n}x_i^2\right]=\sum_{i=1}^{n}x_i\sum_{i=1}^{n}x_iy_i-\sum_{i=1}^{n}x_i^2\sum_{i=1}^{n}y_i\left(9\right)b⎣⎡(i=1∑nxi)2−ni=1∑nxi2⎦⎤=i=1∑nxii=1∑nxiyi−i=1∑nxi2i=1∑nyi(9)
b=∑i=1nxi∑i=1nxiyi−∑i=1nxi2∑i=1nyi(∑i=1nxi)2−n∑i=1nxi2(10)b=\frac{\sum_{i=1}^{n}x_i\sum_{i=1}^{n}x_iy_i-\sum_{i=1}^{n}x_i^2\sum_{i=1}^{n}y_i}{\left(\sum_{i=1}^{n}x_i\right)^2-n\sum_{i=1}^{n}x_i^2}\left(10\right) b=(∑i=1nxi)2−n∑i=1nxi2∑i=1nxi∑i=1nxiyi−∑i=1nxi2∑i=1nyi(10)
第六步，把bbb的结果带入(5)\left(5\right)(5)式：
a∑i=1nxi=∑i=1nyi−∑i=1nxi∑i=1nxiyi−∑i=1nxi2∑i=1nyi(∑i=1nxi)2−n∑i=1nxi2∗n(11)a\sum_{i=1}^{n}x_i =\sum_{i=1}^{n}y_i-\frac{\sum_{i=1}^{n}x_i\sum_{i=1}^{n}x_iy_i-\sum_{i=1}^{n}x_i^2\sum_{i=1}^{n}y_i}{\left(\sum_{i=1}^{n}x_i\right)^2-n\sum_{i=1}^{n}x_i^2}*n\left(11\right) ai=1∑nxi=i=1∑nyi−(∑i=1nxi)2−n∑i=1nxi2∑i=1nxi∑i=1nxiyi−∑i=1nxi2∑i=1nyi∗n(11)
a∑i=1nxi=(∑i=1nxi)2∑i=1nyi−n∑i=1nxi2∑i=1nyi(∑i=1nxi)2−n∑i=1nxi2−∑i=1nxi∑i=1nxiyi−∑i=1nxi2∑i=1nyi(∑i=1nxi)2−n∑i=1nxi2∗n(12)a\sum_{i=1}^{n}x_i =\frac{\left(\sum_{i=1}^{n}x_i\right)^2\sum_{i=1}^{n}y_i-n\sum_{i=1}^{n}x_i^2\sum_{i=1}^{n}y_i}{\left(\sum_{i=1}^{n}x_i\right)^2-n\sum_{i=1}^{n}x_i^2}-\frac{\sum_{i=1}^{n}x_i\sum_{i=1}^{n}x_iy_i-\sum_{i=1}^{n}x_i^2\sum_{i=1}^{n}y_i}{\left(\sum_{i=1}^{n}x_i\right)^2-n\sum_{i=1}^{n}x_i^2}*n\left(12\right) ai=1∑nxi=(∑i=1nxi)2−n∑i=1nxi2(∑i=1nxi)2∑i=1nyi−n∑i=1nxi2∑i=1nyi−(∑i=1nxi)2−n∑i=1nxi2∑i=1nxi∑i=1nxiyi−∑i=1nxi2∑i=1nyi∗n(12)
a=∑i=1nxi∑i=1nyi−n∑i=1nxiyi(∑i=1nxi)2−n∑i=1nxi2(13)a=\frac{\sum_{i=1}^{n}x_i\sum_{i=1}^{n}y_i-n\sum_{i=1}^{n}x_iy_i}{\left(\sum_{i=1}^{n}x_i\right)^2-n\sum_{i=1}^{n}x_i^2}\left(13\right) a=(∑i=1nxi)2−n∑i=1nxi2∑i=1nxi∑i=1nyi−n∑i=1nxiyi(13)
综上所有结果：
{a=∑i=1nxi∑i=1nyi−n∑i=1nxiyi(∑i=1nxi)2−n∑i=1nxi2(14)b=∑i=1nxi∑i=1nxiyi−∑i=1nxi2∑i=1nyi(∑i=1nxi)2−n∑i=1nxi2(15)\left\{ \begin{array}{l} a=\frac{\sum_{i=1}^{n}x_i\sum_{i=1}^{n}y_i-n\sum_{i=1}^{n}x_iy_i}{\left(\sum_{i=1}^{n}x_i\right)^2-n\sum_{i=1}^{n}x_i^2}&\left(14\right)\\\\ b=\frac{\sum_{i=1}^{n}x_i\sum_{i=1}^{n}x_iy_i-\sum_{i=1}^{n}x_i^2\sum_{i=1}^{n}y_i}{\left(\sum_{i=1}^{n}x_i\right)^2-n\sum_{i=1}^{n}x_i^2}&\left(15\right) \end{array}\right.⎩⎪⎪⎨⎪⎪⎧a=(∑i=1nxi)2−n∑i=1nxi2∑i=1nxi∑i=1nyi−n∑i=1nxiyib=(∑i=1nxi)2−n∑i=1nxi2∑i=1nxi∑i=1nxiyi−∑i=1nxi2∑i=1nyi(14)(15)
特殊情况没有进行考虑，大致计算过程如上所示。

过程2 ：证明

同时：
A=∂F∂2a=2∑i=1nxi2≥0A=\frac{\partial{F}}{\partial^2{a}}=2\sum_{i=1}^{n}x_i^2\geq0A=∂2a∂F=2i=1∑nxi2≥0
当且仅当x1=x2=x3=⋯=xn=0x_1=x_2=x_3=\dots=x_n=0x1=x2=x3=⋯=xn=0时，等号成立。
则有：
{A>0AC−B2>0\left\{ \begin{array}{l} A>0\\ AC-B^2>0 \end{array}\right.{A>0AC−B2>0
可得方程(1),(2)\left(1\right),\left(2\right)(1),(2)的解是函数F(a,b)F(a,b)F(a,b)的极小值。
【其中取等于情况算作特殊情况，最后没有进行考虑】