用最小二乘法来拟合数据

2024-05-12 10:47:59

标签（空格分隔）：机器学习

最小二乘法是一种常用的数学优化技术。它通过最小化误差的平方和来求取目标函数的最优值，以解决线性回归问题。这是百度百科给出的解释，那么这个拟合的数据从字面上理解，其实就是预测结果。我们可以将它应用到各行各业，比如销售数据、工厂生产量、比赛结果、地面区域面积估算等预测，总能找到数据之间映射关系。

以下是来自某个项目实验的真实数据

现在使用最小二乘法来求出线性回归的参数，具体做法如下：

首先计算平均值

ax = sum(x) / 4;ay = sum(y) / 4;

向量x = [1.1,1.9,3.1,3.9] , 向量y = [0.1,0.2,0.3,0.4]

向量点乘运算

xy = (x .* y) / 4

其中 .* 是点乘操作，向量x与向量y的点乘

xx = (x .* x) / 4

向量的点乘,也叫向量的内积、数量积，对两个向量执行点乘运算，就是对这两个向量对应位一一相乘之后求和的操作，点乘的结果是一个标量。

计算k斜率

k = (xy-ax*ay)/(xx-ax^2)

计算b截距

b = ay - k*ax

以上实验数据通过最小二乘法的计算就可得到线性回归参数和目标函数

线性回归参数

目标函数

y=9.6x+0.1

真实数据与实验数据的比较

数据量比较小的情况下，拟合出来的目标函数还不够准确，可以看到真实y与拟合y之间的数据是存在微小的误差。如果历史数据足够多，那么拟合出来的目标函数是比较稳定的。
最小二乘法适合求解单变量线性回归问题，如果存在多个变量（特征）时，就不能使用最小二乘法来解决回归参数的问题，需要借助梯度下降和正规方程等方法。
由于时间紧迫，本文的算法和实验并不完美，还有很多值得改进的地方。

用最小二乘法来拟合数据相关推荐

MATLAB与最小二乘法拟合数据
1.前言:学习并记录的原因最小二乘法是一种数学优化技术,它通过最小化误差的平方和寻找数据的最佳函数匹配. 最小平方差法在误差估计.不确定度.系统辨识及预测.预报等数据处理诸多学科领域得到广泛应用的数 ...
多项式使用最小二乘法拟合数据
最小二乘法将所有的点利用初始得到的多项式的值和实际值的差的平方做和,这就是所谓的误差函数,而我们所要做的就是使该误差函数取得它的极小值. E=∑(f(xi)−yi)2E=\sum(f(x_i)-y_ ...
最小二乘法线性拟合及其代码实现（C语言）
文章目录前言一.最小二乘法二.代码实现(C语言) 三.缺陷与不足 1. 对异常值很敏感 2. 没有考虑自变量的误差 3. 存在不可求解的情况总结参考前言最小二乘法是最常用的数据拟合方法. ...
最小二乘法函数拟合原理及matlab实现—数学笔记
最小二乘法函数拟合原理及matlab实现 --数值分析数学笔记如有纰漏,欢迎指正文章目录最小二乘法函数拟合原理及matlab实现前言一.拟合标准 1.使偏差向量满足 1 1 1 - 范数 2 ...
最小二乘法的拟合原理
一. 最小二乘法的拟合原理根据<数学指南>书中的解释: 图2 <数学指南>中对最小二乘法的解释上面这段话,枯燥且无趣,大家不用厌恶,数学向来这个样子. 现在,我们来慢慢认识 ...
R语言ggplot2可视化散点图、可视化两个数值变量之间的关系、使用geom_smooth函数基于loess方法拟合数据点之间的趋势关系曲线、自定义数据点的大小、色彩、添加主标题、副标题、题注信息
R语言ggplot2可视化散点图.可视化两个数值变量之间的关系(Scatter plot).使用geom_smooth函数基于loess方法拟合数据点之间的趋势关系曲线.自定义数据点的大小.色彩.添加 ...
R语言ggplot2可视化散点图（scatter plot）、并在可视化图像的顶部和右边添加边缘直方图（Marginal Histogram）、使用geom_smooth函数基于lm方法拟合数据点之间
R语言ggplot2可视化散点图(scatter plot).并在可视化图像的顶部和右边添加边缘直方图(Marginal Histogram).使用geom_smooth函数基于lm方法拟合数据点之间 ...
R语言ggplot2可视化散点图、并使用geom_encircle函数自定义多边形圈定可视化图像中的指定区域、使用geom_smooth函数基于loess方法拟合数据点之间的趋势关系曲线
R语言ggplot2可视化散点图.并使用geom_encircle函数自定义多边形圈定可视化图像中的指定区域(Scatterplot With Encircling).使用geom_smooth函数基 ...
Python拟合数据样本的分布
安装fitter pip install fitter 生成一段模拟数据 from scipy import stats import numpy as np # N(0,2)+N(0,10) dat ...

最新文章

热门文章