文章目录

  • 引入
    • 选择的依据
    • 平均平方和误差
  • 代价函数的定义
  • 相关概念

线性回归有一个训练集,我们选择了线性回归,那么要如何选择合适的参量使得我们的预测更为准确呢??

引入

选择的依据

我们知道了现有的数据是准确的,那么预测就要以现有的数据为根基,尽量的贴合现有的数据,使得差距最小,怎么衡量这个差距呢???我们把∑i=1i=m(h(xi)−yi)2\sum_{i=1}^{i=m}(h(x^i)-y^i)^2i=1∑i=m​(h(xi)−yi)2

h(xi)h(x^i)h(xi)代表预测的第i个值,yiy^iyi代表实际的第i个值。
这个函数称为平方和误差函数,我们要想办法求得这个函数最小的θ0\theta_0θ0​和θ1\theta_1θ1​

平均平方和误差

为了方便,我们又给出了平均平方和误差的概念
我们把12m∑i=1i=m(h(xi)−yi)2\frac{1}{2m}\sum_{i=1}^{i=m}(h(x^i)-y^i)^22m1​i=1∑i=m​(h(xi)−yi)2称之为平均平方和误差,之所以是12m\frac{1}{2m}2m1​,是因为带了平方,后面要用梯度下降法,要求导,这样求导多出的乘2就和二分之一抵消了,一个简化后面计算的技巧

代价函数的定义

我们把J(θ0,θ1)=12m∑i=1i=m(h(xi)−yi)2J(\theta_0,\theta_1)=\frac{1}{2m}\sum_{i=1}^{i=m}(h(x^i)-y^i)^2J(θ0​,θ1​)=2m1​i=1∑i=m​(h(xi)−yi)2称之为代价函数,我们求得就是使这个值最小的θ0\theta_0θ0​和θ1\theta_1θ1​。

相关概念

  • 线性回归
    https://blog.csdn.net/xd15010130025/article/details/88703519

平方和误差函数--代价函数(机器学习)相关推荐

  1. 从曲线拟合谈平方和误差函数与最大似然的关系

    一.曲线拟合问题 给定 N 个输入样本  及其标记 ,对新的样本 ,给出其标记  的预测. 二.曲线拟合的平方和损失函数 平方和误差函数是一种广泛使用的误差函数,在曲线拟合问题中,其定义如下: 我们的 ...

  2. 5.1 代价函数-机器学习笔记-斯坦福吴恩达教授

    代价函数 在逻辑回归中,我们的预测函数为: hθ(x)=11+e−θTxh_θ(x)=\frac 1 {1+e^{−θ^Tx}}hθ​(x)=1+e−θTx1​ 代价函数为: cost=−ylog(h ...

  3. 差值平方和匹配_机器学习实战 | 简单目标识别与意图分析之模板匹配

    (点击上方快速关注并设置为星标,一起学Python) 一天,我正在学校楼下撸猫,同学发来消息,他的老师给了他一个研究课题,大致的方向是对图片或者视频里面的内容进行识别,然后判断意图,而且举了个例子,两 ...

  4. 吴恩达机器学习(一)单变量线性回归(假设函数、代价函数、梯度下降)

    目录 0. 前言 1. 假设函数(Hypothesis) 2. 代价函数(Cost Function) 3. 梯度下降(Gradient Descent) 学习完吴恩达老师机器学习课程的单变量线性回归 ...

  5. [机器学习笔记] Note2--单变量线性回归

    继续是机器学习课程的笔记,这节介绍的是单变量线性回归算法,线性回归算法也是一个比较基础的算法. 模型表达 首先是以房屋交易问题为例,假设我们回归问题的训练集如下表所示: Size in feet2fe ...

  6. 吴恩达机器学习课程笔记(英文授课) Lv.1 新手村(回归)

    目录 1-1机器学习的相关名词 1-2 什么是机器学习? 1.definition 定义 2.主要的机器学习算法的分类 1-3有监督学习及常用算法 1.定义 2.两种数据类型补充:categorica ...

  7. 机器学习(深度学习)中的反向传播算法与梯度下降

    这是自己在CSDN的第一篇博客,目的是为了给自己学习过的知识做一个总结,方便后续温习,避免每次都重复搜索相关文章. 一.反向传播算法 定义:反向传播(Backpropagation,缩写为BP)是&q ...

  8. 四、【机器学习作业】多元分类与神经网络(python版ex3)

    多元分类与神经网络 (一)多元分类问题 利用逻辑回归算法进行手写字符识别 (二)神经网络模型(初识) (1) 简单模型 vs 复杂模型 (2)介绍神经网络模型(前馈) (3)神经网络模型的建立 (4) ...

  9. 【图解例说机器学习】模型选择:偏差与方差 (Bias vs. Variance)

    目录 一个例子:多项式回归中的阶数选择 防止过拟合 增加训练数据 正则化 偏差与方差 理论推导 偏差与方差的折中关系 附录 机器学习的过程大致分为三步:1)模型假设,比如我们假设模型是线性回归,还是多 ...

  10. 吴恩达机器学习:神经网络学习和作业

    神经网络 (一)神经网络模型理解 1.1 模型 1.2 神经网络模型(前馈) 1.3 建立神经网络模型 1.4 多元分类 1.5 循环神经网络与对称连接网络 (二)神经网络模型实现 2.1 代价函数 ...

最新文章

  1. FPGA之道(74)Verilog生成语句
  2. 开发日记-20190426 关键词 无限分级界面
  3. Javascript、Jquery获取浏览器和屏幕各种高度宽度[mark]
  4. C语言-实现矩阵的转置-随机函数产生随机数并赋予数组中-190222
  5. SAP Cloud for Customer根据模型某字段进行OData的搜索操作
  6. 数据库连接串MSSQL、Oracle、Access
  7. layout布局_安卓最常见的几种布局
  8. 每天一个实用小技巧!教你在Mac上快速输入长文本
  9. 【无人机】物流行业迈入“无人”时代!全自动智能无人机投入运营,成本直降80%!...
  10. 人生苦短,喝点python性能鸡汤
  11. mysql基本命令总结
  12. 对一些稀奇古怪面试题的理解
  13. 计算机四级题类型,全国计算机四级网路工程师考试题目分为几大类型,各多少分?...
  14. 基于XSSFWorkbook 实现POI设置指定列为文本格式
  15. python学习笔记6--双色球需求实现
  16. 苹果手机能有软件测试硬件是否给更换过,爱思助手等第三方软件检测靠谱吗?果粉必须了解!...
  17. Arduino使用水银开关
  18. 深入了解开源智能家居平台,解决品牌割裂的终极利器?
  19. pycharm代码自动添加时间及日期
  20. 信息学奥赛一本通试题 1014:与圆相关的计算

热门文章

  1. 高效能人士的七个习惯
  2. 大数据SQL中的Join【谓词下推】讲解
  3. 如何获取mac虚拟机激活码 一步学会
  4. 主成分分析逆变换_主成分分析方法操作
  5. 文学-诗词-词人:词人
  6. php龙之战争游戏搭建教程,龙之战争1.02正式版下载
  7. html表单制作选择,html表单(html表单制作及实例)
  8. 某公司的雇员分为以下若干类
  9. 墨珩科技 | 密码行业标准制定的参与者
  10. 中南大学湘雅医院冯嵩:业财融合一体化信息平台的建设