平方和误差函数--代价函数(机器学习)
文章目录
- 引入
- 选择的依据
- 平均平方和误差
- 代价函数的定义
- 相关概念
线性回归有一个训练集,我们选择了线性回归,那么要如何选择合适的参量使得我们的预测更为准确呢??
引入
选择的依据
我们知道了现有的数据是准确的,那么预测就要以现有的数据为根基,尽量的贴合现有的数据,使得差距最小,怎么衡量这个差距呢???我们把∑i=1i=m(h(xi)−yi)2\sum_{i=1}^{i=m}(h(x^i)-y^i)^2i=1∑i=m(h(xi)−yi)2
h(xi)h(x^i)h(xi)代表预测的第i个值,yiy^iyi代表实际的第i个值。
这个函数称为平方和误差函数,我们要想办法求得这个函数最小的θ0\theta_0θ0和θ1\theta_1θ1
平均平方和误差
为了方便,我们又给出了平均平方和误差的概念
我们把12m∑i=1i=m(h(xi)−yi)2\frac{1}{2m}\sum_{i=1}^{i=m}(h(x^i)-y^i)^22m1i=1∑i=m(h(xi)−yi)2称之为平均平方和误差,之所以是12m\frac{1}{2m}2m1,是因为带了平方,后面要用梯度下降法,要求导,这样求导多出的乘2就和二分之一抵消了,一个简化后面计算的技巧
代价函数的定义
我们把J(θ0,θ1)=12m∑i=1i=m(h(xi)−yi)2J(\theta_0,\theta_1)=\frac{1}{2m}\sum_{i=1}^{i=m}(h(x^i)-y^i)^2J(θ0,θ1)=2m1i=1∑i=m(h(xi)−yi)2称之为代价函数,我们求得就是使这个值最小的θ0\theta_0θ0和θ1\theta_1θ1。
相关概念
- 线性回归
https://blog.csdn.net/xd15010130025/article/details/88703519
平方和误差函数--代价函数(机器学习)相关推荐
- 从曲线拟合谈平方和误差函数与最大似然的关系
一.曲线拟合问题 给定 N 个输入样本 及其标记 ,对新的样本 ,给出其标记 的预测. 二.曲线拟合的平方和损失函数 平方和误差函数是一种广泛使用的误差函数,在曲线拟合问题中,其定义如下: 我们的 ...
- 5.1 代价函数-机器学习笔记-斯坦福吴恩达教授
代价函数 在逻辑回归中,我们的预测函数为: hθ(x)=11+e−θTxh_θ(x)=\frac 1 {1+e^{−θ^Tx}}hθ(x)=1+e−θTx1 代价函数为: cost=−ylog(h ...
- 差值平方和匹配_机器学习实战 | 简单目标识别与意图分析之模板匹配
(点击上方快速关注并设置为星标,一起学Python) 一天,我正在学校楼下撸猫,同学发来消息,他的老师给了他一个研究课题,大致的方向是对图片或者视频里面的内容进行识别,然后判断意图,而且举了个例子,两 ...
- 吴恩达机器学习(一)单变量线性回归(假设函数、代价函数、梯度下降)
目录 0. 前言 1. 假设函数(Hypothesis) 2. 代价函数(Cost Function) 3. 梯度下降(Gradient Descent) 学习完吴恩达老师机器学习课程的单变量线性回归 ...
- [机器学习笔记] Note2--单变量线性回归
继续是机器学习课程的笔记,这节介绍的是单变量线性回归算法,线性回归算法也是一个比较基础的算法. 模型表达 首先是以房屋交易问题为例,假设我们回归问题的训练集如下表所示: Size in feet2fe ...
- 吴恩达机器学习课程笔记(英文授课) Lv.1 新手村(回归)
目录 1-1机器学习的相关名词 1-2 什么是机器学习? 1.definition 定义 2.主要的机器学习算法的分类 1-3有监督学习及常用算法 1.定义 2.两种数据类型补充:categorica ...
- 机器学习(深度学习)中的反向传播算法与梯度下降
这是自己在CSDN的第一篇博客,目的是为了给自己学习过的知识做一个总结,方便后续温习,避免每次都重复搜索相关文章. 一.反向传播算法 定义:反向传播(Backpropagation,缩写为BP)是&q ...
- 四、【机器学习作业】多元分类与神经网络(python版ex3)
多元分类与神经网络 (一)多元分类问题 利用逻辑回归算法进行手写字符识别 (二)神经网络模型(初识) (1) 简单模型 vs 复杂模型 (2)介绍神经网络模型(前馈) (3)神经网络模型的建立 (4) ...
- 【图解例说机器学习】模型选择:偏差与方差 (Bias vs. Variance)
目录 一个例子:多项式回归中的阶数选择 防止过拟合 增加训练数据 正则化 偏差与方差 理论推导 偏差与方差的折中关系 附录 机器学习的过程大致分为三步:1)模型假设,比如我们假设模型是线性回归,还是多 ...
- 吴恩达机器学习:神经网络学习和作业
神经网络 (一)神经网络模型理解 1.1 模型 1.2 神经网络模型(前馈) 1.3 建立神经网络模型 1.4 多元分类 1.5 循环神经网络与对称连接网络 (二)神经网络模型实现 2.1 代价函数 ...
最新文章
- FPGA之道(74)Verilog生成语句
- 开发日记-20190426 关键词 无限分级界面
- Javascript、Jquery获取浏览器和屏幕各种高度宽度[mark]
- C语言-实现矩阵的转置-随机函数产生随机数并赋予数组中-190222
- SAP Cloud for Customer根据模型某字段进行OData的搜索操作
- 数据库连接串MSSQL、Oracle、Access
- layout布局_安卓最常见的几种布局
- 每天一个实用小技巧!教你在Mac上快速输入长文本
- 【无人机】物流行业迈入“无人”时代!全自动智能无人机投入运营,成本直降80%!...
- 人生苦短,喝点python性能鸡汤
- mysql基本命令总结
- 对一些稀奇古怪面试题的理解
- 计算机四级题类型,全国计算机四级网路工程师考试题目分为几大类型,各多少分?...
- 基于XSSFWorkbook 实现POI设置指定列为文本格式
- python学习笔记6--双色球需求实现
- 苹果手机能有软件测试硬件是否给更换过,爱思助手等第三方软件检测靠谱吗?果粉必须了解!...
- Arduino使用水银开关
- 深入了解开源智能家居平台,解决品牌割裂的终极利器?
- pycharm代码自动添加时间及日期
- 信息学奥赛一本通试题 1014:与圆相关的计算