2022-02-13 机器学习基本概念

2024-06-09 11:07:37

Basic Concept

1、Bias（偏移量）和Variance（方差）：

Bias： 所有点的平均值f*与目标值f的距离。（较复杂的Model Bias较小，但数据训练时可能会出现overfitting情况）
Variance： 所有点的散落程度，越小说明点越聚集，越大越发散。（简单的Model Variance较小，因为简单的Model幂次小，不太受数据波动的影响）

Overfitting：Model的error（误差）来自于variance太大。
Underfitting：Model的error（误差）来自于bias太大。

Regularization（正则化）：很多不同情况中同一个例子组成的函数图像可能会比较杂乱，因为每个情况的不定因素有很多，这时候可以用Regularization的方法使曲线变平滑些。

2、N-fold Cross Validation（N次交叉验证）

上图解释：
① 将Training Set分成三份，两份为Train Set，一份为Validation Set，这样随机分配三次不同的Train Set和Validation Set。
② 计算每一个Model在每一次（即每一行）Train和Val训练后的Error值。
③ 计算Model在三次Error的平均值，取Avg Err最小的Model 1。
④ 最后用总Train Set （即Train+Train+Val的总Set）作为Model 1的训练数据，用public Testing Set进行测试，或者也可以用private Testing Set进行测试。

2022-02-13 机器学习基本概念相关推荐

P5706 【深基2.例8】再分肥宅水--2022.02.13
[深基2.例8]再分肥宅水 - 洛谷 C++代码: /* P5706 [深基2.例8]再分肥宅水--2022.02.13 https://www.luogu.com.cn/problem/P5706 ...
算法学习入门书籍 -- 2022.02.13
1.我的第一本算法书(2018年11月) 2.啊哈!算法(C语言版) 3.啊哈!算法(大字版)-2021.04 -- C语言 4.哇,编程!--跟小明一起学算法(2020.05) -- C++语言 5 ...
《安富莱嵌入式周报》第252期：2022.02.07--2022.02.13
往期周报汇总地址:嵌入式周报 - uCOS & uCGUI & emWin & embOS & TouchGFX & ThreadX - 硬汉嵌入式论坛 - P ...
《安富莱嵌入式周报》第254期：2022.02.21--2022.02.27
往期周报汇总地址:嵌入式周报 - uCOS & uCGUI & emWin & embOS & TouchGFX & ThreadX - 硬汉嵌入式论坛 - P ...
【机器学习】机器学习基本概念/术语
序言记录机器学习基本概念,不做详细解释,常识积累.长期更新- # 监督学习监督学习:数据有label,主要是分类和回归两种方法监督学习的任务是学习一个模型,对输入做一个好的预测 # 无监督学习 ...
【机器学习】机器学习基本概念术语
序言记录机器学习基本概念,不做详细解释,常识积累.长期更新- # 监督学习监督学习:数据有label,主要是分类和回归两种方法监督学习的任务是学习一个模型,对输入做一个好的预测 # 无监督学习 ...
洛谷深基第1部分语言入门第4章循环结构程序设计（2022.02.14）
P5718 [深基4.例2]找最小值 [深基4.例2]找最小值 - 洛谷 P5718 [深基4.例2]找最小值(python3实现)-2022.02.01 P5718 [深基4.例2]找最小值(pyt ...
机器学习核心概念、常用术语整理（建议收藏）
[转]机器学习核心概念完全解析(建议收藏) 原文链接:https://mp.weixin.qq.com/s/wEpmF1gdvsIimnvXrxKdRw AI干货知识库刚接触机器学习框架 Tenso ...
机器学习基本概念知识汇
目录目录背景机器学习基本概念机器学习方法监督学习无监督学习半监督式学习强化学习机器学习中分类与聚类的本质区别分类聚类分类与聚类的比较机器学习算法分类回归算法基于实例的算 ...
机器学习笔记（一）numpy的使用、机器学习基础概念
目录 1.numpy 1.1.创建 numpy.array 1.1.1.常规创建 numpy.array 的方法 1.1.2.其他创建 numpy.array 的方法 1.1.2.其他创建随机数 ra ...

最新文章

热门文章