mysql 李天生_笔记：《零基础搞定机器学习及深度学习（覃秉丰）》
引自：《零基础搞定机器学习及机器学习》(网易云课堂 - 覃秉丰)
线性回归
回归分析最典型的例子就是“房价预测”。
代价函数
相关系数
决定系数
y为真实值，加 - 表示均值，加 ^ 表示预测值。
梯度下降法
用梯度下降法求解线性回归
对代价函数J(θ)的求偏导，并利用梯度下降法更新权值，不断迭代……
多元线性回归
模型方程，以及代价函数：
运用梯度下降法(求偏导，迭代更新权值)：
多项式回归
标准方程法
例如：以下为多元房价特征，进行房价预测：
这里，将多个特征作为方程的因变量(多元特征向量)，对w求导时就涉及到向量的导数：
对比梯度下降法与标准方程法
其他概念
数据归一化
均值标准化
交叉验证法
适用于数据较少时对特征的训练
过拟合
正则化(Regularized)
用于防止过拟合
岭回归(Ridge Regression)
代价函数，采用L2正则化：
LESSO
逻辑回归
Sigmoid/Logistic Function
决策边界
逻辑回归的代价函数
利用梯度下降法求解代价函数的最小值：
多分类问题
逻辑回归的正则化
正确率和召回率
正确率与召回率的指标
KNN
决策树
熵
ID3算法
C4.5算法
CART算法
剪枝：预剪枝、后剪枝
决策树的评价(适用领域)
有点：小规模数据集有效
缺点：
处理连续变量不好
类别较多时，错误增加的比较快
不能处理大量数据
集成学习
Bagging
首先，进行一种有放回的抽样~
每个数据集，都采用一种不同的学习算法(或者同一个算法，得到不同的模型)
效果如下：
随机森林
boosting(Adaptive Boosting，自适应增强)
学习器的重点放在“容易”出错的地方——增加出错数据的概率(样本采样的权值)。
Stacking
使用多个不同的分类器对训练集进行预测，把预测得到的结果作为次级分类器的输入。次级分类器的输出则是整个模型的最终预测结果。
集成学习的总结
——人多力量大、集众家之言，以民主的方式决定正确的预测结果。
贝叶斯分析
朴素贝叶斯
多特征时的概率计算，会导致计算量巨大……
朴素贝叶斯算法，会假设特征X1, X2, X3...之间是相互独立的，则
贝叶斯多项式模型
伯努利模型
混合模型
高斯模型
常用于处理连续性变量。
大脑中的贝叶斯
聚类算法
无监督式学习——
K-MEANS
G：归类
C：计算重心，然后调整中心点
mysql 李天生_笔记：《零基础搞定机器学习及深度学习（覃秉丰）》相关推荐
- 【零基础搞定C语言——导航汇总篇】
声明:C语言初阶和进阶全部笔记已更新结束,初阶部分适合零基础同学阅读,进阶部分是建立在初阶基础之上的深入.由于作者水平有限,本文难免有错误和不准确之处,本人也很想知道这些错误,恳望读者批评指正,大家一 ...
- 300张小抄表搞定机器学习知识点：学习根本停不下来！
入坑数据科学和人工智能的同学都知道,机器学习是一个集合了计算机.统计学和数学知识的交叉领域,除了日常练习,也需要很多枯燥的记忆和理解.单纯读书不容易串联概念,又容易忘记. 可能你和我一样,读了无数遍& ...
- 【机器学习基础】获取机器学习和深度学习的练习数据
0.导语 初学者学习机器学习和深度学习的时候,经常会找不到练习的数据,本文提供了获取数据的一些方法. 一.scikit-learn自带数据集 Scikit-learn内置了很多可以用于机器学习的数据, ...
- 手把手教程：零基础使用MATLAB完成基于深度学习U-Net模型的遥感影像分类
背景: 很多初入深度学习的学生都会遇到各种环境配置问题,环境搭建不好模型就跑不了,所以这是限制新手的一大难点,MATLAB具有成熟的运行环境,无需配置,这点对于想跑通一个深度学习模型的新手是非常有利的 ...
- 深度学习数据集制作_一篇文章搞定人工智能之深度学习创建训练数据集的方法
基础数据准备 训练所需要的数据集合都存储在数据库中,还有部分文本文件 首先对数据进行分类结构化存储[因为涉及到的是多分类问题] 整理并存储原始数据集 使用numpy将所有需要数据读取出来 splitl ...
- 三分钟搞懂机器学习和深度学习的区别
深度学习是机器学习算法的子类,其特殊性是有更高的复杂度.因此,深度学习属于机器学习,但它们绝对不是相反的概念.我们将浅层学习称为不是深层的那些机器学习技术. 让我们开始将它们放到我们的世界中: 这种高 ...
- 学习笔记(19):零基础搞定Python数据分析与挖掘-常用的正则符号（二）
立即学习:https://edu.csdn.net/course/play/6861/335840?utm_source=blogtoedu 英文状态中中括号[] 指代字符集合,当需要特定的字符串匹配 ...
- mysql 李天生_超级菜鸟怎么学习数据分析？
一:选择分析领域 由于自己对数据的浓厚兴趣以及本硕数学专业的学习,我开始接触数据分析.互联网金融是一个有趣而且有挑战的领域,并且之前有学习一些金融方向的知识,因此决定着手金融行业的数据分析,在查阅了相 ...
- c语言 10 -n次方,【零基础搞定C语言——10】
前言:本期的主要内容是C语言中的操作符. 算数操作符 对于除号而言想要打印小数?如何做? 1.输出为1 int a = 6 / 5; printf("%d\\n", a); 2.输 ...
最新文章
- Brocade NOS学习笔记（第一章——第三章）
- Java中的硬件事务性内存，或者为什么同步将再次变得很棒
- 为什么不能在子类的初始化列表里初始化父类的成员
- java做爬虫和python做爬虫_为什么常用Python，Java做爬虫，而不是C#C++等?
- 程序员面试金典——1.8反转子串
- 这可能是最全的 Redis 集群方案介绍了
- SharePoint开发中上传Excel问题 无法更新Microsoft Office文档
- android连接airprint打印机,AirPrint:iOS的打印机
- 容器技术Docker K8s 30 容器服务ACK基础与进阶-弹性伸缩
- UReport2导出报错
- AdventureWorks范例数据库
- DCDC和LDO原理和关键技术（学习笔记1-buck电路）
- 图像质量评价数据库与常见评价算法总结
- 小米路由器 内核 linux,小米路由器配置ssh登入方法教程
- 使用Python将PDF转换为WORD
- percona的安装、启动、停止
- Tomcat的安装与启动
- android高仿京东秒杀,Android仿京东首页秒杀倒计时
- 什么是OID(全局对象标识符)
- 生气后有太多的负面情绪怎么办？5个好方法帮你来排解！