机器学习算法的基础知识

  • 1、评估指标
  • 2、偏差与方差(过拟合与欠拟合)
  • 3、正则化(解决过拟合)
  • 4、梯度下降算法(算法优化方式)
  • 5、数据不平衡

1、评估指标

预测值
0 1
实际 0 TN FP
1 FN TP
  • accuracy=TN+TPTN+TP+FP+FNaccuracy = \frac{TN+TP}{TN+TP+FP+FN}accuracy=TN+TP+FP+FNTN+TP​
  • precision=TPTP+FPprecision= \frac{TP}{TP+FP}precision=TP+FPTP​
  • recall=TPTP+FNrecall= \frac{TP}{TP+FN}recall=TP+FNTP​
  • F1=2∗(pre+rec)pre+recF1= \frac{2*(pre+rec)}{pre+rec}F1=pre+rec2∗(pre+rec)​
  • ROC曲线:X轴:FPR=FPFP+TN;Y轴:TPR=TPTP+FNX轴:FPR=\frac{FP}{FP+TN};Y轴:TPR=\frac{TP}{TP+FN}X轴:FPR=FP+TNFP​;Y轴:TPR=TP+FNTP​

2、偏差与方差(过拟合与欠拟合)

Error=Bias+VarianceError=Bias+VarianceError=Bias+Variance

  • ErrorErrorError:整个模型的准确度
  • BiasBiasBias:模型在样本上的输出与真实值之间的误差(即模型本身的精度)
  • VarianceVarianceVariance:每次输出结果与模型输出期望之间的误差(即模型的稳定性)

3、正则化(解决过拟合)

  • L1正则化产生稀疏特征
  • L2产生更多特征但都会接近于0

4、梯度下降算法(算法优化方式)

5、数据不平衡

机器学习算法的基础知识相关推荐

  1. 机器学习需要哪些基础知识?

    机器学习需要一些基础知识,包括以下几个方面: 机器学习需要哪些基础知识? 数学基础:机器学习涉及到很多数学知识,如线性代数.微积分.概率论和统计学等.这些数学知识是理解和应用机器学习算法的基础. 编程 ...

  2. Interview:人工智能岗位面试—人工智能岗位求职之机器学习算法工程师必备知识框架结构图

    Interview:人工智能岗位面试-人工智能岗位求职之机器学习算法工程师必备知识框架结构图 目录 机器学习算法工程师思维导图 机器学习算法工程师思维导图 后期继续更新-- 1.思维导图01

  3. 笔记|李沐-动手学习机器学习|CNN基础知识(视频19-23)

    李沐-动手学习机器学习|CNN基础知识 卷积层(视频19) 从全连接到卷积(卷积算子) 进行图像识别的两个原则 如何从全连接层出发,应用以上两个原则,得到卷积 卷积层 二维交叉相关 二维卷积层 交叉相 ...

  4. 【机器学习基础】机器学习算法中分类知识总结!

    译者:张峰,Datawhale成员 本文将介绍机器学习算法中非常重要的知识-分类(classification),即找一个函数判断输入数据所属的类别,可以是二类别问题(是/不是),也可以是多类别问题( ...

  5. Python机器学习引言与基础知识储备

    第一部分 机器学习入门 机器学习入门 第一部分 机器学习入门 1.1 为什么选择机器学习 1.1.1 机器学习能够解决的问题 1.1.2 熟悉任务和数据 1.2 为什么选择Python 1.3 sci ...

  6. 菜鸟学算法一基础知识篇

    菜鸟学算法<一>知识准备篇 刚刚上任,急着给兄弟们一点见面礼,嘿嘿 前言:论坛上有关算法分析的文章不少,也不少精品 但对于刚学CARACK来说,只是叹为观止 原因如下: 1.论坛高手如云, ...

  7. 机器学习算法_机器学习算法中分类知识总结!

    ↑↑↑关注后"星标"Datawhale每日干货 & 每月组队学习,不错过Datawhale干货 译者:张峰,Datawhale成员 本文将介绍机器学习算法中非常重要的知识- ...

  8. 数据结构基础:算法的基础知识笔记

    1.算法的概念 算法是问题求解过程中的精确描述,它为解决某一特定类型的问题规定了一个运算过程. 2.算法的特点 2.1 有穷性 一个算法必须在有穷的步骤结束后结束,并且每一步都在有穷时间内完成. 2. ...

  9. 正确率能很好的评估分类算法吗_机器学习算法:分类知识超全总结!

    关注上方"Python数据科学",选择星标,关键时间,第一时间送达! ☞500g+超全学习资源免费领取  Datawhale,译者:张峰本文将介绍机器学习算法中非常重要的知识-分类 ...

最新文章

  1. 商务部强势回应 欧盟裁定高额税率方法不合理
  2. NAT双出口的热备份
  3. 绘制简单的正太分布图
  4. 【BLE】蓝牙模块V1.0
  5. nginx A/B 灰色发布
  6. n阶完全图边和顶点关系。_正N边型的完全图被分割成几个多边形
  7. android调试是出现:Re-installation failed due to different application signatures
  8. 前端学习(1959)vue之电商管理系统电商系统之通过路由加载分类参数
  9. Asterisk AGI脚本
  10. vue中标签自定义属性的使用
  11. JavaScript Ajax与Comet——“其他跨域技术”的注意要点
  12. 云服务器上划虚拟主机,云服务器上划虚拟主机
  13. for(;;)和while(true)的区别
  14. Aop RealProxy 千年遇BUG
  15. idea 查看jsp是否被引用_idea 查看jsp是否被引用_IntelliJ IDEA解析JSP中的Web路径
  16. 软件测试基础 ——— 测试分析
  17. 解决fatal: unable to connect to github.com
  18. 惠普战66二代 amd 处理器耳机插入后没声音的问题解决
  19. HTML学生个人网站作业设计:动漫网站设计——斗破苍穹动漫(6页) HTML+CSS+JavaScript 简单DIV布局个人介绍网页模板代码 DW学生个人网站制作成品下载
  20. Android系统分析——Bootloader(Lk)

热门文章

  1. leetcode--133. 克隆图
  2. [leetcode]541.反转字符串||
  3. 回调java 简书_web3j函数回调使用详解
  4. Mysql数据库函数(数字,字符串,日期时间)
  5. jupter中没有显示conda中的环境
  6. Docker Compose编排(写法格式及实验)
  7. 如何构建GFS分布式存储平台?理论+实操!
  8. c语言创建学生成绩表,C语言创建信息链表,求助
  9. 进入工程制图闪退_工程整体一
  10. RT-Thread FinSH控制台添加自定义msh命令原理