监督学习-线性回归(linear regression)

回归分析:分析不同变量之间存在的关系。

回归模型:刻画不同变量之间关系的模型,如果这个模型是线性的,则称为线性回归模型

在现实生活中,往往需要分析若干变量之间的关系,如碳排放量与气候变暖之间的关系、某一商品广告投入量与该商品销售量之间的关系等。一旦确定了回归模型,就可以进行预测等分析工作,如从碳排放量预测气候变化程度、从广告投入量预测商品销售等。

为什么叫线性回归?

由英国著名生物学家兼 统计学家高尔顿 Sir Francis Galton提出的

父母平均身高每增加一个单位, 其成年子女平均 身高只增加0.516个单位,它反映了这种“衰退 (regression)”效应(“回归”到正常人平均身高)。 虽然?和y之间并不总是具有“衰退”(回归)关 系,但是“线性回归”这一名称就保留了下来了。

如何求取上述线性方程(预测方程)的参数?

我们学习线性回归方程中的目的就是通过训练求得方程的参数,从而推得方程的一般形式用来预测以后的数据。

线性回归模型例子:

下表给出了莫纳罗亚山(夏威夷岛的活火山)从1970年到2005年每5年的二氧化 碳浓度,单位是百万分比浓度 (Parts Per Million,ppm)。

将上表数据代入回归模型 :? = ?? + b

求取:最佳回归模型是最小化残差平方和的均值,即要求8组(?, ?)数据得到的残差平均值最小。残差平均值最小只与参数?和?有关,最优解即是使得残差最小所对应的?和?的值

回归模型参数求取:

记在当前参数下第?个训练样本的预测值为

的标注值(实际值)与预测值之差记为

训练集中?个样本所产生误差总和为:

目标:寻找一组?和?,使得误差总和?(?, ?)值最小。在线性回归中,解决如此目标的方法叫最小二乘法。 一般而言,要使函数具有最小值,可对?(?, ?) 参数?和?分别求导,令其导数值为零,再求取参数?和?的取值。

人工智能-统计机器学习-线性回归相关推荐

  1. 面试必备!卖萌屋算法工程师思维导图—统计机器学习篇

    卖萌屋的妹子们(划掉)作者团整理的算法工程师思维导图,求职/自我提升/查漏补缺神器.该手册一共分为数据结构与算法.数学基础.统计机器学习和深度学习四个部分. 下面是第二部分统计机器学习的内容~ 公众号 ...

  2. 揭秘人工智能、机器学习和深度学习的神秘面纱

    1 题记 AI.机器学习.监督学习.无监督学习.分类.决策树.聚类.深度学习和算法.深度学习.机器学习,人工智能--这些时下流行语代表着对未来技术的分析. 在这篇文章中,我们将通过现实世界中成熟的例子 ...

  3. 人工智能,机器学习,深度学习入门好文,强烈推荐

    让我们从机器学习谈起 导读:在本篇文章中,将对机器学习做个概要的介绍.本文的目的是能让即便完全不了解机器学习的人也能了解机器学习,并且上手相关的实践.当然,本文也面对一般读者,不会对阅读有相关的前提要 ...

  4. 认识:人工智能AI 机器学习 ML 深度学习DL

    人工智能 人工智能(Artificial Intelligence),英文缩写为AI.它是研究.开发用于模拟.延伸和扩展人的智能的理论.方法.技术及应用系统的一门新的技术科学. 人工智能是对人的意识. ...

  5. 人工智能,机器学习与深度学习,到底是什么关系

    一.人工智能 人工智能(Artificial Intelligence),英文缩写为AI.它是研究.开发用于模拟.延伸和扩展人的智能的理论.方法.技术及应用系统的一门新的技术科学. 人工智能是计算机科 ...

  6. 人工智能、机器学习、深度学习从入门到进阶学习资料整理

    最近整理了下在这里分享给大家,欢迎大家点赞收藏. 学习社区 神力AI(MANA):国内最大的AI代码平台. Learn AI:一个AI学习交流中心. AI研习社:一个专注于AI开发者和学术青年求知求职 ...

  7. 人工智能、机器学习、深度学习学习资料整理(开发必备)

    最近整理了下AI方面的学习资料,包含了学习社区.入门教程.汲取学习.深度学习.自然语言处理.计算机视觉.数据分析.面试和书籍等方面的知识.在这里分享给大家,欢迎大家点赞收藏. 学习社区 神力AI(MA ...

  8. [转] 人工智能之机器学习路线图

    人工智能之机器学习路线图 标签: 机器学习计算机iphone算法 2016-09-07 23:21 6197人阅读 评论(2) 收藏 举报 目录(?)[+] 1. 引言 也许你和这个叫『机器学习』的家 ...

  9. 统计机器学习笔记1--AI背景概论,损失函数,风险,,,

    摘要 期末来临,平时没怎么整理,听得有些零碎.抽点时间把它从头到尾捋一遍,也方便写综合实验的论文. 文章目录 摘要 背景 人工智能(Artificial Intelligence) 机器学习 数学理解 ...

最新文章

  1. Kafka入门教程与详解
  2. leetcode--最小路径和--python
  3. 苹果四大供应商向高通索赔90亿;金立否认裁定破产清算
  4. 《编写高质量代码:改善Java程序的151个建议》笔记
  5. 为什么说python是世界上最好的语言-python是世界上最好的语言
  6. Qt中应用程序的打包与发布
  7. pytorch的一些函数
  8. printf函数与主函数问题
  9. Sending HTML content in an email using PHP
  10. C#如何[添加][删除][修改]XML中的记录
  11. 认识和学习orchestrator之基本使用篇
  12. iTOP-4412开发板基于Linux-C测试程序的编译和运行
  13. jstack分析线程状态
  14. bt709和srgb_选择用于多用途视频编辑和色彩校正的显示器— sRGB,DCI-P3,REC 709
  15. MIKE与SMS网格的区别——个人感受
  16. Linux内核加载f2fs,固态硬盘使用f2fs文件系统作为deepin引导分区经验
  17. 重装系统原来这么简单,最详细的win7安装教程
  18. server2003安装python3.4.4
  19. js去除字符串中的空白字符(也可以去除其他字符串)
  20. Duang~ Golang 学习初探

热门文章

  1. 深入解析网页防篡改技术
  2. js php活动倒计时,JS活动倒计时代码
  3. 关于如何在chrome中下载网页flash视频
  4. ServiceNow获得FedRAMP高基准授权
  5. web service 优缺点
  6. 陈满雪冤背后英雄:上百名同学捐款数十万元
  7. pixhawk之NSH调试
  8. pg_repack插件安装使用
  9. 应用计算机测定电阻伏安特性,实验计算机测定电阻伏安特性
  10. 微型计算机能直接识别并执行的语言,微处理器能直接识别并执行的命令语言称为...