回归问题

  • 1.机器学习基础
    • 1.1监督学习
    • 1.2无监督学习
    • 1.3半监督学习
  • 2.一元线性回归
  • 3.解析法实现一元回归
    • 3.1 Python实现
    • 3.2 NumPy实现
    • 3.3 TensorFlow实现
  • 4.多元线性回归

1.机器学习基础

机器学习:从数据中学习。
1.建立模型
2.学习模型
3.预测房价
学习算法:从数据中产生模型的算法。

1.1监督学习

Supervised Learning

1.2无监督学习

Unsupervised Learning
在样本数据没有标记的情况下,挖掘出数据内部蕴含的关系。
聚类:把相似度高的样本聚合在一起。

1.3半监督学习

Semi-Supervised Learning
将有监督学习和无监督学习相结合,综合使用大量的没有标记数据少量有标记的数据共同进行学习。


2.一元线性回归

模型:y=wx+b
模型变量:x
模型参数:w:权重(weights);b:偏置值(bias)

最佳拟合直线应该使得所有点的残差累计值最小。

损失函数:估量模型的预测值与真实值的不一致程度
最小二乘法:基于均方误差最小化来进行模型求解的方法


3.解析法实现一元回归

3.1 Python实现

#load dataset
x=[137.97,104.5,100.00,124.32,79.20,99.00,124.00,114.00,
106.69,138.05,53.75,46.91,68.00,63.02,81.26,86.21]
y=[145.00,110.00,93.00,116.00,65.32,104.00,118.00,91.00,
62.00,133.00,51.00,45.00,78.50,69.65,75.69,95.3]#Calculate w, b
meanX=sum(x)/len(x)
meanY=sum(y)/len(y)    sumXY=0.0
sumX=0.0
#Calculate in cycle
for i in range(len(x)):            sumXY+=(x[i]-meanX)*(y[i]-meanY)sumX+=(x[i]-meanX)*(x[i]-meanX)
#Calculate w,b
w=sumXY/sumX
b=meanY-w*meanX
#Output
print('w=',w)
print('b=',b)

3.2 NumPy实现

from numpy.core.fromnumeric import mean
#load dataset
x=np.array([137.97,104.5,100.00,124.32,79.20,99.00,124.00,114.00,
106.69,138.05,53.75,46.91,68.00,63.02,81.26,86.21])
y=np.array([145.00,110.00,93.00,116.00,65.32,104.00,118.00,91.00,
62.00,133.00,51.00,45.00,78.50,69.65,75.69,95.3])
#Calculate w,b
meanX=np.mean(x)
meanY=np.mean(y)
sumXY=np.sum((x-meanX)*(y-meanY))
sumX=np.sum((x-meanX)*(x-meanX))w=sumXY/sumX
b=meanY-w*meanX
print('w=',w)
print('b=',b)

3.3 TensorFlow实现

import tensorflow as tf
#load dataset
x=tf.constant([137.97,104.5,100.00,124.32,79.20,99.00,124.00,114.00,
106.69,138.05,53.75,46.91,68.00,63.02,81.26,86.21])
y=tf.constant([145.00,110.00,93.00,116.00,65.32,104.00,118.00,91.00,
62.00,133.00,51.00,45.00,78.50,69.65,75.69,95.3])
#Calculate w,b
meanX=tf.reduce_mean(x)
meanY=tf.reduce_mean(y)
sumXY=tf.reduce_sum((x-meanX)*(y-meanY))
sumX=tf.reduce_sum((x-meanX)*(x-meanX))w=sumXY/sumX
b=meanY-w*meanX
print('w=',w)
print('b=',b)

4.多元线性回归

多元回归:回归分析中包括两个或两个以上的自变量。
多元线性回归:因变量和自变量之间是线性关系。

神经网络与深度学习:回归问题相关推荐

  1. 神经网络和深度学习(5)-- 逻辑回归

    神经网络和深度学习 上一篇 主目录 下一篇 文章结构 1.逻辑回归 [前言] 逻辑回归学习算法,该算法适用于二分类问题,本节将主要 介绍逻辑回归的 Hypothesis Function(假设函数) ...

  2. 吴恩达《神经网络和深度学习》第二周编程作业—用神经网络思想实现逻辑回归

    吴恩达<神经网络和深度学习>-用神经网络思想实现逻辑回归 1 安装包 2 问题概述 3 学习算法的一般架构 4 构建算法的各个部分 4.1 激活函数 4.2 初始化参数 4.3 前向和后向 ...

  3. 0.0 目录-深度学习第一课《神经网络与深度学习》-Stanford吴恩达教授

    文章目录 第五课 第四课 第三课 第二课 第一课 第五课 <序列模型> 笔记列表 Week 1 循环序列模型 Week 1 传送门 -> 1.1 为什么选择序列模型 1.2 数学符号 ...

  4. 干货 | 神经网络与深度学习精选文章汇总

    AI有道 不可错过的AI技术公众号 关注 下面这部分列出了吴恩达深度学习专项课程中关于NN和DNN方面的所有精炼笔记.主要包括:神经网络与深度学习.优化神经网络.构建机器学习项目三块内容. 如果你对我 ...

  5. 吴恩达《神经网络与深度学习》精炼笔记(5)-- 深层神经网络

    上节课我们主要介绍了浅层神经网络.首先介绍神经网络的基本结构,包括输入层,隐藏层和输出层.然后以简单的2 layer NN为例,详细推导了其正向传播过程和反向传播过程,使用梯度下降的方法优化神经网络参 ...

  6. 吴恩达《神经网络与深度学习》精炼笔记(4)-- 浅层神经网络

    上节课我们主要介绍了向量化.矩阵计算的方法和python编程的相关技巧.并以逻辑回归为例,将其算法流程包括梯度下降转换为向量化的形式,从而大大提高了程序运算速度.本节课我们将从浅层神经网络入手,开始真 ...

  7. Coursera吴恩达《神经网络与深度学习》课程笔记(5)-- 深层神经网络

    红色石头的个人网站:redstonewill.com 上节课我们主要介绍了浅层神经网络.首先介绍神经网络的基本结构,包括输入层,隐藏层和输出层.然后以简单的2 layer NN为例,详细推导了其正向传 ...

  8. Coursera吴恩达《神经网络与深度学习》课程笔记(3)-- 神经网络基础之Python与向量化

    红色石头的个人网站:redstonewill.com 上节课我们主要介绍了逻辑回归,以输出概率的形式来处理二分类问题.我们介绍了逻辑回归的Cost function表达式,并使用梯度下降算法来计算最小 ...

  9. 邱锡鹏教授--神经网络和深度学习(一)

    邱锡鹏教授--神经网络和深度学习(一) 机器学习 线性模型 long time no see-今天开始会把之前或平时的学习笔记记录到这里,有误请大家帮我指正一下,开始冲了!对应的资源我会上传到这里,大 ...

  10. 开放下载!复旦大学邱锡鹏教授发布教科书《神经网络与深度学习》

    点击"小詹学Python","星标"或"置顶" 关键时刻,第一时间送达 本文转载自"机器之心" 从2016到2019,根 ...

最新文章

  1. 【Linux】一步一步学Linux——dpkg-reconfigure命令(272)
  2. Android实现连续并排的若干个TextView单击改变背景颜色达到选项卡Tab栏切换效果...
  3. 每个用户做独立的线程同步
  4. 谷歌浏览器安卓_安卓免费时代结束,国产手机或将集体涨价?
  5. itest(爱测试) 3.3.7 发布,开源BUG 跟踪管理 敏捷测试管理软件
  6. c语言中{的作用,C语言中Static和Const关键字的作用
  7. Eclipse(ADT)找不到android.support.v4.view.ViewPager,2步搞定!
  8. 道德如果一直在滑坡,终会酿成大祸,历朝历代,莫过于是……
  9. JSP之【include】指令
  10. 利用MindManager,制作简易的漏斗图
  11. 3ds Max 实验十 熟悉材质编辑器
  12. iphone4s更换电池_如果更换了iPhone电池后仍然出现问题该怎么办
  13. 【LDU】 Week2自测 Disney‘s FastPass | 状压dp、Floyd
  14. 机器学习 day15异常检测
  15. 机器学习之---文本分析(jieba分词和词云绘制)
  16. GITHUB下载慢解决办法-插件解决
  17. Window 10 激活 命令行操作
  18. Spring Beans 自动装配 使用XML配置列子(带源码)
  19. AES加解密基本原理
  20. win7连接共享“请检查名称的拼写.否则网络可能有问题”

热门文章

  1. 别人笑我太疯癫,我笑他人看不穿。
  2. 计算机必修课程英语单词,《计算机专业英语》课程标准(已审核).doc
  3. 韶关python培训班_新华字典:韶_“韶”的意思,五笔,笔画,拼音,五行_HttpCN
  4. python一键合并上千个Excel表(对不起!!因为这事,我和同事吵了一架)
  5. oracle中的取余函数
  6. 《设计模式之禅》目录
  7. 修改下拉状态栏点击屏幕录制后出现ANR。禁用Hotspot tethering菜单下的 “Wi-Fi hotspot。默认系统语言为英文。
  8. LabVIEW操作者框架(Actor Framework)范例集锦之二:视频范例
  9. Oracle Database-数据处理和表的管理部分
  10. 人性面前,有多少感情能够经得起考验