【CV】吴恩达机器学习课程笔记 | 第1-2章
本系列文章如果没有特殊说明,正文内容均解释的是文字上方的图片
机器学习 | Coursera
吴恩达机器学习系列课程_bilibili
目录
- 1 介绍
- 1-3 监督学习
- 1-4 无监督学习
- 2 单变量线性回归
- 2-2 代价函数
- 2-5 Batch 梯度下降算法
1 介绍
1-3 监督学习
- 包括线性回归和逻辑回归
1-4 无监督学习
- 无监督学习不需要给数据打上标签,也就是不需要人告诉机器一部分正确答案是什么
2 单变量线性回归
2-2 代价函数
- Hypothesis即假定函数,是线性回归时机器推测出来的对已经给定的一堆离散点进行拟合之后的函数
- θ0和θ1是待求的参数,求出这两个参数后,就能得出一条直线进行拟合
- Cost Function即代价函数,是对数据集中每个点与假定函数进行作差再平方再相加后求得的平均值再乘12\frac{1}{2}21得到的,乘12\frac{1}{2}21只是为了之后求导方便,式中m为数据集中数据个数共有m个,x(i)x^{(i)}x(i)指的是数据集第i行的x的值,y(i)y^{(i)}y(i)指的是数据集第i行的y的值,y即为需要通过机器学习推测的值
- 目标是求代价函数的最小值(并求出此时θ0和θ1的值),因为在代价函数的值最小时,假定函数距离各离散点的距离最近
由于有两个参数θ0和θ1,所以得出的代价函数图形是一个如上图所示的3D曲面图
3D曲面图也可以用上图的等高线图表示
2-5 Batch 梯度下降算法
梯度下降算法用于如上图的函数:在图上取一个点,向四周寻找最快的下山方向,并迈出一步,重复执行上述步骤,就可以找到代价函数的最小值(上图仅用于解释梯度下降算法,线性回归的代价函数永远是一个凸函数,只会存在一个全局最优解,不会像上图一样出现局部最优解和全局最优解)
在这里:=
是赋值符号,=
是两边等价的意思
如上图,θ0和θ1需要同步更新来实现梯度下降,α是学习率,α越大,相当于下山的步子越大,下山就越快
如上图,θ1从右侧较大时开始逐渐向左侧递减,α是常数不改变,代价函数的导数项(这个导数项其实是偏导数)会随着代价函数逐渐降低而变小(因为斜率变小了),在到达最小值时,导数会变为0
将梯度下降式子里的导数项求出后得到上面的式子
【CV】吴恩达机器学习课程笔记 | 第1-2章相关推荐
- 吴恩达机器学习课程笔记一
吴恩达机器学习课程笔记 前言 监督学习---`Supervised learning` 无监督学习---`Unsupervised learning` 聚类 异常检测 降维 增强学习---`Reinf ...
- 【CV】吴恩达机器学习课程笔记第10章
本系列文章如果没有特殊说明,正文内容均解释的是文字上方的图片 机器学习 | Coursera 吴恩达机器学习系列课程_bilibili 目录 10 应用机器学习的建议 10-1 决定下一步做什么 10 ...
- 【CV】吴恩达机器学习课程笔记第18章
本系列文章如果没有特殊说明,正文内容均解释的是文字上方的图片 机器学习 | Coursera 吴恩达机器学习系列课程_bilibili 目录 18 应用案例:照片OCR 18-1 问题描述与流程(pi ...
- 【CV】吴恩达机器学习课程笔记第17章
本系列文章如果没有特殊说明,正文内容均解释的是文字上方的图片 机器学习 | Coursera 吴恩达机器学习系列课程_bilibili 目录 17 大规模机器学习 17-1 学习大数据集 17-2 随 ...
- 【CV】吴恩达机器学习课程笔记第16章
本系列文章如果没有特殊说明,正文内容均解释的是文字上方的图片 机器学习 | Coursera 吴恩达机器学习系列课程_bilibili 目录 16 推荐系统 16-1 问题规划 16-2 基于内容的推 ...
- 【CV】吴恩达机器学习课程笔记第11章
本系列文章如果没有特殊说明,正文内容均解释的是文字上方的图片 机器学习 | Coursera 吴恩达机器学习系列课程_bilibili 目录 11 机器学习系统设计 11-1 确定执行的优先级:以垃圾 ...
- Github标星24300!吴恩达机器学习课程笔记.pdf
个人认为:吴恩达老师的机器学习课程,是初学者入门机器学习的最好的课程!我们整理了笔记(336页),复现的Python代码等资源,文末提供下载. 课程简介 课程地址:https://www.course ...
- 吴恩达机器学习课程笔记(英文授课) Lv.1 新手村(回归)
目录 1-1机器学习的相关名词 1-2 什么是机器学习? 1.definition 定义 2.主要的机器学习算法的分类 1-3有监督学习及常用算法 1.定义 2.两种数据类型补充:categorica ...
- 干货|机器学习零基础?不要怕,吴恩达机器学习课程笔记2-多元线性回归
吴恩达Coursera机器学习课系列笔记 课程笔记|吴恩达Coursera机器学习 Week1 笔记-机器学习基础 1 Linear Regression with Multiple Variable ...
最新文章
- Maven 在 mac os M1芯片 上的安装
- python update skeleton 不自动_python编程笔记(1)-数据类型
- Oracle重建回滚段
- CSRF verification failed. Request aborted.
- Android 最新原生定位折腾总结科普
- Facebook股价周四大涨15.5% 市值超亚马逊
- win10 电脑桌面任务栏点击无反应
- 【华为机试真题 Python实现】九宫格按键输入【2022 Q1 Q2 Q3 |200分】
- JAVA的Map集合
- 利用PIN码破解wifi密码(WPA2-PSK)
- WebGoat教程解析——Hijack a Session
- 上海 政府性 常用网站
- 安卓电视/平板玩街机游戏
- 基于@Valid注解自定义参数校验
- jdt eclipse_Eclipse JDT语言服务器项目
- Visual Studio 2019 打包生成.exe安装文件,附带.net框架与自定义安装插件
- 长尾词挖掘免费工具-长尾关键词挖掘词
- 《菅销在移动互联网时代》智慧树知到章节测试答案
- Centos系统下内存ECC问题
- 最短路径算法-迪杰斯特拉(Dijkstra)