机器学习-吴恩达-笔记-10-降维

2024-06-03 19:36:51

目录

动机一：数据压缩

动机二：数据可视化

主成分分析问题

主成分分析算法

主成分分析的数量（选择k值）

重建的压缩表示（从低维还原回高维）

主成分分析法的应用建议

【此为本人学习吴恩达的机器学习课程的笔记记录，有错误请指出！】

动机一：数据压缩

这里将谈论第二种类型的无监督学习问题，称为降维。

降维的目的：数据压缩（减少特征）、节省计算资源（内存、磁盘）、加快学习速度。

如将数据从二维降到一维：

将数据从三维降至二维：

这样的处理过程可以被用于把任何维度的数据降到任何想要的维度，例如将 1000 维的特征降至 100 维。

动机二：数据可视化

在许多机器学习问题中，如果能将数据可视化，降维是不错的方法。

如果要将 50 维的数据可视化是不可能的，使用降维的方法将其降至 2 维，我们便可以将其可视化了。

这样做的问题在于，降维算法只负责减少维数，新产生的特征的意义就必须由我们自己去发现了。

主成分分析问题

主成分分析(PCA)是最常见的降维算法。

在 PCA 中，我们要做的是找到一个方向向量（ Vector direction），把所有的数据都投射到该向量上时，我们希望投射平均均方误差能尽可能地小。方向向量是一个经过原点的向量，而投射误差是从特征向量向该方向向量作垂线的长度。

主成分分析问题是要将

机器学习-吴恩达-笔记-10-降维相关推荐

机器学习-吴恩达-笔记-14-应用实例：图片文字识别
目录问题描述和流程图滑动窗口获取大量数据和人工数据上限分析:哪部分管道得接下去做 [此为本人学习吴恩达的机器学习课程的笔记记录,有错误请指出!] 问题描述和流程图图像文字识别应用,是从一张给 ...
机器学习-吴恩达-笔记-13-大规模机器学习
目录大型数据集的学习批量梯度下降随机梯度下降小批量梯度下降随机梯度下降收敛在线学习映射化简和数据并行 [此为本人学习吴恩达的机器学习课程的笔记记录,有错误请指出!] 大型数据集的学习如 ...
机器学习-吴恩达-笔记-15-总结
[此为本人学习吴恩达的机器学习课程的笔记记录,有错误请指出!] 机器学习是一门对科技.工业产生深远影响的重要学科. 机器学习的理论知识:微积分.线性代数.统计学.信息论等. 机器学习的实践框架:PyT ...
机器学习-吴恩达-笔记-12-推荐系统
目录问题形式化基于内容的推荐系统协同过滤向量化:低秩矩阵分解推行工作上的细节:均值归一化基于相似内容推荐和基于相似用户推荐(个人扩展) [此为本人学习吴恩达的机器学习课程的笔记记录,有错误 ...
机器学习-吴恩达-笔记-11-异常检测
目录问题的动机高斯分布算法开发和评价一个异常检测系统异常检测与监督学习对比选择特征多元高斯分布使用多元高斯分布进行异常检测 [此为本人学习吴恩达的机器学习课程的笔记记录,有错误请指出! ...
机器学习-吴恩达-笔记-9-聚类
目录无监督学习:简介 K-均值算法(K-Means) 优化目标随机初始化选择聚类数相似度/距离计算方法聚类的衡量指标 [此为本人学习吴恩达的机器学习课程的笔记记录,有错误请指出!] 无监督学 ...
机器学习-吴恩达-笔记-8-支持向量机
目录优化目标大边界的直观理解大边界分类背后的数学核函数-1 核函数-2 使用支持向量机 [此为本人学习吴恩达的机器学习课程的笔记记录,有错误请指出!] 优化目标为了描述支持向量机,我们将会从 ...
机器学习-吴恩达-笔记-7-机器学习系统的设计
目录误差分析类偏斜的误差度量查准率和查全率之间的权衡机器学习的数据 [此为本人学习吴恩达的机器学习课程的笔记记录,有错误请指出!] 误差分析在本次课程中,我们将会讲到误差分析( Error ...
机器学习-吴恩达-笔记-6-应用机器学习的建议
目录评估一个假设(假设函数) 模型选择和交叉验证集诊断偏差和方差正则化和偏差/方差学习曲线决定下一步做什么 [此为本人学习吴恩达的机器学习课程的笔记记录,有错误请指出!] 当我们运用训练好了 ...

最新文章

热门文章