cs224n斯坦福深度学习NLP课程笔记
1，同义词，相似语义的，不能改变其语义程度，我是行业专家和我精通这个行业，两个的程度不一样
2，独热编码表示其中信息，问题无法表示近义词之间的语义信息，
3，建立两个词表表之间的相似性，建立词汇之间一套完全独立的相似性关系，一个单词编码表示的含义是，构造相似性含义，然后做一些类似求解点积的操作，这样就可以让我i们了解词汇之间有多少相似性，
4，相关性做法是，NLP概念的分布相似性，分布相似性是指，你可以得到大量的表示某个词汇含义的值，只需要通过观察其出现的上下文，并对这些上下文做一些处理来得到，例如如果想到的bank的信息，我需要做到是找出数千个包含banking的例句，然后观察每一次它出现的场合，
会出现像关于债户，债务，等相关信息 ，然后开始统计所有出现过的内容，通过上下文的词来表示banking的含义，
意思是通过知道单词的伙伴来表示其中的含义通过预测单词出现的文本的上下文就可以理解这个但系的含义了
5，接下来要做的是给每一单词构建一个词向量，会选择一个密集型向量，让它可以预测目标单词所在文本的其他词汇，比如对两个向量间的点积，可以训练递归，这些可以用算法来实现
6，关键词两个。分布式distributional 分布式表示 distributed repressentations 即用密集型向量表示词汇含义 ，两个词的含义不同
分布相似性的概念是一种关于词汇语义的理论，你可以通过单词出现的上下文，来描述 词汇的意思，所以分布式是指次面意思，分布式又跟独热词汇向量不同，独热词汇是指具体表示的某一个单词，在分布相似性中，我们在一个大的向量空间模糊化词汇的含义
7word2vec ,什么是word2vec。一种来学习神经词嵌入问题的方法，我们定义一个模型来根据中心词汇来预测它上下文的词汇 ，还有其他方法通过预测其他单词上下文出现的概率，
7.1 通过损失函数在判断预测的准确性，通过预测中心词汇周围的词，目的使其达到一个很高的准确率，目标是调整词汇表示，从而使损失最小化，你实际上设置这样一个目标以外,其他的什么也做不了，只是让每个单词的向量，都能预测其周围的词汇，然后剩余的是神经网路处理，网络在表示单词四亿方面如此强大，在处理各种类似问题上也有非常有用
.
cs224n斯坦福深度学习NLP课程笔记相关推荐
- 斯坦福深度学习CS230课程cheatsheet学后总结笔记（1）
斯坦福深度学习CS230课程cheatsheet学后总结提纲1 Marshal Zheng 2019-04-12 文章目录 斯坦福深度学习CS230课程cheatsheet学后总结提纲1 Overvi ...
- 纽约大学深度学习PyTorch课程笔记（自用）Week3
纽约大学深度学习PyTorch课程笔记Week3 Week 3 3.1 神经网络参数变换可视化及卷积的基本概念 3.1.1 神经网络的可视化 3.1.2 参数变换 一个简单的参数变换:权重共享 超网络 ...
- 纽约大学深度学习PyTorch课程笔记（自用）Week6
纽约大学深度学习PyTorch课程笔记Week6 Week 6 6.1 卷积网络的应用 6.1.1 邮政编码识别器 使用CNN进行识别 6.1.2 人脸检测 一个多尺度人脸检测系统 6.1.3 语义分 ...
- Coursera吴恩达《神经网络与深度学习》课程笔记（3）-- 神经网络基础之Python与向量化
红色石头的个人网站:redstonewill.com 上节课我们主要介绍了逻辑回归,以输出概率的形式来处理二分类问题.我们介绍了逻辑回归的Cost function表达式,并使用梯度下降算法来计算最小 ...
- 纽约大学深度学习PyTorch课程笔记（自用）Week2
纽约大学深度学习PyTorch课程笔记Week2 2. Week2 2.1 梯度下降和反向传播算法导论 2.1.1 梯度下降优化算法 参数化模型 梯度下降 2.1.2 在传统神经网络中随机梯度下降和反 ...
- 完结撒花！吴恩达DeepLearning.ai《深度学习》课程笔记目录总集
作者: 大树先生 博客: http://blog.csdn.net/koala_tree 知乎:https://www.zhihu.com/people/dashuxiansheng GitHub:h ...
- Coursera吴恩达《神经网络与深度学习》课程笔记（1）-- 深度学习概述
红色石头的个人网站:redstonewill.com 吴恩达(Andrew Ng)相信大家都不陌生了.8 月 8 日,吴恩达在他自己创办的在线教育平台 Coursera 上线了他的人工智能专项课程(D ...
- Coursera吴恩达《神经网络与深度学习》课程笔记（5）-- 深层神经网络
红色石头的个人网站:redstonewill.com 上节课我们主要介绍了浅层神经网络.首先介绍神经网络的基本结构,包括输入层,隐藏层和输出层.然后以简单的2 layer NN为例,详细推导了其正向传 ...
- Coursera吴恩达《神经网络与深度学习》课程笔记（2）-- 神经网络基础之逻辑回归...
转至:https://blog.csdn.net/red_stone1/article/details/77851177 上节课我们主要对深度学习(Deep Learning)的概念做了简要的概述.我 ...
最新文章
- Microsoft .NET Pet Shop 4 架构与技术分析
- 用indesign怎么更换名牌姓名_颚式破碎机如何拆卸？耐磨件怎么更换，可以用多久？答案都在这里...
- SGI STL 学习笔记二 vector
- python中的排序方法都有哪些_Python中的排序方法sort()，sorted()，argsort()等
- 影子卫士和影子系统哪个好用_影子系统是什么？会损害电脑硬盘吗？
- 初次使用NHibernate遇到的问题
- Python爬虫安居客房价信息（并利用百度地图API查询坐标）
- mysql跳脱字符 单引号_MYSQL特殊字符(单引号，行尾斜杠)的处理
- matlab 求解线性规划问题
- 试题6 算法训练 数据交换（指针）
- 修改centos7的MAC地址
- Algs4-2.4.5给出以下字母顺序插入大堆的结果
- 诺顿5月17日病毒库误报，导致系统文件被删除
- 天勤2022数据结构（一）线性表
- 计网 - 内容分发网络 : CDN 回源的工作机制初探
- 视频动作识别(Action Recognition)综述
- Linux格式化逻辑卷的命令,Linux LVM逻辑卷管理
- 在MySQL中group by 是什么意思
- 转 纸牌屋1-4集分析
- Python制作属于自己的有声小说