深度学习经典和最新模型
1.深度学习基础-线性神经网络,多层感知器
2.卷积神经网络-lenet,alexnet,vgg,inception,resnet
3.循环神经网络-RNN,GRU,LSTM,seq2seq
4.注意力机制-attention。transformer
5.优化算法-SGD,Momentum,Adam
6.高性能计算-并行,多GPU,分布式
7.计算机视觉-目标检测,语音分割
8.自然语言处理-词嵌入,BERT
1.深度学习基础
深度学习的定义
物体分类,物体检测和分割,样式的迁移(将样式图片和内容相结合,滤镜),人脸的合成
文字生成图片,文字生成,无人驾驶汽车。
案例研究–广告点击
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-QCRouqb5-1649577186614)(82d042d1cab2e02a0dd35f032dec1dd6.png)]
触发–点击率预估–排序(点击率*竞价)
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-aB9ZxDvW-1649577186615)(7c7762142ed15ba93946348140cf3b15.png)]
预测与学习
特征提取–模型–点击率预测
训练数据–特征和用户点击–模型
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-vkwgMfL1-1649577186615)(69f04f885e52f285c2235b8e8d3a4dbb.png)]
最后需要性能和精度的学习
数据
N维数据样例
N维数组是机器学习和神经网络的主要数据结构
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-9vL0jaOC-1649577186616)(ebac0914e26a8b7c2eda67c20997e1b7.png)]
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-yGkNz3s2-1649577186616)(6c2037384dcf22d334b1468aaf27585e.png)]
访问元素
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-BeKbKZIt-1649577186617)(43d4e25ca209f75d7dab49f95b14ad3e.png)]
张量表示数据组成的数组
有shape,numel,reshape函数
zeros,ones函数
randn函数,每个元素符合均值为0,标准差为1的标准高斯分布(正态分布)中随机采样
也可以通过python.tensor来赋值
sum函数对所有张量进行求和,形成一个单元素张量
两个tensor的形状不同,也可以通过广播机制来执行元素操作
线性代数
如果你曾经在餐厅支付餐费,那么你已经知道一些基本的线性代数,比如在数字间相加或相乘。 例如,北京的温度为 52∘
深度学习经典和最新模型相关推荐
- 前深度学习时代CTR预估模型的演化之路 [王喆观点]
毕业于清华大学计算机系的王喆学长梳理从传统机器学习时代到深度学习时代所有经典CTR(click through rate)模型的演化关系和模型特点.内容来源:https://zhuanlan.zhih ...
- [转载]机器学习深度学习经典资料汇总,全到让人震惊
自学成才秘籍!机器学习&深度学习经典资料汇总 转自:中国大数据: http://www.thebigdata.cn/JiShuBoKe/13299.html [日期:2015-01-27] 来 ...
- 前深度学习时代CTR预估模型的演化之路:从LR到FFM\n
本文是王喆在 AI 前线 开设的原创技术专栏"深度学习 CTR 预估模型实践"的第二篇文章(以下"深度学习 CTR 预估模型实践"简称"深度 CTR ...
- 2017年深度学习优化算法最新进展:改进SGD和Adam方法
2017年深度学习优化算法最新进展:如何改进SGD和Adam方法 转载的文章,把个人觉得比较好的摘录了一下 AMSGrad 这个前期比sgd快,不能收敛到最优. sgdr 余弦退火的方案比较好 最近的 ...
- 2017年深度学习优化算法最新进展:如何改进SGD和Adam方法?
2017年深度学习优化算法最新进展:如何改进SGD和Adam方法? 深度学习的基本目标,就是寻找一个泛化能力强的最小值,模型的快速性和可靠性也是一个加分点. 随机梯度下降(SGD)方法是1951年由R ...
- 深度学习经典论文汇总
CV-CNN AlexNet(2012):深度学习热潮的奠基作 VGG(2014):使用 3x3 卷积构造更深的网络 GoogleNet(2014):使用并行架构构造更深的网络 ResNet(2015 ...
- 深度学习经典网络解析图像分类篇(二):AlexNet
深度学习经典网络解析图像分类篇(二):AlexNet 1.背景介绍 2.ImageNet 3.AlexNet 3.1AlexNet简介 3.2AlexNet网络架构 3.2.1第一层(CONV1) 3 ...
- 时间序列深度学习:状态 LSTM 模型预测太阳黑子
目录 时间序列深度学习:状态 LSTM 模型预测太阳黑子 教程概览 商业应用 长短期记忆(LSTM)模型 太阳黑子数据集 构建 LSTM 模型预测太阳黑子 1 若干相关包 2 数据 3 探索性数据分析 ...
- 深度学习经典trick汇总
深度学习经典trick汇总 trick这个词或许有投机取巧的意味,但深度学习论文中出现的很多这个trick确实对模型更方面性能有所提高,而且它们中的很多还具有普适性,那么这种"trick&q ...
最新文章
- 定义自己的rm command
- 撩课-Web大前端每天5道面试题-Day24
- python 类定义 垃圾_什么是python对象摧毁?python中的对象摧毁(垃圾回收)机制是什么?...
- 九和一 Hidove聚合在线图床PHP源码
- weka使用训练集分类测试集_Giao 13C NMR计算分类训练集提高结构归属的准确性和可靠性...
- Bootstrap3 源代码样式
- 从零开始学keras之生成对抗网络GAN
- dubbo内置哪几种服务容器_Dubbo服务提供者几种启动方式
- 安装thinkphp,其实就是下载thinkphp,然后放到网站根目录下就可以直接使用了。
- “System.FormatException”类型的未经处理的异常在 System.IdentityModel.dll 中发生 其他信息: 十六进制字符串格式无效。
- 1016. 部分A+B (15)-PAT乙级真题
- clodop 打印插件打印不显示问题
- fw313r手机登录_迅捷(FAST)fw313r路由器手机设置教程
- 上次来杭州,已经六年了。。
- 身份认证之双因素认证 2FA
- 2022年沈阳市施工员(装修装饰)考试练习题及答案
- 北京python培训班价格
- 青海省国家湿地公园功能区划数数据、全国湿地沼泽分布数据、全国省市县自然保护区
- 全球仅通过不到 2000 位的 Elastic 认证工程师,到底难不难?
- 一个非知识库的中文分词算法实现
热门文章
- 芯片行业是不是过热了
- glTF规范中文翻译
- Linux命令面试常考的简单汇总
- 信息推荐服务 信息推送服务器,根据用户喜好进行信息推送的方法及服务器技术...
- 千万要把履历时间写正确!简历造假,第三方背调竟直接找到六年前的老东家HR,这个offer悬了!...
- Spring 启动的监听
- 南瑞通讯管理机测试软件,国电南瑞NSC2200E 通讯管理机
- 传智播客linux安装视频教程下载,传智播客 LAMP(Linux)经典入门教程 李东超主讲29集完整版教程下载...
- 启动tomcat提示端口号被占用 Serveral ports(8005,8080,8009) required by Tomcat v8.0 Server at localhost are alre
- Wireshark下载及安装