既然要研究深度学习这一门学科,外文的论文和资料阅读是必不可少的,下面就总结一些深度学习相关方面的专有英文,并做一些必要解释。

1. 深度学习常用中英文

英文 中文解释 说明
MNIST MNIST数据集可能是最常用的一个图像识别数据集。它包含 60,000 个手写数字的训练样本和 10,000 个测试样本。每一张图像的尺寸为 28×28像素。
ImageNet ImageNet是一个超过15 million的图像数据集,大约有22,000类。
ILSVRC:ImageNet Large Scale Visual Recognition Challenge ImageNet 大型视觉识别挑战赛
ICML:International Conference for Machine Learning 国际机器学习大会
Alexnet 这种架构曾在 2012 年 ILSVRC 挑战赛中以巨大优势获胜,而且它还导致了人们对用于图像识别的卷积神经网络(CNN)的兴趣的复苏
VGG VGG 是在 2014 年 ImageNet 定位和分类比赛中分别斩获第一和第二位置的卷积神经网络模型。
GoogLeNet GoogLeNet 是曾赢得了 2014 年 ILSVRC 挑战赛的一种卷积神经网络架构
ResNet 深度残差网络(Deep Residual Network)赢得了 2015 年的 ILSVRC 挑战赛。
DenseNet 比ResNet更优的CNN模型
SENet 最后一届ImageNet 2017竞赛分类任务的冠军
neural networks 神经网络
neuron 神经元
supervised learning 监督学习
unsupervised learning 无监督学习
feedforward neural network 前馈神经网络
Backpropagation 反向传播
NTM:Neural Turing Machine 神经图灵机 NTM 是可以从案例中推导简单算法的神经网络架构。比如,NTM 可以通过案例的输入和输出学习排序算法。
data augmentation 数据增强 翻转(Flip)、旋转(Rotation)、缩放比例(Scale)、裁剪(Crop)、移位(Translation)、高斯噪声(Gaussian Noise)等等方法
Recursive Neural Network 递归神经网络 递归神经网络是循环神经网络的树状结构的一种泛化(generalization)
CNN/ConvNet:Convolutional Neural Network 卷积神经网络
RNN:Recurrent Neural Network 循环神经网络
Bidirectional RNN 双向循环神经网络 双向循环神经网络是一类包含两个方向不同的 RNN 的神经网络
DBN:Deep Belief Network 深度信念网络
RBN:Restricted Boltzmann Machine 受限玻尔兹曼机 RBN 是一种可被解释为一个随机人工神经网络的概率图形模型。RBN 以无监督的形式学习数据的表征。
MLP:Multilayer Perceptron 多层感知器
Momentum 动量 动量是梯度下降算法(Gradient Descent Algorithm)的扩展,可以加速和阻抑参数更新。
Nonlinearity 非线性
Max-Pooling 最大池化
Average-Pooling 平均池化
Sigmoid Sigmoid函数常被用作神经网络的激活函数,将变量映射到0,1之间。
ReLU 线性修正单元(Rectified Linear Unit)
Dropout Dropout 是一种用于神经网络防止过拟合的正则化技术
BN:Batch Normalization 分批标准化 分批标准化是一种按小批量的方式标准化层输入的技术
Attention Mechanism 注意机制 注意机制是由人类视觉注意所启发的,是一种关注图像中特定部分的能力。
RMSProp RMSProp 是一种基于梯度的优化算法
Adam Adam 是一种类似于 rmsprop 的自适应学习率算法
Adagrad Adagrad 是一种自适应学习率算法,能够随时间跟踪平方梯度并自动适应每个参数的学习率。
Adadelta Adadelta 是一个基于梯度下降的学习算法,可以随时间调整适应每个参数的学习率。
gradient descent 梯度下降
SGD:Stochastic Gradient Descent 随机梯度下降
conjugate gradient 共轭梯度
least squares 最小二乘法
Softmax Softmax 函数通常被用于将原始分数(raw score)的矢量转换成用于分类的神经网络的输出层上的类概率(class probability)。
Vanishing Gradient Problem 梯度消失问题 解决这一问题的常用方法是使用 ReLU 这样的不受小梯度影响的激活函数,或使用明确针对消失梯度问题的架构,如LSTM。
word2vec word2vec 是一种试图通过预测文档中话语的上下文来学习词向量(word embedding)的算法和工具
NMT:Neural Machine Translation 神经网络机器翻译
LSTM:Long Short-Term Memory 长短期记忆 网络通过使用内存门控机制防止循环神经网络(RNN)中的梯度消失问题
orthogonalization 正交化
Activation Function 激活函数 最常用的函数包括 sigmoid、tanh、ReLU
additive noise 加性噪声
autoencoder 自编码器
derivative 导函数
eigenvalue 特征值
eigenvector 特征向量
feature matrix 特征矩阵
feature standardization 特征标准化
error term 残差
fine tuning (transfer training) 微调
local optima 局部最优解
logistic regression 逻辑回归
loss function 损失函数
non-convex function 非凸函数
non-linear feature 非线性特征
norm 范式
normalization 归一化
object detection 物体检测
objective function 目标函数
under-fitting 欠拟合
over-fitting 过拟合
pretrain 预训练
redundant 冗余
regularization 正则化
regularization term 正则化项
rescaling 缩放
robust 鲁棒性
singular value 奇异值
mean and variance 均值和方差
squared-error 方差
the rate of convergence 收敛速度
translation invariant 平移不变性
weight decay 权重衰减
whitening 白化
sparsity parameter 稀疏性参数
RPN, region proposal network 区域生成网络

2. 历届ILSVRC部分冠亚军结果

  • ImageNet介绍

ImageNet是一个超过15 million的图像数据集,大约有22,000类。

ImageNet是由李飞飞团队从2007年开始,耗费大量人力,通过各种方式(网络抓取,人工标注,亚马逊众包平台)收集制作而成,它作为论文在CVPR-2009发布。当时人们还很怀疑通过更多数据就能改进算法的看法。

深度学习发展起来有几个关键的因素,一个就是庞大的数据(比如说ImageNet),一个是GPU的出现。(还有更优的深度模型,更好的优化算法,可以说数据和GPU推动了这些的产生,这些产生继续推动深度学习的发展)。

  • ILSVRC冠亚军
网络/队名 val top-1 val top-5 test top-5 备注
2012 AlexNet 38.1% 16.4% 16.42% 5 CNNs
2012 AlexNet 36.7% 15.4% 15.32% 7CNNs。用了2011年的数据
2013 OverFeat 14.18% 7 fast models
2013 OverFeat 13.6% 赛后。7 big models
2013 ZFNet 13.51% ZFNet论文上的结果是14.8
2013 Clarifai 11.74%
2013 Clarifai 11.20% 用了2011年的数据
2014 VGG 7.32% 7 nets, dense eval
2014 VGG(亚军) 23.7% 6.8% 6.8% 赛后。2 nets
2014 GoogLeNet v1 6.67% 7 nets, 144 crops
- GoogLeNet v2 20.1% 4.9% 4.82% 赛后。6 nets, 144 crops
- GoogLeNet v3 17.2% 3.58% 赛后。4 nets, 144 crops
- GoogLeNet v4 16.5% 3.1% 3.08% 赛后。v4+Inception-Res-v2
2015 ResNet 3.57% 6 models
2016 Trimps-Soushen 2.99% 公安三所
2016 ResNeXt(亚军) 3.03% 加州大学圣地亚哥分校
2017 SENet 2.25% Momenta 与牛津大学

评价标准:top1是指概率向量中最大的作为预测结果,若分类正确,则为正确;top5则只要概率向量中最大的前五名里有分类正确的,则为正确

深度学习专业术语之英文介绍——附含历届ILSVRC冠亚军结果相关推荐

  1. 神经网络 深度学习 专业术语解释(Step, Batch Size, Iteration,Epoch)

    1. 名词解释 Step: 训练模型的步数 Batch Size(批尺寸): 计算梯度所需的样本数量,太小会导致效率低下,无法收敛.太大会导致内存撑不住,Batch Size增大到一定程度后,其下降方 ...

  2. 【AI超级美发师】深度学习算法打造染发特效(附代码)

    [新智元导读]如今,在类似天天P图.美图秀秀等手机APP中,给指定照片或视频中的人物更换头发颜色已经是再正常不过的事情了.那么本文便介绍了该功能背后如AI头发分割模块.头发换色.颜色增强与修正模块等技 ...

  3. 深度学习(二)——深度学习常用术语解释, Neural Network Zoo, CNN, Autoencoder

    Dropout(续) 除了Dropout之外,还有DropConnect.两者原理上类似,后者只隐藏神经元之间的连接. 总的来说,Dropout类似于机器学习中的L1.L2规则化等增加稀疏性的算法,也 ...

  4. [深度学习] 分布式Tensorflow 2.0 介绍(二)

    [深度学习] 分布式模式介绍(一) [深度学习] 分布式Tensorflow 2.0介绍(二) [深度学习] 分布式Pytorch 1.0介绍(三) [深度学习] 分布式Horovod介绍(四) 一 ...

  5. HALCON 21.11:深度学习笔记---术语表(7)

    HALCON 21.11:深度学习笔记---术语表(7) HALCON 21.11.0.0中,实现了深度学习方法.下面,我们将描述深度学习环境中使用的最重要的术语: anchor (锚) Anchor ...

  6. 深度学习推荐系统之wide deep介绍和代码实现

    阅读前思考 在你的应用场景中,哪些特征适合放在Wide侧,哪些特征适合放在Deep侧,为什么呢? 为什么Wide部分要用L1 FTRL训练? 为什么Deep部分不特别考虑稀疏性的问题? 系列导读 深度 ...

  7. 深度学习常用的训练数据集介绍以及下载

    前言:数据是深度学习的血液,本文介绍一下当前非常常见的一些数据集. 1 ImageNet ImageNet是一个计算机视觉系统识别项目,是目前世界上图像识别最大的数据库.是美国斯坦福的计算机科学家李飞 ...

  8. 会计方面专业术语的英文翻译

    会计方面专业术语的英文翻译 acceptance 承兑 account 账户 accountant 会计员 accounting 会计 accounting system 会计制度 accounts  ...

  9. 深度学习目标检测:YOLOv5实现车辆检测(含车辆检测数据集+训练代码)

    深度学习目标检测:YOLOv5实现车辆检测(含车辆检测数据集+训练代码) 目录 深度学习目标检测:YOLOv5实现车辆检测(含车辆检测数据集+训练代码) 1. 前言 2. 车辆检测数据集说明 (1)车 ...

最新文章

  1. centos7下Gitlab+Jenkins部署持续集成CI环境
  2. github 修改项目为public_GitHub仓库中项目的语言属性可以这样修改,有点简单
  3. java Parallel gc_JVM Parallel Scavenge GC日志详解
  4. python-opencv图像处理之SURF函数
  5. linux里强制覆盖,Linux cp 强制覆盖(示例代码)
  6. C语言题目——三子棋游戏
  7. 【牛客网】马三来刷题之顺时针旋转矩阵
  8. NVIDIA显卡架构
  9. SQL 语句:不得使用外键与级联,一切外键概念必须在应用层解决
  10. CSDN的迷你博客为什么冷冷清清?
  11. Java 下载 Excel文件打不开
  12. Linux远程ssh破解
  13. JAVA的GUI编程02——事件监听(ActionListener)、TextField事件监听、(组合、内部类)
  14. 1000瓶无色无味的药水,其中有一瓶毒药,10只小白鼠拿过来做实验
  15. c# github 录屏_C#录制视频 - osc_mfn168vg的个人空间 - OSCHINA - 中文开源技术交流社区...
  16. 函数加密_同态加密__密码学课堂笔记
  17. 常用的视频格式文件WEB端播放代码
  18. FPGA学习笔记——wire和reg数据以及组合逻辑和时序逻辑
  19. MIT6.830 lab2 一个简单数据库实现
  20. 计算机一级水平试题,一级计算机考前水平试题及答案解析

热门文章

  1. CAS单点登录(SSO)介绍及部署
  2. samba 445端口被运营商禁用解决方法
  3. Ubuntu 22.10安装搜狗输入法教程
  4. python 调用Google Translate API进行翻译
  5. c语言——输入一个字符串,将其逆序输出
  6. QGraphicItem实现中心旋转
  7. 绝对干货3000字,手把手带你用Python实现一个量化炒股策略,小白也能看得懂!...
  8. JavaScript知识要点 - Web前端开发必备
  9. 学生用计算机app,学生方程计算器
  10. Xunit.net 单元测试学习——按顺序测试