深度学习专业术语之英文介绍——附含历届ILSVRC冠亚军结果
既然要研究深度学习这一门学科,外文的论文和资料阅读是必不可少的,下面就总结一些深度学习相关方面的专有英文,并做一些必要解释。
1. 深度学习常用中英文
英文 | 中文解释 | 说明 |
---|---|---|
MNIST | MNIST数据集可能是最常用的一个图像识别数据集。它包含 60,000 个手写数字的训练样本和 10,000 个测试样本。每一张图像的尺寸为 28×28像素。 | |
ImageNet | ImageNet是一个超过15 million的图像数据集,大约有22,000类。 | |
ILSVRC :ImageNet Large Scale Visual Recognition Challenge
|
ImageNet 大型视觉识别挑战赛 | |
ICML:International Conference for Machine Learning | 国际机器学习大会 | |
Alexnet | 这种架构曾在 2012 年 ILSVRC 挑战赛中以巨大优势获胜,而且它还导致了人们对用于图像识别的卷积神经网络(CNN)的兴趣的复苏 | |
VGG | VGG 是在 2014 年 ImageNet 定位和分类比赛中分别斩获第一和第二位置的卷积神经网络模型。 | |
GoogLeNet | GoogLeNet 是曾赢得了 2014 年 ILSVRC 挑战赛的一种卷积神经网络架构 | |
ResNet | 深度残差网络(Deep Residual Network)赢得了 2015 年的 ILSVRC 挑战赛。 | |
DenseNet | 比ResNet更优的CNN模型 | |
SENet | 最后一届ImageNet 2017竞赛分类任务的冠军 | |
neural networks | 神经网络 | |
neuron | 神经元 | |
supervised learning | 监督学习 | |
unsupervised learning | 无监督学习 | |
feedforward neural network | 前馈神经网络 | |
Backpropagation | 反向传播 | |
NTM:Neural Turing Machine | 神经图灵机 | NTM 是可以从案例中推导简单算法的神经网络架构。比如,NTM 可以通过案例的输入和输出学习排序算法。 |
data augmentation | 数据增强 | 翻转(Flip)、旋转(Rotation)、缩放比例(Scale)、裁剪(Crop)、移位(Translation)、高斯噪声(Gaussian Noise)等等方法 |
Recursive Neural Network | 递归神经网络 | 递归神经网络是循环神经网络的树状结构的一种泛化(generalization) |
CNN/ConvNet:Convolutional Neural Network | 卷积神经网络 | |
RNN:Recurrent Neural Network | 循环神经网络 | |
Bidirectional RNN | 双向循环神经网络 | 双向循环神经网络是一类包含两个方向不同的 RNN 的神经网络 |
DBN:Deep Belief Network | 深度信念网络 | |
RBN:Restricted Boltzmann Machine | 受限玻尔兹曼机 | RBN 是一种可被解释为一个随机人工神经网络的概率图形模型。RBN 以无监督的形式学习数据的表征。 |
MLP:Multilayer Perceptron | 多层感知器 | |
Momentum | 动量 | 动量是梯度下降算法(Gradient Descent Algorithm)的扩展,可以加速和阻抑参数更新。 |
Nonlinearity | 非线性 | |
Max-Pooling | 最大池化 | |
Average-Pooling | 平均池化 | |
Sigmoid | Sigmoid函数常被用作神经网络的激活函数,将变量映射到0,1之间。 | |
ReLU | 线性修正单元(Rectified Linear Unit) | |
Dropout | Dropout 是一种用于神经网络防止过拟合的正则化技术 | |
BN:Batch Normalization | 分批标准化 | 分批标准化是一种按小批量的方式标准化层输入的技术 |
Attention Mechanism | 注意机制 | 注意机制是由人类视觉注意所启发的,是一种关注图像中特定部分的能力。 |
RMSProp | RMSProp 是一种基于梯度的优化算法 | |
Adam | Adam 是一种类似于 rmsprop 的自适应学习率算法 | |
Adagrad | Adagrad 是一种自适应学习率算法,能够随时间跟踪平方梯度并自动适应每个参数的学习率。 | |
Adadelta | Adadelta 是一个基于梯度下降的学习算法,可以随时间调整适应每个参数的学习率。 | |
gradient descent | 梯度下降 | |
SGD:Stochastic Gradient Descent | 随机梯度下降 | |
conjugate gradient | 共轭梯度 | |
least squares | 最小二乘法 | |
Softmax | Softmax 函数通常被用于将原始分数(raw score)的矢量转换成用于分类的神经网络的输出层上的类概率(class probability)。 | |
Vanishing Gradient Problem | 梯度消失问题 | 解决这一问题的常用方法是使用 ReLU 这样的不受小梯度影响的激活函数,或使用明确针对消失梯度问题的架构,如LSTM。 |
word2vec | word2vec 是一种试图通过预测文档中话语的上下文来学习词向量(word embedding)的算法和工具 | |
NMT:Neural Machine Translation | 神经网络机器翻译 | |
LSTM:Long Short-Term Memory | 长短期记忆 | 网络通过使用内存门控机制防止循环神经网络(RNN)中的梯度消失问题 |
orthogonalization | 正交化 | |
Activation Function | 激活函数 | 最常用的函数包括 sigmoid、tanh、ReLU |
additive noise | 加性噪声 | |
autoencoder | 自编码器 | |
derivative | 导函数 | |
eigenvalue | 特征值 | |
eigenvector | 特征向量 | |
feature matrix | 特征矩阵 | |
feature standardization | 特征标准化 | |
error term | 残差 | |
fine tuning (transfer training)
|
微调 | |
local optima | 局部最优解 | |
logistic regression | 逻辑回归 | |
loss function | 损失函数 | |
non-convex function | 非凸函数 | |
non-linear feature | 非线性特征 | |
norm | 范式 | |
normalization | 归一化 | |
object detection | 物体检测 | |
objective function | 目标函数 | |
under-fitting | 欠拟合 | |
over-fitting | 过拟合 | |
pretrain | 预训练 | |
redundant | 冗余 | |
regularization | 正则化 | |
regularization term | 正则化项 | |
rescaling | 缩放 | |
robust | 鲁棒性 | |
singular value | 奇异值 | |
mean and variance | 均值和方差 | |
squared-error | 方差 | |
the rate of convergence | 收敛速度 | |
translation invariant | 平移不变性 | |
weight decay | 权重衰减 | |
whitening | 白化 | |
sparsity parameter | 稀疏性参数 | |
RPN, region proposal network | 区域生成网络 |
2. 历届ILSVRC部分冠亚军结果
- ImageNet介绍
ImageNet是一个超过15 million的图像数据集,大约有22,000类。
ImageNet是由李飞飞团队从2007年开始,耗费大量人力,通过各种方式(网络抓取,人工标注,亚马逊众包平台)收集制作而成,它作为论文在CVPR-2009发布。当时人们还很怀疑通过更多数据就能改进算法的看法。
深度学习发展起来有几个关键的因素,一个就是庞大的数据(比如说ImageNet),一个是GPU的出现
。(还有更优的深度模型,更好的优化算法,可以说数据和GPU推动了这些的产生,这些产生继续推动深度学习的发展)。
- ILSVRC冠亚军
年 | 网络/队名 | val top-1 | val top-5 | test top-5 | 备注 |
---|---|---|---|---|---|
2012 | AlexNet | 38.1% | 16.4% | 16.42% | 5 CNNs |
2012 | AlexNet | 36.7% | 15.4% | 15.32% | 7CNNs。用了2011年的数据 |
2013 | OverFeat | 14.18% | 7 fast models | ||
2013 | OverFeat | 13.6% | 赛后。7 big models | ||
2013 | ZFNet | 13.51% | ZFNet论文上的结果是14.8 | ||
2013 | Clarifai | 11.74% | |||
2013 | Clarifai | 11.20% | 用了2011年的数据 | ||
2014 | VGG | 7.32% | 7 nets, dense eval | ||
2014 | VGG(亚军) | 23.7% | 6.8% | 6.8% | 赛后。2 nets |
2014 | GoogLeNet v1 | 6.67% | 7 nets, 144 crops | ||
- | GoogLeNet v2 | 20.1% | 4.9% | 4.82% | 赛后。6 nets, 144 crops |
- | GoogLeNet v3 | 17.2% | 3.58% | 赛后。4 nets, 144 crops | |
- | GoogLeNet v4 | 16.5% | 3.1% | 3.08% | 赛后。v4+Inception-Res-v2 |
2015 | ResNet | 3.57% | 6 models | ||
2016 | Trimps-Soushen | 2.99% | 公安三所 | ||
2016 | ResNeXt(亚军) | 3.03% | 加州大学圣地亚哥分校 | ||
2017 | SENet | 2.25% | Momenta 与牛津大学 |
评价标准:top1是指概率向量中最大的作为预测结果,若分类正确,则为正确;top5则只要概率向量中最大的前五名里有分类正确的,则为正确
。
深度学习专业术语之英文介绍——附含历届ILSVRC冠亚军结果相关推荐
- 神经网络 深度学习 专业术语解释(Step, Batch Size, Iteration,Epoch)
1. 名词解释 Step: 训练模型的步数 Batch Size(批尺寸): 计算梯度所需的样本数量,太小会导致效率低下,无法收敛.太大会导致内存撑不住,Batch Size增大到一定程度后,其下降方 ...
- 【AI超级美发师】深度学习算法打造染发特效(附代码)
[新智元导读]如今,在类似天天P图.美图秀秀等手机APP中,给指定照片或视频中的人物更换头发颜色已经是再正常不过的事情了.那么本文便介绍了该功能背后如AI头发分割模块.头发换色.颜色增强与修正模块等技 ...
- 深度学习(二)——深度学习常用术语解释, Neural Network Zoo, CNN, Autoencoder
Dropout(续) 除了Dropout之外,还有DropConnect.两者原理上类似,后者只隐藏神经元之间的连接. 总的来说,Dropout类似于机器学习中的L1.L2规则化等增加稀疏性的算法,也 ...
- [深度学习] 分布式Tensorflow 2.0 介绍(二)
[深度学习] 分布式模式介绍(一) [深度学习] 分布式Tensorflow 2.0介绍(二) [深度学习] 分布式Pytorch 1.0介绍(三) [深度学习] 分布式Horovod介绍(四) 一 ...
- HALCON 21.11:深度学习笔记---术语表(7)
HALCON 21.11:深度学习笔记---术语表(7) HALCON 21.11.0.0中,实现了深度学习方法.下面,我们将描述深度学习环境中使用的最重要的术语: anchor (锚) Anchor ...
- 深度学习推荐系统之wide deep介绍和代码实现
阅读前思考 在你的应用场景中,哪些特征适合放在Wide侧,哪些特征适合放在Deep侧,为什么呢? 为什么Wide部分要用L1 FTRL训练? 为什么Deep部分不特别考虑稀疏性的问题? 系列导读 深度 ...
- 深度学习常用的训练数据集介绍以及下载
前言:数据是深度学习的血液,本文介绍一下当前非常常见的一些数据集. 1 ImageNet ImageNet是一个计算机视觉系统识别项目,是目前世界上图像识别最大的数据库.是美国斯坦福的计算机科学家李飞 ...
- 会计方面专业术语的英文翻译
会计方面专业术语的英文翻译 acceptance 承兑 account 账户 accountant 会计员 accounting 会计 accounting system 会计制度 accounts ...
- 深度学习目标检测:YOLOv5实现车辆检测(含车辆检测数据集+训练代码)
深度学习目标检测:YOLOv5实现车辆检测(含车辆检测数据集+训练代码) 目录 深度学习目标检测:YOLOv5实现车辆检测(含车辆检测数据集+训练代码) 1. 前言 2. 车辆检测数据集说明 (1)车 ...
最新文章
- centos7下Gitlab+Jenkins部署持续集成CI环境
- github 修改项目为public_GitHub仓库中项目的语言属性可以这样修改,有点简单
- java Parallel gc_JVM Parallel Scavenge GC日志详解
- python-opencv图像处理之SURF函数
- linux里强制覆盖,Linux cp 强制覆盖(示例代码)
- C语言题目——三子棋游戏
- 【牛客网】马三来刷题之顺时针旋转矩阵
- NVIDIA显卡架构
- SQL 语句:不得使用外键与级联,一切外键概念必须在应用层解决
- CSDN的迷你博客为什么冷冷清清?
- Java 下载 Excel文件打不开
- Linux远程ssh破解
- JAVA的GUI编程02——事件监听(ActionListener)、TextField事件监听、(组合、内部类)
- 1000瓶无色无味的药水,其中有一瓶毒药,10只小白鼠拿过来做实验
- c# github 录屏_C#录制视频 - osc_mfn168vg的个人空间 - OSCHINA - 中文开源技术交流社区...
- 函数加密_同态加密__密码学课堂笔记
- 常用的视频格式文件WEB端播放代码
- FPGA学习笔记——wire和reg数据以及组合逻辑和时序逻辑
- MIT6.830 lab2 一个简单数据库实现
- 计算机一级水平试题,一级计算机考前水平试题及答案解析