【转自机器之心】

去年上海科技大学 AI 实验室开源了一份深度学习面试题集锦，它从数学基础、经典机器学习算法、深度学习算法以及编程语言等方面提供了众多面试题。此外，这一个项目是作者在准备 2018 年春招实习过程中的总结，内容以计算机书籍的学习笔记为主，在整理重点知识的同时会尽量保证知识的系统性。

项目地址：https://github.com/ShanghaiTechAIClub/DLInterview

数学基础相关

1. 概率与数理统计

一个袋子里有 100 个黑球和 100 个白球，每次随机拿出两个球丢掉，如果丢掉的是不同颜色的球，则从其他地方补充一个黑球到袋子里，如果颜色相同，则补充一个白球到袋子里。问：最后一个球是黑球和白球的概率分别为多大？

1. 智商题

A 容器中有 4L 沙子，B 容器中有 4L 米，假设米和沙子密度一样。有一个 C 容器是 300ml, 第一步，用 C 从 A 中舀 300ml 到 B 中，混合均匀，第二步，用 C 从 B 冲舀 300ml 到 A 中混合均匀。再重复第一步和第二步，问这四步之后，A 中的米和 B 中的沙子谁多？

1. 答题挑战赛

在机器之心 AI 答题挑战赛中我们对线性代数、概率论和最优化方法等数学基础提了一些有意思的题目：

1. 数学中哪一个子领域以随机事件为研究对象？
   A. 概率论；B. 微积分；C. 数学分析；D. 线性代数

2. 概率论中的贝叶斯法则与下面哪个元素无关？
   A. 事件概率；B. 自由概率；C. 条件概率；D. 联合概率

3. 在概率论中，中心极限定理与下列哪一项有关？
   A. 均匀分布；B. 假设检验；C. 贝叶斯法则；D. 依概收敛

4. 在概率论中，大数定律与下列哪一项无关？
   A. 数学方差；B. 条件概率；C. 独立性；D. 数学期望

5. 下面哪一个分布不属于连续型分布？
   A. 指数分布；B. 均匀分布；C. 泊松分布；D. 正态分布

以上题目答案：ABDBC

1. 下面哪一项不是线性代数涉及的主题？
   A. 行列式；B. 矩阵微分；C. 代数几何；D. 线性方程组求解

2. 一阶张量是什么？
   A. 向量；B. 标量；C. 元组；D. 矩阵

3. 列向量左乘行向量得出什么？
   A. 矩阵；B. 标量；C. 向量；D. 矢量

4. 矩阵的秩（rank）是指什么？
   A. 最大线性相关向量组数；B. 对角线元素之和；C. 最大线性无关向量组数；D. 对角元素之差

5. 下面哪一项与雅可比（Jacobian）矩阵无关？
   A. 线性代数；B. 微积分；C.Carl Gustav Jacob Jacobi；D. 概率论

以上题目答案：CAACD

1. 下列与梯度下降无关的是？
   A. 最速下降法；B. 坐标下降法；C. 一阶导数；D. 随机梯度下降法

2. 下列会使用 Hessian 矩阵的最优化方法是？
   A. 拟牛顿法；B. 共轭梯度法；C. 梯度下降法；D. 牛顿法

3. 一般机器学习中所说的牛顿法是什么？
   A. 概率论方法；B. 最优化方法；C. 微积分方法；D. 物理学方法

4. 在最优化方法中，共轭梯度法有什么特点？
   A. 比梯度下降收敛快；B. 采用二阶梯度；C. 沿梯度向下降；D. 比牛顿法收敛快

以上题目答案：BDBA

机器学习基础相关

1. 概率与统计相关

最大似然估计和距离度量之间的关系是什么？
如何理解最小二乘与最大似然估计？

1. 线性代数相关

A 和 B 是两个矩阵，求 tr（A’B）,A’指 A 的转置。（写出来后，我没有检查 AB 是否 size 相同，他说应该考虑这种边界条件，并说你考虑了 AB 是否空矩阵这是比较好的一点）。

1. 经典 ML 模型

3.1 SVM 模型

• 讲一讲 SVM，知道多少说多少？为什么要用对偶问题求解?(今日头条)
  简单讲一下 BP 是如何计算的？

• SVM 加核函数用过吗？讲一讲其中的差别？(今日头条)
  训练样本多，维度大就可以用核函数；如果样本少，用核函数比较容易过拟合

• SVM 在训练的时候有没有遇到 hard example？(今日头条)
  SVM 对 hard example 的应用很重要，先用一部分训练集训练一个模型，然后用剩下的一部分训练集的一部分做测试，把出错的再送入重新训练，重复二三次，效果会比较好

• 怎样选择 SVM 核函数？多项式核和 RBF 核的关系？

• 说一说 LR 和 SVM 的损失函数。

3.2 PCA

• 讲一下 PCA，为什么是方差最大?
• 如何推导 PCA，具体针对推导问很多为什么。

3.3 XGBoost

• 了解提升方法吗？你能解释一下最基础的 AdaBoost 算法，以及提升树算法吗？
• XGBoost 了解吗？你能解释一下 XGBoost 的核心思想及主要做法吗？

3.4 其它

• 讲一下生成模型和判别模型有什么区别
• 你觉得滴滴打车的拼车价是怎么计算出来的，详细描述。（路径规划，订单预测之类的）
• 你觉得滴滴打车的溢价，1.1 倍，1.2 倍，这些数值是怎么计算出来的？（订单预测，当前司机数量），目的是什么？
• 推导 BP，神经网络的求导及反向传播过程是怎么样的？（可以用均方损失函数）

1. 答题挑战赛

在机器之心 AI 答题挑战赛中我们对经典机器学习方法提了一些有意思的题目：

1. 如果没有非线性激活函数，10 层的神经网络和多少层的神经网络等效？
   A.1 层；B. 以上都对；C.10 层；D.5 层

2. 对神经网络执行权重衰减或删除是什么操作？
   A. 归一化；B. 正则化；C. 简化；D. 量化

3. 要获得损失函数表面的曲率信息，需要求解损失函数的什么结构？
   A. 混淆矩阵；B.Jacobian 矩阵；C.Hessian 矩阵；D. 邻接矩阵

4. 不属于降维方法的是？
   A.PCA；B. 自编码器；C.t-SNE；D. 支持向量机

5. 把参数分布吸引到球形域是什么正则化方法？
   A.L2；B.L1；C.L0；D.L∞

以上题目答案：BBCDA

深度学习基础相关

1. CNN

• CNN 为什么可以在 CV/NLP/Speech 等领域都可以使用？
• 什么样的数据适合 Deep learning?
• 1×1 卷积的作用是什么？
• 给你几个输入张量与卷积核，你能手动算一下卷积得出的特征图吗？
• 一维卷积是怎样做的，你能画一下它大概图示吗？
• 从 AlexNet、VGG-Net 到 ResNet 介绍一下主流的卷积神经网络架构。
• 从 Inception-V1 到 Inception-ResNet，介绍一下 Inception 家族的发展以及不同之处。
• 你能介绍一下目标检测，及该任务主要使用的模型及方法吗？

1. 过拟合 (Overfitting)

• 何为共线性，跟过拟合有啥关联？如何解决共线性这种问题？
  多变量线性回归中，变量之间由于存在高度相关关系而使回归估计不准确。
• 如何解决 Overfitting 问题，主要有哪些方法？

1. 损失函数

• 交叉熵和相对熵（KL 散度）之间的关系是什么？KL 散度有哪些特性？
• 你了解 SVM 常用的合页损失函数吗？它能不能用在深度模型上？
• 你能解释一下 L1 和 L2 正则化的原理吗？这两种正则化有什么不同？
• 为什么神经网络的损失函数是非凸的，最优化非凸函数会遇到什么问题？

1. RNN

• RNN 有什么缺陷以及 LSTM 是如何怎么解决的？
• GRU 以及 Minimal GRU 都是什么样的，它们的运行机制以及精简的门控都是哪些？
• 你能用函数抽象表达出循环神经网络吗？它与卷积神经网络的抽象表达有什么不同？

1. GAN

• 介绍一下 GAN，讲一讲生成器和判别器以及他们的关系。
• 原版生成对抗网络那个目标函数（极小极大博弈）能理解吗？能不能解释一下这个目标函数。
• WGAN 相比于 GAN 主要改进在哪里，你能解释一下 Wasserstein 距离？

1. 其它

• 深度学习是万能的吗？什么地方不适用，如果给你一个任务，你如何选择用深度学习还是传统的如 SVM？
• 深度学习的待学习的参数量和训练样本数量之间的关系是什么样的？
• 什么是梯度消失和爆炸，解释一下它们形成的原因。
• 为什么梯度相反的方向是函数下降最快的方向？

深度学习面试题集锦【1】相关推荐

1. Github深度学习面试题答案

   Github深度学习面试题答案(一)-- 深度学习相关 本文是对于github上一篇关于无人驾驶的深度学习方面提问的 ''部分个人见解+论坛内外对该问题的解答'' 本文属于搬运+整合的笔记贴,主要是为 ...

2. 深度学习 autoencoder_面试宝典之深度学习面试题(下)

   点击上方"Python全家桶","星标"或"置顶" 关键时刻,第一时间送达 今天已经是三月十一号,金三银四的金三已经过了三分之一,不知道大家 ...

3. 深度学习面试题——深度学习的技术发展史

   深度学习面试题--深度学习的技术发展史 提示:机器学习和深度学习在大厂中可能要考的东西 <百面机器学习和百面深度学习>一书,在面试前好好看! 深度学习的三次浪潮 说说分类网络的发展 为什么 ...

4. 深度学习经典试题29道

   所有试题来自公众号[读芯术]课后测试 深度学习中的"深度"是指 A. 计算机理解深度 B. 中间神经元网络的层次很多 C. 计算机的求解更加精确 D. 计算机对问题的处理更加灵活 ...

5. 大厂必考深度学习面试题及参考答案

   目录 一,滤波器与卷积核 二,卷积层和池化输出大小计算 2.1,CNN 中术语解释 2.2,卷积输出大小计算(简化型) 2.3,理解边界效应与填充 padding 参考资料 三,深度学习框架的张量形状 ...

6. 深度学习面试题09：一维卷积（Full卷积、Same卷积、Valid卷积、带深度的一维卷积）...

   目录 一维Full卷积 一维Same卷积 一维Valid卷积 三种卷积类型的关系 具备深度的一维卷积 具备深度的张量与多个卷积核的卷积 参考资料 一维卷积通常有三种类型:full卷积.same卷积和v ...

7. lstm不收敛_20道深度学习面试题，有你不知道的吗？

   前言 来源于GitHub上大神整理的20到深度学习非常经典的20问,一起来看看吧! (1)CNN权值共享问题 首先权值共享就是滤波器共享,滤波器的参数是固定的,即是用相同的滤波器去扫一遍图像,提取一次 ...

8. ktt算法 约化_深度学习面试题

   1.列举常见的一些范数及其应用场景,如L0,L1,L2,L∞,Frobenius范数 答:p39-p40 ;还有p230-p236有regularization的应用 2.简单介绍一下贝叶斯概率与频率 ...

9. 2019年机器学习/ 深度学习热门论文集锦

   作者:Derrick Mwiti 来源:http://t.cn/AieEBzZx 翻译整理:深度传送门 我有幸在2019年编写了许多有关探索最前沿的机器学习和深度学习研究的文章(您可以在此处[1]找到 ...

10. 深度学习面试题总结1-20

    1.CNN的卷积核是单层还是多层的? 描述网络模型中某层的厚度,通常用名词通道channel数或者特征图feature map数.不过人们更习惯把作为数据输入的前层的厚度称之为通道数(比如RGB三色图 ...

最新文章

1. 《Programming WPF》翻译 第7章 3.笔刷和钢笔
2. vue-router学习笔记
3. 《黑客与画家》读后感
4. POJ 2728 Desert King [最优比率生成树]
5. 委托的Invoke 和 BeginInvoke 与Control的Invoke和BeginInvoke(转-因为写得很好)
6. 图解SQLite教程
7. Spring框架学习笔记05：Spring AOP基础
8. 在Oracle用SQL处理以 System.currentTimeMillis
9. sql视图查询对象无效_SQL数据分析 - 4 复杂查询
10. UVA 11732 - strcmp() Anyone?(Trie)
11. 《Cisco/H3C交换机高级配置与管理技术手册》目录
12. vue实现分屏_VUE视频怎么分镜 VUE视频如何进行分镜编(图文步骤)
13. c语言----斐波那契数列
14. 通过函数seaborn.cubehelix_palette生成顺序调色板
15. [BZOJ1984]月下“毛景树”（树链剖分）
16. WebAPIs-第01天笔记
17. Selenium基于Python web自动化测试框架 —— PO模型
18. python判断数字在不在范围内_我的程序在python中完成数字并且不确定我是否应该在范围内使用(1,1000)或(2,n 1)...
19. CentOS下的服务器审计系统:script
20. 分库分表之MyCat详解

热门文章

1. c语言质数咋求,C语言求质数的方法
2. Xshell5 注册码 ,Xftp5 注册码，Xmanager5注册码
3. 一个简单的例子开启Spark机器学习
4. 校招行测笔试-图形推理
5. 三. SECS/GEM封装库RapidSecs开发手记-SECS/GEM基础知识-1
6. 命令行安装卸载驱动服务
7. Windows打开dcm文件、dcm文件批量转其它图片文件格式
8. python中判断字符串是否为空方法
9. 系统分析师学习笔记（八）
10. 菏泽智伴机器人_智伴机器人招商