机器学习LR模型，在面试中经常被问到的问题

面试机器学习岗位或者算法岗位，经常会被问到一些机器学习算法，其中还有很多细节性的知识。在面试中接触到的LR模型是最多的，为什么？大概原因是LR在公司中用的比较多，这时你可能会问了，这个算法不是很简单吗，性能一般是比不上集成学习算法的。对的，确实是这样，但是公司做应用时不仅仅需要考虑性能，还得考虑效率，简单高效很重要。

1.之前听其他面试者说，遇到过写LR中损失函数的推导，也就是从概率一般式开始，运用似然函数求解概率最大（被问到：为什么可以用似然函数。答：因为目标是要让预测为正的的概率最大，且预测为负的概率也最大，即每一个样本预测都要得到最大的概率，将所有的样本预测后的概率进行相乘都最大，这就能到似然函数了。）即：

然后取对数：再乘以负的m分之一，就得到了损失函数。

2.逻辑回归为什么一般性能差？LR是线性的，不能得到非线性关系，实际问题并不完全能用线性关系就能拟合。

3.使用L1L2正则化，为什么可以降低模型的复杂度？模型越复杂，越容易过拟合，这大家都知道，加上L1正则化给了模型的拉普拉斯先验，加上L2正则化给了模型的高斯先验。从参数的角度来看，L1得到稀疏解，去掉一部分特征降低模型复杂度。L2得到较小的参数，如果参数很大，样本稍微变动一点，值就有很大偏差，这当然不是我们想看到的，相当于降低每个特征的权重。

4.那么为什么L1能得到稀疏解呢？L1正则化是L1范数而来，投到坐标图里面，是棱型的，最优解在坐标轴上取到，所以某些部分的特征的系数就为0。

5.L1正则化不可导，怎么求解？坐标轴下降法（按照每个坐标轴一个个使其收敛），最小角回归（是一个逐步的过程，每一步都选择一个相关性很大的特征，总的运算步数只和特征的数目有关，和训练集的大小无关）

6.。。。。

以上都是个人的理解，有误请指出。

机器学习LR模型，在面试中经常被问到的问题相关推荐

淘宝十年资深程序员在面试中最爱问的秒杀的面试题
淘宝十年资深程序员在面试中最爱问的秒杀的面试题文章目录淘宝十年资深程序员在面试中最爱问的秒杀的面试题 1.什么是秒杀?秒杀是什么场景? 2.秒杀场景下有哪些挑战?如何应对这些挑战? 3.如何防止商 ...
Python培训常识：Python面试中常被问到的几种设计模式要知道
学习Python技术大家都是为了日后能够找到适合自己的工作岗位,那么除了要学习好Python技术外,对于面试环节的问题也要有所了解,本期小编为大家介绍的Python培训教程就算关于Python面试中常 ...
面试中经常会问的智力题，来看看你会做几道
转载自面试中经常会问的智力题,来看看你会做几道下面是大部分题目来自滴滴出行2017秋招题.开始头脑风暴吧~~~ 问题 question one 有50家人家,每家一条狗.有一天警察通知,50条 ...
这些面试中经常被问到的线程池问题，你都能回答的上来吗？
点击上方"Java知音",选择"置顶公众号" 技术文章第一时间送达! 作者:Real_man juejin.im/post/5e435ac3f265da5753 ...
e - 数据结构实验之查找五:平方之哈希表_面试中常被问到的Hash表，你了解吗
#新人扶持计划# Hash表在面试中经常被问到,今天我们来了解下. Hash表也称散列表,也有直接译作哈希表,Hash表是一种特殊的数据结构,它同数组.链表以及二叉排序树等相比较有很明显的区别,它能够 ...
（免费领取Java面试题）Java面试中经常被问到的问题
(免费领取Java面试题)Java面试中经常被问到的问题免费领取Java面试题 -------------https://blog.csdn.net/kaikeba/article/details/ ...
面试中，被问到“哑口无言”的瞬间怎么办？
在面试过程中,可能会遇到各种意想不到的问题,有些问题会让你感到非常自信,而有些问题却会让你感到犯愁,甚至哑口无言.这种情况发生时,如何应对是很关键的.面试中,被问到"哑口无言"的瞬 ...
面试中常被问到（11）虚函数/纯虚函数
虚函数如何定义一个虚函数?在基类成员函数前加入virtual关键字,但并不代表此函数不被实现,只是说明允许基类指针调用派生类重写的此函数一个类只要声明有虚函数或者从基类继承了虚函数,在编译过程中就 ...
AUC/ROC：面试中80%都会问的知识点
本文分享自华为云社区<技术干货 | 解决面试中80%问题,基于MindSpore实现AUC/ROC>,原文作者:李嘉琪. ROC/AUC作为机器学习的评估指标非常重要,也是面试中经常出现的 ...

机器学习LR模型，在面试中经常被问到的问题

机器学习LR模型，在面试中经常被问到的问题相关推荐

最新文章

热门文章