部分习题来自黄海广老师的慕课《机器学习》的课后习题，答案暂不公布，可以留言讨论。

课程链接：

https://www.icourse163.org/course/WZU-1464096179

回归部分习题

单选题

1. 以下哪组变量之间存在线性回归关系？( )

A.  正方形的边长与面积

B. 学生的性别与他的成绩

C. 儿子的身高与父亲的身高

D. 正三角形的边长与周长

2.回归问题和分类问题的区别是？( )

A. 回归问题有标签，分类问题没有

B. 回归问题输出值是连续的，分类问题输出值是离散的

C. 回归问题输出值是离散的，分类问题输出值是连续的

D. 回归问题与分类问题在输入属性值上要求不同

3. 以下说法错误的是？( )

A. 最小二乘法不需要选择学习率

B. 残差是预测值与真实值之间的差值

C. 正则项的目的是为了避免模型过拟合

D. 损失函数越小，模型训练得一定越好

4.哪些算法不需要数据归一化？( )

A. K-means

B. KNN

C. 决策树

D. SVM

5.以下哪些方法不能用于处理欠拟合？( )

A. 增加模型复杂度

B. 增加新的特征

C. 增大正则化系数

D. 对特征进行变换，使用组合特征或高维特征

6.以下哪些方法不能用于处理过拟合？( )

A. 增加数据属性的复杂度

B. 对数据进行清洗

C. 增大训练数据的量

D. 利用正则化技术

7.下列关于线性回归分析中的残差(Residuals)说法正确的是？( )

A. 残差均值总是小于零

B. 残差均值总是为零

C. 残差均值总是大于零

D. 以上说法都不对

8.为了观察测试 Y 与 X 之间的线性关系，X 是连续变量，使用下列哪种图形比较适合？( )

A. 直方图

B. 柱形图

C. 散点图

D. 以上都不对

9.假如你在训练一个线性回归模型，则：

1. 如果数据量较少，容易发生过拟合。

2. 如果假设空间较小，容易发生过拟合。

关于这两句话，下列说法正确的是？( )

A. 1 错误，2 正确

B. 1 和 2 都错误

C. 1 正确，2 错误

D. 1 和 2 都正确

10.关于特征选择，下列对 Ridge 回归和 Lasso 回归说法正确的是？( )

A. Ridge 回归适用于特征选择

B. Lasso 回归适用于特征选择

C. 两个都适用于特征选择

D. 以上说法都不对

11.构建一个最简单的线性回归模型需要几个系数(只有一个特征)？( )

A. 1 个

B. 2 个

C. 3 个

D. 4 个

12. 向量x=[1,2,3,4,-9,0]的L1范数是多少？( )

A. 1

B. 19

C. 6

D. √111

多选题

13. 以下哪些是使用数据规范化(特征缩放)的原因？( )

A. 它通过减少迭代次数来获得一个好的解，从而加快了梯度下降的速度

B. 它防止矩阵X^T X不可逆(奇异/退化)

C. 它通过降低梯度下降的每次迭代的计算成本来加速梯度下降

D. 它不能防止梯度下降陷入局部最优

14. 线性回归中，我们可以使用最小二乘法来求解系数，下列关于最小二乘法说法正确的是?( )

A.不需要选择学习率

B.当特征数量很多的时候，运算速度会很慢

C.不需要迭代训练

D.只适用于线性模型，不适合逻辑回归模型等其他模型

15. 欠拟合的处理主要有哪些方式：( )

A.添加新特征

B.增加模型复杂度

C.减小正则化系数

D.增大正则化系数

16. 假如使用一个较复杂的回归模型来拟合样本数据，使用 Ridge回归，调试正则化参数,来降低模型复杂度，若正则化系数较大时，关于偏差(bias)和方差(variance)，下列说法正确的是?( )

A.偏差减小

B.偏差增大

C,方差减小

D.方差增大

判断题

17. 如果两个变量相关，那么它们一定是线性关系。( )

18. 过拟合的处理可以通过减小正则化系数。( )

19.随机梯度下降，每次迭代时候，使用一个样本。( )

20. L_2正则化往往用于防止过拟合，而L_1正则化往往用于特征选择。( )