广义典型相关分析_数学建模/机器学习：广义加性模型(GAM)及其Python实现

笔者做过国赛也做过美赛，其中一类典型问题就是分析相关性，从而进行预测或者其他操作。这类问题通常情况下属于比较常规的问题，一般通过matlab或SPSS分析相关性，得到一个较好的数值即可。

然而有的时候不论取哪两个或者哪几个变量，相关性都弱得令人发指，以至于无法昧着良心继续煞有介事地絮叨他们之间的相关性，这个时候，如果变量较多，可以考虑广义相加模型，实质是分析因变量与多个自变量之间的相关性。目前国内网站只有R语言实现，在此笔者将为大家补充Python对GAM的实现。

以2020年MCM的problem a为例，鱼群的分布，或者说某一时间某一地点鱼的种群数量和纬度/经度/水温其实都没有特别强的相关性，甚至可以说很弱，那么这个时候，如果还想通过其他变量预测2070年鱼群的分布便不能用简单的相关。

在一篇1997年的文献《Trends in abundance and geographic distribution of North Sea herring in relation to environmental factors》中，作者Christos D. Maravelias为我们提供的这一思路非常值得借鉴。

Christos D. Maravelias认为可以通过对四种变量的分析对鱼群数量进行定性进而预测。

下面介绍一下这个模型。

GAM 广义相加模型 Generalized additive model

广义加性模型（GAM）是以下形式的平滑半参数模型：
g(E[y|X])=β0+f1(X1)+f2(X2,X3)+…+fM(XN)g(E[y|X])=β0+f1(X1)+f2(X2,X3)+…+fM(XN)
其中，自变量是因变量，是将我们的预测变量与因变量的期望值相关联的链接函数。X.T = [X_1, X_2, ..., X_N]yg()
特征函数f_i()是使用惩罚性B样条构建的，这使我们能够自动对非线性关系建模，而不必手动尝试对每个变量进行许多不同的转换。

GAM通过允许要素的非线性功能并同时保持可加性来扩展广义线性模型。由于模型是添加剂，它很容易检查每个效果X_i上Y分别同时举行的所有其他预测不变。
结果是一个非常灵活的模型，可以很容易地合并先验知识和控制过度拟合。

一般的广义加法模型

y∼ExponentialFamily(μ|X)y∼ExponentialFamily(μ|X)
g(μ|X)=β0+f1(X1)+f2(X2,X3)+…+fM(XN)g(μ|X)=β0+f1(X1)+f2(X2,X3)+…+fM(XN)
因此，我们可以看到GAM包含3个组成部分：distribution 来自指数族link function g(⋅)g(⋅)functional form 具有加法结构 β0+f1(X1)+f2(X2,X3)+…+fM(XN)

有了理论基础，计算不能靠手。

随后笔者找到了这个令人深刻的、强大的Python库——pygam

https://pygam.readthedocs.io/en/latest/?badge=latestpygam.readthedocs.io

pygam具有

回归

微粒

等诸多功能。

我们利用所给的数据集结合实际问题得到了某一年鱼群密度和经纬度、温度的关系，从图中可以看出在鲱鱼的适宜温度密度最高，因此将预测鱼群密度的问题转化为预测温度的问题，从而结合对历年水温的ARIMA预测所得结果对2070年鱼群迁徙做出了判断。

本文主要意义在于介绍广义相加模型GAM和pygam这一优秀的Python实现，对问题的解答乃是抛砖引玉，水平有限，欢迎探讨。