3.3 广义 ARMA 模型和 ARIMA 模型介绍

一、广义 ARMA 模型

（1）定义

我们把 ARMA 模型中关于多项式 A(z),B(z) 的最小相位条件去掉（即允许有单位圆内的根），其余定义相同，得到的就是广义 ARMA 模型。

（2）平稳解情况

如果 A(z) 在单位圆上有根，那么广义 ARMA 模型没有平稳解。

如果 A(z) 在单位圆上没有根，则有

内解析，可以进行 Laurent 级数展开（在单位圆内按正常展开，单位圆外则用倒数来替代）得到

其中两头系数通项都负指数趋于 0，所以整体系数也负指数趋于 0，进而由唯一平稳解

但这个平稳解中，现在的观察值会与将来的白噪声有关，并没有实际意义。此外，根据齐次差分方程理论，对于

其特征多项式有单位圆内的根，因此通解是趋于无穷的，所以这时广义 ARMA 的其他解（通解）会趋于无穷，称为爆炸模型。

二、求和 ARIMA(p,d,q) 模型

（1）定义

设 d 是一个正整数，如果

是一个 ARMA(p,q) 序列（最后一个等号利用二项式定理展开），则称

其中 A(z),B(z) 都按照 ARMA 模型的定义。

注：通常取 d=1,2，且该模型不存在平稳解

（2）非平稳解的讨论

情形 d=1：即 ARIMA(p,1,q) 模型，这时

可以通过产生 ARMA(p,q) ，进而利用该递推式来得到 ARIMA(p,1,q) 序列。该模型也称为单位根模型，当样本数据不太大时，与平稳序列差异不大，不容易区分。

将单位根模型与如下趋势模型进行对比：

其中 Y 是 ARMA(p,q) 序列。

单位根模型与趋势模型得到的都是非平稳序列，单位根模型通过一次差分后，序列变为平稳；趋势模型通过减去趋势项，序列也变为平稳。但单位根模型减去趋势项，仍非平稳。

情形 d=2：即 ARIMA(p,2,q) 模型，这时

是一个 ARMA(p,q) 序列。由此可以得到递推关系如下

两边对 t 求和（从 1 到 n1）得到

到这里就得到了类似 ARIMA(p,1,q) 模型，移项得到

再对 n1 求和（从 1 到 t ）得到

从这可以看出有一部分线性趋势，但如果减掉，剩下的还是一个类似 ARIMA(p,1,q) 序列，仍然是非平稳的。其通解可以写为如下形式

类似地可以推广到 ARIMA(p,d,q) 情形，其通解为

形式上看，它的通解为 ARMA 序列的 d 重求和，加上一个多项式的趋势。

（3）几种特殊情形

a. ARI(1,1) 模型（即 ARIMA(1,1,0)），差分后得到 AR(1) 序列

或

其中 a 的模小于 1，看上去是 AR(2) 但并不是，因为根在单位圆内了！

将其非平稳解表示成 wold 系数的形式

将 wold 系数形式代回原模型，可以得到 wold 系数的递推关系（此处不要求，步骤略写，但思想需要掌握）

结合初值得到

可以看出 wold 系数并不收敛于 0，所以 X_t 是非平稳的。

b. IMA(1,1) 模型（即 ARIMA(0,1,1)）--商业和经济中常用

模型为

设序列首次观测的时间为 -m ，则在此之前（ t<-m ）没有观测值，都记为 0.

那么由模型不断递推得到

这时一个 MA(t+m+1) 模型。

其方差为系数的平方和

对于较大的 m 和中等大小的 k，相关系数近似为

其中协方差与 X_t 的方差只在 ε_t 的系数部分有差别。

可见，当 t 增大时，方差会无限增大。并且对于多个滞后期数 k，

三、季节 ARMA 模型

（1）季节 MA 模型

例如我们拿到了 2000-2020 年每个月份的数据，那么我们将数据按月份分为 12 组，对每组的数据用 MA 模型来建模，就得到季节 MA 模型。如果数据是按季度分的，也是同理。

此时模型为

计算自协方差函数如下

序列是平稳的，并且仅在滞后 12 处才有非零的自相关性。这样得到的每一个月份都是同一个 MA 模型。

现在我们考察周期为 s 的 MA(Q) 模型：

从形式上看，季节 MA(Q) 模型也就是 MA(Qs) ，只不过其中很多系数都是 0。

同样地，它也是平稳序列，并且自相关系数只在 s, 2s, 3s, ... , Qs 处非零，具体表达式如下

分母是系数的平方和，分子是系数错一位的乘积和。

（2）季节 AR 模型

类似地，季节 AR(1) 模型为

因为根在单位圆外，所以将来的白噪声和过去的观察值是不相关的。两边同乘

递推可得

其中第二行利用

利用 AR 模型的方法可以得到季节 AR(1) 模型的平稳解为

同样可以推广到季节 AR(p) 模型

特征多项式满足

（3）季节 ARMA 模型

定义周期为 s 的季节

这里的 p,q 为

问：这里为什么要多出

答：如果没有

如果按之前（1）（2）来建立模型

这时白噪声不应该是白噪声，而应该是一个 ARMA(p,q) 序列，这就得到了上面的定义。

例：考虑季节 ARMA 模型

将后移算子展开得到

计算自协方差和自相关系数如下

一个小发现：

其自协方差函数不会很快趋于0，而是具有一定的周期性。

例：考察模型

两边同乘

经常用到：将来的白噪声和现在的观测值不相关。

由第二行同除

由第二行取 k = 11，并结合第一行可以解得

对于其余的 k（例如 2），第二行分别用 2 和 10 来代，解得两个自协方差函数都是 0，进而自相关函数都是 0.

（4）非平稳季节 ARIMA 模型

如果

说明：

实际问题中 d 和 D 都很小，一般 D=0 或 1，如果取更大，那么上升速度就过快了，不是爆发的阶段一般不这么取。

回顾建模步骤：

考察如下的周期 12 ， N 年的数据

对第 j 列数据，将其中心化（减去均值，记为 Z ）后，可以拟合一个 ARMA(p,q) 序列。

之前提到，如果这里的白噪声真的就是白噪声，那么不同季节之间不相关，显然不合理。

所以假设这时的

进而得到季节 ARMA 模型

但这样的模型没有考虑随年份，随季节的递增趋势，所以上面的 Z 实际上应该要经过差分才能得到，而不仅仅是中心化。

由差分后得到的 Z 结合之前的季节 ARMA 模型，可以得到关于 Y 的季节 ARIMA 模型

第四章 均值和自协方差函数的估计

4.1 均值的估计

通过之前对不同模型的介绍，我们了解到 AR,MA,ARMA 模型的参数都可以由其自协方差函数唯一确定。因此如何由样本来估计自协方差函数是关键的。

估计量是自然的：用样本均值估计总体均值，样本自协方差函数估计总体自协方差函数。

但这里需要考虑几个问题：相合性、渐近分布、收敛速度。

（一）相合性

定理：平稳序列的自协方差函数收敛到0，那么样本均值是总体均值的相合估计。

根据定义，求样本均值与总体均值的均方误差

第二个等号把求和平方写成双重求和，然后得到自协方差函数（第三个等号），再做求和指标的变换。第四个等号：类似二重积分的交换次序，先考虑 m 的范围，容易得到 1-N 到 N-1 。然后利用 m 原本的范围 1-j 到 N-j 可以得到 j 的范围是 1-m 到 N-m ，但 j 一开始已经固定在 1 到 N 中，取交集就得到这个结果。第五个等号通过对 m 的正负讨论来计数。最后一步，利用数学分析中“数列平均的极限等于通项的极限”的结论。

进而利用切比雪夫不等式

得到样本均值的相合性。

此外，如果平稳序列是严平稳且遍历的，那么样本均值是强相合的。

回顾一下，严平稳遍历序列有强大数律：

（二）中心极限定理

我们知道如果时间序列数据中每个样本点是独立同分布的，那么

有了渐近分布，计算参数的置信区间就容易了。下面讨论一般的平稳列的中心极限定理。

定理 对于线性平稳列，如果白噪声时同分布的

其中白噪声的系数平方可和（绝对可和当然更加成立），则只要平稳列的谱密度

在 0 处连续并且

其中渐近方差的计算如下（与之前相合性证明的过程一样）:

然后利用自协方差函数与谱密度的关系，可以得到定理中的

注意：如果考试让证明某个平稳列的中心极限定理，不能直接用这个定理来得到。过程应该是：把 X1+X2+...+Xt 用白噪声来表示，利用白噪声的独立性，由不同分布的中心极限定理来得到渐近正态性。