十六、平稳序列的决定性

1.非决定性平稳序列

上一篇文章中，讨论了随机变量的最佳线性预测，而时间序列是随机变量构成的序列，我们要考虑的是对时间序列进行预测，而预测用到的历史信息，就来源于时间序列的历史观测。

由于最佳线性预测源自历史与未来的相关性，所以如果想对时间序列进行预测，未来必须与过去存在一定程度的关联，否则预测就没有意义。但是，未来与过去存在的关联程度可能是不一样的，看以下几个例子：

{Xt}:Xt=Xt−1+t\{X_t\}:X_t=X_{t-1}+t{Xt}:Xt=Xt−1+t；
{Yt}:Yt=εt\{Y_t\}:Y_t=\varepsilon_t{Yt}:Yt=εt；
{Zt}:Zt=0.5Zt−1+εt\{Z_t\}:Z_t=0.5Z_{t-1}+\varepsilon_t{Zt}:Zt=0.5Zt−1+εt。

这三个例子代表的过去与未来的关联程度是各不相同的，对于{Xt}\{X_t\}{Xt}，只要知道Xt−1X_{t-1}Xt−1的值就可以直接推出XtX_tXt，也就是说Xt=L(Xt∣Xt−1)X_t=L(X_t|X_{t-1})Xt=L(Xt∣Xt−1)，这种情况下不存在预测误差；对于{Yt}\{Y_t\}{Yt}，不论知道多少历史信息Yt−1,Yt−2,⋯Y_{t-1},Y_{t-2},\cdotsYt−1,Yt−2,⋯，对YtY_tYt的预测都没有任何帮助，L(Yt∣Yt−1,⋯)=0L(Y_t|Y_{t-1},\cdots)=0L(Yt∣Yt−1,⋯)=0；而第三种情况稍微复杂一些，任意历史信息对未来都会造成一定程度的影响（0.5是影响消退因子），但即便知道所有历史信息，也不可能对未来作出精准预测，因为存在偏差项εt\varepsilon_tεt。

鉴于这种区别，我们将平稳序列分为两种，一种是由历史信息可以对未来作出精准预测的，称为决定性平稳序列；另一种是由历史信息不可能完全预测未来的，称之为非决定性平稳序列。

这种定义未免有点粗糙，以下假设平稳序列是零均值的。我们现在假设我们能够获得所有ttt时刻前的历史信息Xt,Xt−1,⋯X_t,X_{t-1},\cdotsXt,Xt−1,⋯，记
Xt,m=(Xt,Xt−1,⋯,Xt−m+1)m,\boldsymbol X_{t,m}=(X_t,X_{t-1},\cdots,X_{t-m+1})_m, Xt,m=(Xt,Xt−1,⋯,Xt−m+1)m,
这样当m→∞m\to \inftym→∞时就代表所有历史信息。精准预测意味着预测不存在误差，也就是方差为0，如果XtX_tXt是决定性平稳序列，那么就有
lim⁡m→∞E[Xt+1−L(Xt+1∣Xt,m)]2=0.\lim_{m\to \infty}{\rm E}[X_{t+1}-L(X_{t+1}|\boldsymbol X_{t,m})]^2=0. m→∞limE[Xt+1−L(Xt+1∣Xt,m)]2=0.
事实上，即使不是决定性平稳序列，这个极限也是存在的，因为随着mmm的增大，这个均方误差会回来越小（因为mmm越大蕴含的信息越多，由最佳线性预测的性质可以得到），也就是单调递减有下界0。正因此，我们将这个极限定义为一步预测的均方误差，这里的下标就是预测步数：
σ12=lim⁡m→∞E[Xt+1−L(Xt+1∣Xt,m)]2.\sigma^2_1=\lim_{m\to \infty}{\rm E}[X_{t+1}-L(X_{t+1}|\boldsymbol X_{t,m})]^2. σ12=m→∞limE[Xt+1−L(Xt+1∣Xt,m)]2.

一步预测的均方误差：定义
σ1,m2=E[Xt+1−L(Xt+1∣Xt,m)]2,\sigma_{1,m}^2={\rm E}[X_{t+1}-L(X_{t+1}|\boldsymbol X_{t,m})]^2, σ1,m2=E[Xt+1−L(Xt+1∣Xt,m)]2,
这表示用mmm个历史信息对下一个时间点进行预测的均方误差。定义
σ12=lim⁡m→∞σ1,m2,\sigma_1^2=\lim_{m\to \infty}\sigma^2_{1,m}, σ12=m→∞limσ1,m2,
这表示用全部历史信息对下一个时间点进行预测的均方误差，即一步预测的均方误差。

平稳序列的决定性：

如果σ12=0\sigma_1^2=0σ12=0，就称{Xt}\{X_t\}{Xt}是决定性平稳序列；

如果σ12>0\sigma_1^2>0σ12>0，就称{Xt}\{X_t\}{Xt}是非决定性平稳序列，σ12\sigma_1^2σ12是一步预测的均方误差。

这就是决定性平稳序列的严格定义。注意到以上的符号表示σ12,σ1,m2\sigma_1^2,\sigma_{1,m}^2σ12,σ1,m2都不含ttt，尽管在定义时使用了ttt，这也说明σ12,σ1,m2\sigma_1^2,\sigma_{1,m}^2σ12,σ1,m2的取值是与ttt无关的，这一点源自序列的平稳性。

2.平稳序列的长期预测

刚才我们定义了一步预测的均方误差σ12\sigma_1^2σ12，现在转向kkk步预测，也就是L(Xt+k∣Xt,m)L(X_{t+k}|\boldsymbol X_{t,m})L(Xt+k∣Xt,m)，相应地也可以定义kkk步预测的均方误差σk2\sigma_k^2σk2。

kkk步预测的均方误差：定义
σk2=lim⁡m→∞E[Xt+k−L(Xt+k∣Xt,m)]\sigma_k^2=\lim_{m\to \infty}{\rm E}[X_{t+k}-L(X_{t+k}|\boldsymbol X_{t,m})] σk2=m→∞limE[Xt+k−L(Xt+k∣Xt,m)]
为kkk步预测的均方误差。

这样，可以构建一个新序列{σ12,σ12,⋯,σk2,⋯}\{\sigma_1^2,\sigma_1^2,\cdots,\sigma_k^2,\cdots\}{σ12,σ12,⋯,σk2,⋯}，可以验证σk2\sigma_k^2σk2是关于kkk单调不减少的。直观上想象，随着预测距离的增大，我们能对遥远未来的把控就越小，所以预测的误差肯定会越来越大，实际上也有
σk2=lim⁡m→∞E[Xt+k−L(Xt+k∣Xt,⋯,Xt−m)]2=lim⁡m→∞E[Xt+k−1−L(Xt+k−1∣Xt−1,⋯,Xt−1−m)]2≥lim⁡m→∞E[Xt+k−1−L(Xt+k−1∣Xt,⋯,Xt−1−m)]2=σk−12.\begin{aligned} \sigma_k^2=&\lim_{m\to \infty}{\rm E}[X_{t+k}-L(X_{t+k}|X_t,\cdots,X_{t-m})]^2 \\ =&\lim_{m\to \infty}{\rm E}[X_{t+k-1}-L(X_{t+k-1}|X_{t-1},\cdots,X_{t-1-m})]^2 \\ \ge&\lim_{m\to \infty}{\rm E}[X_{t+k-1}-L(X_{t+k-1}|X_{t},\cdots,X_{t-1-m})]^2\\ =&\sigma_{k-1}^2. \end{aligned} σk2==≥=m→∞limE[Xt+k−L(Xt+k∣Xt,⋯,Xt−m)]2m→∞limE[Xt+k−1−L(Xt+k−1∣Xt−1,⋯,Xt−1−m)]2m→∞limE[Xt+k−1−L(Xt+k−1∣Xt,⋯,Xt−1−m)]2σk−12.
但是σk2\sigma_k^2σk2也不可能无限增大，因为σk,m2=E[Xt+k−L(Xt+k∣Xt,m)]2≤EXt+k2=γ0\sigma_{k,m}^2={\rm E}[X_{t+k}-L(X_{t+k}|\boldsymbol X_{t,m})]^2\le {\rm E}X_{t+k}^2=\gamma_0σk,m2=E[Xt+k−L(Xt+k∣Xt,m)]2≤EXt+k2=γ0，因此{σk2}\{\sigma_k^2\}{σk2}单调不减有上界，故极限存在，且极限的上界为γ0\gamma_0γ0。

当然，k→∞k\to \inftyk→∞时如果σk2=γ0\sigma_k^2=\gamma_0σk2=γ0，这个预测跟不存在也没有区别了，所以定义纯非决定性平稳序列。

纯非决定性平稳序列：如果对于平稳序列，有
lim⁡k→∞σk2=γ0,\lim_{k\to\infty}\sigma_k^2=\gamma_0, k→∞limσk2=γ0,
就称{Xt}\{X_t\}{Xt}是纯非决定性的。

刚才我们推知，如果σk2→γ0\sigma_k^2\to \gamma_0σk2→γ0，这个预测与不存在无异，其实也可以证明：
lim⁡k→∞lim⁡m→∞E[L(Xt+k∣Xt,Xt−1,⋯,Xt−m)]2=0,\lim_{k\to \infty}\lim_{m\to \infty}{\rm E}[L(X_{t+k}|X_t,X_{t-1},\cdots,X_{t-m})]^2=0, k→∞limm→∞limE[L(Xt+k∣Xt,Xt−1,⋯,Xt−m)]2=0,
也就是L(Xt+k∣Xt,⋯,Xt−m)L(X_{t+k}|X_t,\cdots,X_{t-m})L(Xt+k∣Xt,⋯,Xt−m)随着kkk的增大均方收敛到0，这说明对于非决定性平稳序列，无法做长期预测。

3.决定性平稳序列举例

最简单的决定性平稳序列，是{Xt}:Xt=ξ\{X_t\}:X_t=\xi{Xt}:Xt=ξ，这样，从变量的一个观测值就可以得到全部时间序列。这里，{Xt}\{X_t\}{Xt}的二阶协方差矩阵为
Γ2=[σ2σ2σ2σ2],∣Γ2∣=0.\Gamma_2=\begin{bmatrix} \sigma^2 & \sigma^2 \\ \sigma^2 & \sigma^2 \end{bmatrix},|\Gamma_2|=0. Γ2=[σ2σ2σ2σ2],∣Γ2∣=0.
也就是说，{Xt}\{X_t\}{Xt}的二阶协方差矩阵不满秩，正因此，只需要一个历史信息就可以对未来作出精准预测。能否对这个结论进行推广呢？事实上，如果平稳序列{Xt}\{X_{t}\}{Xt}的n+1n+1n+1阶自协方差矩阵退化，那么这个平稳序列一定是决定性的，且可以由其前nnn个历史信息完全预测。

这是因为，n+1n+1n+1阶自协方差矩阵退化，意味着X1,⋯,Xn+1X_1,\cdots,X_{n+1}X1,⋯,Xn+1必定线性相关；如果再加上Γn\Gamma_nΓn满秩的条件，就一定有Xn+1X_{n+1}Xn+1可以被X1,⋯,XnX_1,\cdots,X_nX1,⋯,Xn线性表示，这样就有
L(Xn+1∣X1,⋯,Xn)=Xn+1,E[Xn+1−L(Xn+1∣X1,⋯,Xn)]2=0.L(X_{n+1}|X_1,\cdots,X_{n})=X_{n+1},\\ {\rm E}[X_{n+1}-L(X_{n+1}|X_1,\cdots,X_n)]^2=0. L(Xn+1∣X1,⋯,Xn)=Xn+1,E[Xn+1−L(Xn+1∣X1,⋯,Xn)]2=0.
由此推出离散谱序列也是决定性平稳序列。设E(ξj)=E(ηk)=0,E(ξjηk)=0{\rm E}(\xi_j)={\rm E}(\eta_k)=0,{\rm E}(\xi_j\eta_k)=0E(ξj)=E(ηk)=0,E(ξjηk)=0，且E(ξj2)=E(ηk2)=σj2{\rm E}(\xi_j^2)={\rm E}(\eta_k^2)=\sigma^2_jE(ξj2)=E(ηk2)=σj2，对每一个确定的jjj定义简单谱序列
Zj(t)=ξjcos⁡(tλj)+ηjsin⁡(tλj),t∈Z.Z_j(t)=\xi_j\cos (t\lambda_j)+\eta_j\sin(t\lambda_j),\quad t\in\Z. Zj(t)=ξjcos(tλj)+ηjsin(tλj),t∈Z.
显然Zj(t)Z_j(t)Zj(t)的每一次实现是一个周期函数，其周期T=2π/λjT=2\pi/\lambda_jT=2π/λj和振幅可以由历史信息决定，实际上它的3阶自协方差矩阵退化，所以Zj(t)Z_j(t)Zj(t)是决定性的。定义离散谱序列
Zt=∑j=1pZj(t),t∈N+,Z_t=\sum_{j=1}^pZ_j(t),\quad t\in\N^+, Zt=j=1∑pZj(t),t∈N+,
这时ZtZ_tZt的自协方差矩阵也是2p+12p+12p+1阶内退化的（所以是决定性的），用到如下引理：

(1)简单离散谱序列：设E(ξ)=E(η)=E(ξη)=0,E(ξ2)=E(η2)=σ2,λ0∈(0,π]{\rm E}(\xi)={\rm E}(\eta)={\rm E}(\xi\eta)=0,{\rm E}(\xi^2)={\rm E}(\eta^2)=\sigma^2,\lambda_0\in(0,\pi]E(ξ)=E(η)=E(ξη)=0,E(ξ2)=E(η2)=σ2,λ0∈(0,π]，{Zt}\{Z_t\}{Zt}的定义为
Zt=ξcos⁡(tλ0)+ηsin⁡(tλ0),t∈N,Z_t=\xi\cos(t\lambda_0)+\eta\sin(t\lambda_0),\quad t\in\N, Zt=ξcos(tλ0)+ηsin(tλ0),t∈N,
定义A=ξ2+η2,cos⁡θ=ξ/A,sin⁡θ=η/AA=\sqrt{\xi^2+\eta^2},\cos\theta=\xi/A,\sin\theta=\eta/AA=ξ2+η2,cosθ=ξ/A,sinθ=η/A，则
Zt=Acos⁡(tλ0−θ),t∈N+.Z_t=A\cos(t\lambda_0-\theta),\quad t\in\N^+. Zt=Acos(tλ0−θ),t∈N+.
这样EZt=0{\rm E}Z_t=0EZt=0，γk=σ2cos⁡(kλ0)\gamma_k=\sigma^2\cos (k\lambda_0)γk=σ2cos(kλ0)，故ZtZ_tZt是一个平稳序列，称为调和平稳序列。并且，这个平稳序列的谱函数是阶梯函数，称之为离散谱序列。

(2)多个频率成分的离散谱序列：设ξj,ηk(j,k=1,2,⋯,p)\xi_j,\eta_k(j,k=1,2,\cdots,p)ξj,ηk(j,k=1,2,⋯,p)两两正交，满足上面的条件，对于正整数ppp和λj∈(0,π]\lambda_j\in(0,\pi]λj∈(0,π]，定义时间序列
Zt=∑i=1p[ξjcos⁡(tλj)+ηjsin⁡(tλj)]=∑j=1pAjcos⁡(tλj−θj),t∈N+,Z_t=\sum_{i=1}^p[\xi_j\cos(t\lambda_j)+\eta_j\sin(t\lambda_j)]=\sum_{j=1}^pA_j\cos(t\lambda_j-\theta_j),\quad t\in\N^+, Zt=i=1∑p[ξjcos(tλj)+ηjsin(tλj)]=j=1∑pAjcos(tλj−θj),t∈N+,
这里Aj=ξj2+ηj2,cos⁡(θj)=ξj/Aj,sin⁡(θj)=ηj/AjA_j=\sqrt{\xi_j^2+\eta_j^2},\cos(\theta_j)=\xi_j/A_j,\sin(\theta_j)=\eta_j/A_jAj=ξj2+ηj2,cos(θj)=ξj/Aj,sin(θj)=ηj/Aj，它的谱函数也是阶梯函数。

(3)Γn\Gamma_nΓn退化定理：设离散谱序列{Xt}\{X_t\}{Xt}如(2)中定义，如果它的谱函数F(λ)F(\lambda)F(λ)恰有nnn个跳跃点，则Γn\Gamma_nΓn正定，Γn+1\Gamma_{n+1}Γn+1退化；如果F(λ)F(\lambda)F(λ)有无穷多个跳跃点，则∀n≥1\forall n\ge 1∀n≥1，Γn\Gamma_nΓn正定。

由此，如果Γn\Gamma_nΓn退化，就认为{Xn}\{X_n\}{Xn}是离散谱序列，具有周期性。

回顾总结

非决定性平稳序列指的是将来信息不能由全部历史信息所确定的平稳序列，更具体的定义是
σ12=lim⁡m→∞σ1,m2=lim⁡m→∞E[Xn+1−L(Xn+1∣Xn,m)]2≠0.\sigma_1^2=\lim_{m\to \infty}\sigma^2_{1,m}=\lim_{m\to \infty}{\rm E}[X_{n+1}-L(X_{n+1}|\boldsymbol X_{n,m})]^2\ne 0. σ12=m→∞limσ1,m2=m→∞limE[Xn+1−L(Xn+1∣Xn,m)]2=0.
否则，称为决定性平稳序列。
{σk2}\{\sigma_k^2\}{σk2}是单调不减有上界的数列，其上界是γ0\gamma_0γ0，如果σk2→γ0(k→∞)\sigma_k^2\to \gamma_0(k\to \infty)σk2→γ0(k→∞)，则称平稳序列是纯非决定性平稳序列。对于这种平稳序列，进行长期预测是不合适的。
如果平稳序列的n+1n+1n+1阶自协方差矩阵Γn+1\Gamma_{n+1}Γn+1退化，则矩阵必是nnn步决定的。

【时间序列分析】16.平稳序列的决定性相关推荐

matlab 延迟算子,时间序列分析-----2---时间序列预处理
既然有了序列,那怎么拿来分析呢? 时间序列分析方法分为描述性时序分析和统计时序分析. 1.描述性时序分析通过直观的数据比较或绘图观测,寻找序列中蕴含的发展规律,这种分析方法就称为描述性时序分析. 描 ...
时间序列分析-----2---时间序列预处理
既然有了序列,那怎么拿来分析呢? 时间序列分析方法分为描述性时序分析和统计时序分析. 1.描述性时序分析通过直观的数据比较或绘图观测,寻找序列中蕴含的发展规律,这种分析方法就称为描述性时序分析. 描 ...
金融时间序列分析——对收益率序列平稳化处理
在逛博客的时候,从AI研习社里看到了一篇文章,最新的优化深度学习交易机器人技术 ,讲到了一个常用的方式, 下图中的三个图中描述的时间序列分别是原始的价格数据,以及做了差分(比如一步的差分其实就是今天的 ...
独家 | Python时间序列分析：一项基于案例的全面指南
作者: Selva Prabhakaran 翻译:陈超校对:王可汗本文约7500字,建议阅读20+分钟本文介绍了时间序列的定义.特征并结合实例给出了时间序列在Python中评价指标和方法. 时间序列是 ...
python 白噪声检验-python之时间序列分析(一)
公式只能传图片?,好多公式都没写上,但是,不管有没有公式,写得一样无趣至极,在中国人民大学出版社出版的王燕编著的<<应用时间序列分析(第三版)>>的基础上写的,文中说的第几页都 ...
时间序列分析简介（一）
本科课程整理一 . 引言对时间序列的聚类和分类. 对时间序列的变异进行检测. 对时间序列进行分割. 找具有特征的子序列. 最早的时间序列分析古埃及人记录尼罗河的泛滥期构成时间序列. 发现尼罗河涨 ...
数据分析时间序列分析概述
一.概述 1.时间序列 (1)概念: 常用按时间顺序排列的1组随机变量X1,X2...Xt来表示1个随机事件的"时间序列",简记为{Xt};或者说,时间序列是某个指标在不同时间的不 ...
《统计学》笔记：第13章时间序列分析和预测
时间序列 times series 时间序列是同一现象在不同时间上的相继观察值排列而成的序列.经济数据大多数以时间序列的形式给出.根据时间的不同,时间序列中的事件可以是年份.季度.月份或其他任何时间形 ...
当一个序列满足对于任意的前项和都满足不小于_时间序列分析第01讲--平稳序列（基本概念，线性平稳序列）...
第一章平稳序列 1.1平稳序列基本概念无论是从原序列中把趋势项去掉得到的随机波动项,还是用随机差分后得到残差序列,都会存在一种现象:随机项会沿着水平值波动,并且前后之间具有相关性,与独立序列不同. ...
2.3-非平稳时间序列分析
时间序列分析第三节非平稳时间序列分析一般,我们得到的序列都是非平稳序列. 这便要求我们对其进行处理. 非平稳序列变为平稳序列(利用差分运算) ARIMA模型的拟合 3.1 非平稳序列变为平稳序列 ...

【时间序列分析】16.平稳序列的决定性

文章目录