01 引言

金融数据主要分为时间序列(时间维度)、横截面(个体维度)和面板数据(时间+截面)。比如上证综指2019年1月至今的日收盘价数据就是时间序列,而2019年8月12日所有A股收盘价数据则是横截面数据,2018-2019年3000多只个股收盘价数据便是面板数据。金融时间序列分析是量化投资建模的重要基础,今天给大家分享时间序列的一些基础概念,包括自相关性、偏自相关性、白噪声和平稳性,以及Python的简单实现,为后续关于时间序列建模专题做一个铺垫。Python中的statsmodels包提供了强大的统计和计量建模函数,其中子模块tsa(time series analysis)专门用于时间序列分析。

02 自相关性

相关性一般是指两个变量之间的统计关联性,那么自相关性则是指一个时间序列的两个不同时间点的变量是否相关联。时间序列具有自相关性是我们能够进行分析的前提,若时间序列的自相关性为0,也就是说各个时点的变量不相互关联,那么未来与现在和过去就没有联系,根据过去信息来推测未来就变得毫无根据。时间序列的自相关性一般用时间序列的自协方差函数、自相关系数函数和偏自相关系数函数等统计量来衡量。遇到问题没人解答,小编创建了一个Python学习交流裙:五二八 三九七 六一七, 寻找有志同道合的小伙伴,互帮互助,群里还有不错的学习视频教程和PDF电子书分享!

自协方差函数

自协方差(Autocovariance,简称AF)是时间序列与其滞后项的协方差,假设X为随机变量(即随着时间变化取值随机的变量,比如股票价格),则k阶自协方差使用数学公式表示为:

其中,E表示求数学期望,u是随机变量X的均值,当k=0时,可得

即为随机变量X的方差。

自相关函数

自协方差跟变量的单位有很大关系,比如X放大10倍,则自协方差将放大100倍,因此其值大小并不能反映相关性的大小。为了消除量纲(单位)的影响,使用自相关系数来刻画变量与其滞后项的相关性。自相关系数(Autocorrelation Coefficient,简称ACF)本质是相关系数,等于自协方差除以方差,k阶自相关系数数可以表示为:

上过高中数学的都知道协方差和相关系数的含义,从统计上描述两个不同变量的相互影响关系(非因果),那么自协方差和自相关系数则是刻画同一个变量在不同时期取值的相关程度,比如描述上证综指过去价格对今天价格的影响。

偏自相关函数

假设对于上证综指价格序列,一阶自相关系数大于0,说明今天的价格与昨天的价格相关,而昨天价格又与前一日价格相关,依次类推,可见当你计算今天与昨天价格之间的自相关系数时,同时包含了更早之前所有各期的信息对今天的间接影响,度量的是过去所有信息加总的影响效果。为了剔除其他各期的影响,单纯考察过去某一单期对今天的影响,引入偏自相关函数(Partial Autocorrelation Coefficient,简称PACF),即条件自相关系数,使用数学公式表示为:

偏自相关函数可以通过自回归模型(后续关于时间序列建模会进一步分析)来表述和求解,用

表示k阶自回归式中第j个回归系数,则k阶自回归模型表示为

其中

是最后一个系数。若把

看作滞后期k的函数,则称

,k = 1,2… 为偏自相关函数。

自相关系数和偏自相关系数越大,说明过去对现在的影响越大。

Python计算自相关和偏自相关系数

Python的pandas库提供了计算基本统计量的函数,包括均值df.mean(),协方差df.cov(),相关系数df.corr(),方差df.var()(或标准差df.std())等,其中df为数据列表;而自相关系数和偏自相关系数的计算则要用到statsmodels库(acf()和pacf())。statsmodels这是一个很强大的统计数理模型库,在后面的时间序列分析与建模会进一步介绍相关函数及其运用。

import pandas as pd

import numpy as np

import matplotlib.pyplot as plt

import matplotlib as mpl

%matplotlib inline

#正常显示画图时出现的中文和负号

from pylab import mpl

mpl.rcParams['font.sans-serif']=['SimHei']

mpl.rcParams['axes.unicode_minus']=False

#获取数据,从tushare上获取沪深300指数为例

import tushare as ts

token='输入你的token'

pro=ts.pro_api(token)

def get_data(code,n=250*3):

df=pro.index_daily(ts_code=code)

#将日期设置为索引

df.index=pd.to_datetime(df.trade_date)

#最近n日价格走势

df=df.sort_index()[-n:]

#只保留收盘价数据

del df.index.name

return df.close

df=get_data('000300.SH')

计算自相关和偏自相关系数

import statsmodels.tsa.api as smt

#tsa是Time Series analysis缩写

#tsa的stattools(统计工具)提供了计算acf和pacf以及后面要用到的adfuller单位根检验函数

#使用help(smt.stattools.acf)可以查看相关参数设置

#计算自相关系数,这里设置滞后项为5期,默认是40期滞后

acf=smt.stattools.acf(df,nlags=5)

#计算偏自相关系数

pacf=smt.stattools.pacf(df,nlags=5)

print(f'自相关系数为:{acf};\n偏自相关系数为:{pacf}')

自相关系数为:[1. 0.99098764 0.98189466 0.97312885 0.96252012 0.95335064];

偏自相关系数为:[ 1. 0.99231072 -0.01047826 0.01620047 -0.12635305 0.09200772]

自相关系数和偏自相关系数可视化

def acf_pacf_plot(data, lags=None):

#判断是否为pandas的Series格式数据

if not isinstance(data, pd.Series):

data = pd.Series(data)

#设定画面风格,这里设置为'bmh', colspan=2

with plt.style.context('bmh'):

fig = plt.figure(figsize=(10, 8))

#设置子图

layout = (3,1)

ts_ax = plt.subplot2grid(layout, (0, 0))

acf_ax = plt.subplot2grid(layout, (1, 0))

pacf_ax = plt.subplot2grid(layout, (2, 0))

data.plot(ax=ts_ax)

ts_ax.set_title('时间序列图')

smt.graphics.plot_acf(data, lags=lags, ax=acf_ax, alpha=0.5)

acf_ax.set_title('自相关系数')

smt.graphics.plot_pacf(data, lags=lags, ax=pacf_ax, alpha=0.5)

pacf_ax.set_title('偏自相关系数')

plt.tight_layout()

return

#设置20阶滞后期

acf_pacf_plot(df,lags=20)

03 平稳性

时间序列分析的主要目的是利用事物特征变量的历史和现状来推测未来可能出现的状况,即假设时间序列的基本特性必须能从过去维持到我们推测的时期,否则,基于历史和现状来预测未来将变得不可靠。时间序列的平稳性,简单理解是时间序列的基本特性维持不变,换句话说,所谓平稳性就是要求由样本时间序列所得到的曲线在未来的一段时期内仍能沿着现有的形态持续下去。金融领域很多变量之所以难以估计,是因为这些变量经常发生突变,不是平稳的时间序列。时间序列的平稳性是经典时间序列分析的基本假设前提,只有基于平稳的时间序列进行的预测才是有效的。平稳性有强平稳和若平稳之分,一般所说的平稳时间序列指的是若平稳时间序列。

强平稳(Strictly Stationary)

强平稳要求时间序列随着时间的推移,其统计性质保持不变,对于任意的τ,其联合概率密度函数满足:

,则时间序列是强平稳的。

强平稳是一个很强的条件,要求该时间序列的任何统计性质都不会随着时间发生变化。强平稳由于条件苛刻,理论和实证上都难以检验,因此现实中几乎无法运用。

弱平稳(Weakly Stationary)

弱平稳放宽了平稳性条件,只要求低阶矩平稳,即数学期望(均值)和方差不随时间和位置变化。弱平稳过程的条件是:

(1)均值函数在所有时间上恒为常数;

(2)存在二阶矩;

(3)对于所有时间t和和时滞k,自协方差相同。

值得注意的是,强平稳和弱平稳时间序列二者并没有包含关系。换句话说,强平稳时间序列不一定是弱平稳的,因为强平稳过程不一定存在二阶距;弱平稳时间序列也不一定是强平稳过程,因为弱平稳只能保证一阶矩和二阶距不随时间变化,但不能保证其有穷维分布不随时间变化。弱平稳的正态分布时间序列必定是强平稳的。因为正态分布的概率密度是由均值函数和自相关函数完全确定的,即如果均值函数和自相关函数不随时间变化,则概率密度函数也不随时间变化。

时间序列平稳性的判断方法

通过时序图的图形观察和单位根检验可以判断时间序列是否平稳,具体如下:

(1)观察时间序列图的形状来初步判断其平稳性

根据弱平稳的定义,时间序列的均值和方差为常数,因此其时序图应该围绕某一水平线上下以大致相同的幅度波动。如果该时序图存在明显递增、递减或周期性波动,则该时间序列很可能是不平稳的。

(2)观察序列的自相关和偏自相关函数图对于平稳时间序列而言,其自相关或偏自相关系数一般会快速减小至0附近或者在某一阶后变为0,而非平稳的时间序列的自相关系数一般是缓慢下降而不是快速减小。

(3)单位根检验。通过观察时序图、自相关和偏自相关图来判断时间序列平稳性,可能出现因观察者对图形的判断不同而得出不同的结论,为了更加客观的考察时间序列的平稳性,引入统计检验方法,即单位根检验。常见的单位根检验方法有DF检验(Dickey-Fuller Test)、ADF检验(AuGMENTED Dickey-Fuller Test)和PP检验(Phillips-Perron Test)。关于单位根检验和DF、ADF、PP检验的公式原理此处不详细展开,可参考本科计量经济学教材的时间序列分析部分。

04 白噪声和随机游走

白噪声过程也叫纯随机序列,是指随机过程在任意时点t的变的均值和协方差均为0,而方差为一常数,即满足下面的数学条件:

白噪声序列的均值和方差为常数,间隔大于0的自协方差都恒等于0,因此是平稳的时间序列。如果白噪声过程中各变量独立并且都服从正态分布,则该序列为高斯白噪声过程(Gussian White Noise)。高斯白噪声序列是强平稳的时间序列,并且各期之间不仅不相关还相互独立。

如果一个时间序列满足高斯白噪音过程,则无法根据过去信息来预测未来。比如非平稳时间序列:

这里的随机扰动是服从正态分布的纯随机序列,即为纯随机变量的加总,所以被成为随机游走过程(Random Walk)。根据有效市场假说原理,股票价格是随机游走的,因此是无法被预测的。

白噪声检验(Ljung-Box检验)

如果一个时间序列是纯随机游走的,意味着它的每一次新的变化都无迹可寻,无法从中捕捉对预测有用的信息。换句话说,纯随机时间序列是没有分析和预测的价值的。那么如何检验和判断一个时间序列是否为纯随机序列呢?一般可用Ljung-Box检验方法(简称LB检验)进行统计检验,检验的统计量为Q统计量:

其中,

是序列的k阶自相关系数,n是整个序列中的观测值个数,m是滞后阶数。当序列存在自相关时,其自相关系数较大,对应的

也较大,相反,当序列为随机序列、无自相关时,序列的自相关系数不会显著地异于0,则

会很小。检验一个时间序列在m阶内是否为白噪声,只有当

m个Q统计量均小于对应的分布的临界值时,才能说明该序列在所检验的m阶内是纯随机的。在实际应用中,LB检验的原假设为所检验序列是纯随机序列,当LB检验统计量对应的p值大于所设定的显著性水平(如5%,1%,0.5%等)时,接受原假设,认为所检验序列为白噪声序列,反之拒绝原假设,认为序列是非白噪声序列。

05 Python模拟白噪音和平稳性检验

#引入statsmodels和scipy.stats用于画QQ和PP图

import scipy.stats as scs

import statsmodels.api as sm

def ts_plot(data, lags=None,title=''):

if not isinstance(data, pd.Series):

data = pd.Series(data)

with plt.style.context('bmh'):

fig = plt.figure(figsize=(10, 8))

layout = (3, 2)

ts_ax = plt.subplot2grid(layout, (0, 0)) acf_ax = plt.subplot2grid(layout, (1, 0))

pacf_ax = plt.subplot2grid(layout, (1, 1))

qq_ax = plt.subplot2grid(layout, (2, 0))

pp_ax = plt.subplot2grid(layout, (2, 1))

data.plot(ax=ts_ax)

ts_ax.set_title(title+'时序图')

smt.graphics.plot_acf(data, lags=lags, ax=acf_ax, alpha=0.5)

acf_ax.set_title('自相关系数')

smt.graphics.plot_pacf(data, lags=lags, ax=pacf_ax, alpha=0.5)

pacf_ax.set_title('偏自相关系数')

sm.qqplot(data, line='s', ax=qq_ax)

qq_ax.set_title('QQ 图')

scs.probplot(data, sparams=(data.mean(), data.std()), plot=pp_ax)

pp_ax.set_title('PP 图')

plt.tight_layout()

return

#Q-Q图的结果与P-P图非常相似,只是P-P图是用分布的累计比,而Q-Q图用的是分布的分位数来做检验

#和P-P图一样,如果数据为正态分布,则在Q-Q正态分布图中,数据点应基本在图中对角线上

模拟白噪声过程

#使用numpy简单模拟白噪声过程

np.random.seed(1)

# plot of discrete white noise

randser = np.random.normal(size=500)

ts_plot(randser, lags=30,title='白噪声')

可以看到过程是随机且在0附近波动。ACF和PACF显示没有明显的序列相关。要记住,由于是正态分布采样的结果,我们应该在自相关图中看到大约5%的显著性。最下面,QQ图和概率图是比较数据的概率分布和其他理论的分布。在这里,理论分布是标准正态分布,因此我们的数据是正态分布,符合高斯白噪声。随机游走:随机游走是时间序列 的模型:=−1+, 是离散的白噪声序列。随机游走是不平稳的,因为协方差是和时间相关的。如果我们建模的时间序列是随机游走的,那么它是不可预测的。

模拟随机游走过程

#从标准正态分布采样模拟一个随机游走

np.random.seed(2)

n_samples = 1000

x = w = np.random.normal(size=n_samples)

for t in range(1,n_samples):

x[t] = x[t-1] + w[t]

ts_plot(x, lags=30,title='随机游走')

明显看出序列是不平稳的。随机游走模型是 =−1+,移项可以得到−−1= 。因此,随机游走的一阶差分应该等于白噪声,可以对时间序列使用 np.diff() 函数看它是否成立。

# First difference of simulated Random Walk series

ts_plot(np.diff(x), lags=30)

应用实例:对沪深300近三年来数据进行平稳性检验分析

#沪深300近三年价格数据

data=pd.DataFrame(df,columns=['close'])

#对数收益率

data['logret']=np.log(data.close/data.close.shift(1))

#普通收益率

data['ret']=data.close/data.close.shift(1)-1

data=data.dropna()

图形观察判断平稳性

#沪深300股价的平稳性

#观察时序图

ts_plot(data.close,lags=30,title='沪深300股价')

上图显示,沪深300近三年股价走势存在明显递增、递减或周期性波动,该时间序列很可能是不平稳的;自相关系数呈现缓慢减小过程, 而偏自相关系数一阶等于1,然后迅速减小,由此可以初步判断其价格不符合平稳性时间序列特征。此外,从QQ图和PP图(二者类似)上不难看出,沪深300价格时间序列不符合正态分布。

#沪深300收益率,对数收益率与算术收益率差异不是很大

ts_plot(data.logret,lags=30,title='沪深300收益率')

沪深300对数收益率时序图围绕某一水平线上下以大致相同的幅度波动,比较像白噪声过程,而自相关与偏自相关系数快速减小至0附近或在某一阶后变为0,从图形上观察应该是平稳过程。从QQ图和概率图上看,该过程很像标准正态分布但是存在厚尾,并且在ACF和PACF图上有一些重要的序列相关性,这意味着应该有更好的模型去描述真实的价格变化过程,为后面时间序列建模设下铺垫。

单位根检验

图形观察方式很直观,但也很主观,不同的人对相同的图形,可能得出不同的结论。因此需要一个更加客观的统计方法来检验时间序列的平稳性,即单位根检验,常见的单位根检验方法有DF检验、ADF检验和PP检验,下面主要介绍如何使用Python进行ADF单位根检验。

#statsmodel和arch包都提供了adf检验的函数

#statsmodel也提供了多种方式使用adfulle单位根检验函数

#这些方法得到的结果是一致的

#使用stats子模块中diagnostic(模型诊断)单位根检验unitroot_adf

from statsmodels.stats.diagnostic import unitroot_adf

unitroot_adf(data.close)

(-2.050712363785268,

0.26478930749812246,

9,

739,

{'1%': -3.439229783394421,

'5%': -2.86545894814762,

'10%': -2.5688568756191392},

7444.231922186031)

输出结果依次为检验的统计量值、p-value、滞后阶数、自由度等信息,其中检验统计量为-2.05,远大于10%的临界值-2.56,实际上p值为0.2648,远大于0.1,因此我们无法拒绝原假设(原假设是存在单位根),认为该时间序列是非平稳的。

#模块一样,只是引用方式使用了api

import statsmodels.api as sm

sm.stats.diagnostic.unitroot_adf(data.close)

(-2.050712363785268,

0.26478930749812246,

9,

739,

{'1%': -3.439229783394421,

'5%': -2.86545894814762,

'10%': -2.5688568756191392},

7444.231922186031)

#从时间序列分析tsa子模块api中导入adfuller

import statsmodels.tsa.api as smt

smt.adfuller(data.close)

(-2.050712363785268,

0.26478930749812246,

9,

739,

{'1%': -3.439229783394421,

'5%': -2.86545894814762,

'10%': -2.5688568756191392},

7444.231922186031)

#直接从时间序列分析tsa子模块的stattools统计工具中导入adfuller

from statsmodels.tsa.stattools import adfuller

adfuller(data.close)

(-2.050712363785268,

0.26478930749812246,

9,

739,

{'1%': -3.439229783394421,

'5%': -2.86545894814762,

'10%': -2.5688568756191392},

7444.231922186031)

#使用arch包中的单位根检验unitroot导入ADF

#arch包在后续建模中将会运用到

from arch.unitroot import ADF

ADF(data.close)

Augmented Dickey-Fuller ResultsTest Statistic-2.051P-value0.265Lags9

Trend: Constant

Critical Values: -3.44 (1%), -2.87 (5%), -2.57 (10%)

Null Hypothesis: The process contains a unit root.

Alternative Hypothesis: The process is weakly stationary.

结果与上述导入方法是一致的,不过arch包的输出结果比较直观。

#下面沿用arch包的单位根检验函数对沪深300收益率进行单位根检验

ADF(data.logret)

Augmented Dickey-Fuller ResultsTest Statistic-8.586P-value0.000Lags8

Trend: Constant

Critical Values: -3.44 (1%), -2.87 (5%), -2.57 (10%)

Null Hypothesis: The process contains a unit root.

Alternative Hypothesis: The process is weakly stationary.

结果显示,沪深300对数收益率ADF单位根检验得到的p值约等于0,因此拒绝原假设(原假设是存在单位根),即认为该时间序列是平稳的。一般而言,股票价格时间序列是不平稳的,而收益率数据是平稳的,因此一般使用股票收益进行时间序列建模而不是直接使用股价,这将在后续推文中进一步分析。

「Python量化基础」时间序列的自相关性与平稳性相关推荐

  1. python断点调试_「Python调试器」,快速定位各种疑难杂症!!!

    在很多的编辑器其实都带着「调试程序」的功能,比如写 c/c++ 的 codeblocks,写 Python 的 pycharm,这种图形界面的使用和显示都相当友好,简单方便易学,这个不是我这篇文章要讲 ...

  2. 「R shiny基础」交互式入门

    上一节的「R shiny基础」增加一些小控件放在网页中的控件只能说是装饰品,要想真正让用户通过选择不同参数来得到不同结果,还需要这一节的知识 举个例子:我们希望下面网页在左边选择后,右边会有对应的输出 ...

  3. 「Python 网络自动化」目录汇总

    目录 Netmiko NETCONF Nornir Paramiko Napalm NetBox TextFSM 其他 关于文章 关于我 Netmiko 「Python 网络自动化」Netmiko - ...

  4. 时间序列的数据分析(七):数据平稳性

    之前已经完成了六篇关于时间序列的博客,还没有阅读过的读者请先阅读: 时间序列的数据分析(一):主要成分 时间序列的数据分析(二):数据趋势的计算 时间序列的数据分析(三):经典时间序列分解 时间序列的 ...

  5. 如果常数项没有经过显著性检验_时间序列(一):平稳性、自相关函数与LB检验...

    前言 略过介绍性的知识,直接怼重难点. 1. 平稳性 Stationarity 直观上看当数据没有明显的模式特征的话(趋势性.季节性),我们认为它是平稳的.定义上"平稳"指固定时间 ...

  6. 「Python数据分析系列」6. 概率论基础介绍

    来源 |  Data Science from Scratch, Second Edition 作者 | Joel Grus 译者 | cloverErna 校对 | gongyouliu 编辑 | ...

  7. python画图包_「Python量化」股票分析入门

    目前,获取股票数据的渠道有很多,而且基本上是免费的,比如,行情软件有同花顺.东方财富等,门户网站有新浪财经.腾讯财经.和讯网等.Python也有不少免费的开源api可以获取交易行情数据,如pandas ...

  8. python 基金量化分析_「Python量化」怎么在基金定投上实现收益最大化

    我们也会有恐惧和贪婪,只不过在别人贪婪的时候我们恐惧,在别人恐惧的时候我们贪婪.--巴菲特 引言 继上一篇文章< Python数说指数定投策略>,今天为大家分享一篇推文(原文来源:SAMs ...

  9. 「Python|输入输出」如何进行用户输入、文件输入和输出

    本文主要介绍Python中如何让用户进行内容输入,如何从文件中读取数据作为输入以及如何将数据保存到文件中 文章目录 如何让用户进行内容输入 如何从文件中获取数据到程序(内存)中 如何将程序数据存储到文 ...

  10. 「Python数据分析系列」11.机器学习

    来源 |  Data Science from Scratch, Second Edition 作者 | Joel Grus 译者 | cloverErna 校对 | gongyouliu 编辑 | ...

最新文章

  1. MQTT的学习研究(五) MQTT moquette 的 Blocking API 发布消息服务端使用
  2. 全网唯一一个可以复现成功的光流计算项目
  3. IC攻城狮求职宝典 01 2018年IC设计企业 笔试题 01 英伟达(Nvidia)
  4. 系统间通信3:RPC的基本概念
  5. oracle数据库常用关键字以及写法
  6. python编码和解码_Python中的编码与解码(转)
  7. B1023 组个最小数 (20分)
  8. 数据3分钟丨Snowflake获“2021 DBMS”;OceanBase社区版3.1.2正式发布
  9. 分区函数Partition By的与row_number()的用法以及与排序rank()的用法详解(获取分组(分区)中前几条记录)...
  10. C#通用验证类:邮箱,电话,手机,数字,英文,日期,身份证,邮编,网址,IP
  11. Robot Framework 的安装配置和简单的实例介绍
  12. 服务器刷课源码,国开刷课
  13. 用友NC合同编码自定义
  14. 网络协议详解1 - NBNS
  15. 牛客练习赛72—B:brz的雪糕
  16. 学了C语言,能开发什么项目?
  17. Lambda 表达式
  18. Abaqus CAE2022启动时报错“The desired vendor daemon is down”
  19. VB6.0操作WPS2019
  20. linux网桥转发自身数据,linux网桥理解之一

热门文章

  1. 基本磁盘转换为动态磁盘后快速启动关机变重启,记录一次研究过程
  2. 智能控制基础(6):自动控制原理第五版第二章答案(部分)
  3. 微信收款语音播报android,电脑微信收款语音播报软件下载
  4. 工程项目进度控制的主要措施有哪些?
  5. 三菱plc pwm指令_三菱plc功能指令集大全和自学基础
  6. 2014最好的IT简历提示
  7. 直播中不可缺少的一环-rtmp直播推流
  8. 必看 | 机器视觉基础入门
  9. 端到端语音识别技术预研与实践
  10. QT实现记事本代码(版本三)