幂律分布图matlab代码,关于幂律分布,你还应该知道如何用代码实现!| 集智百科...
今天我们继续学习幂律分布的基本概念——幂律概率分布,以及如何用代码实现幂律分布。内容来自集智百科,集智百科是复杂系统领域的百科全书,涵盖复杂系统领域的基本概念(持续完善中)。
我们正在组织撰写翻译相应的维基词条,并附上代码实现。想要自己创建词条,一起贡献知识的小伙伴们可以通过链接报名哦。
幂律概率分布
(Power-law probability distributions)
广义上,幂律概率分布是一个密度函数(或离散情况下的概率质量函数)具有以下形式的分布: 对于较大的 , ,其中且是一个慢变函数(Slowly varying function),对于任何正因子 ,它都满足的这个属性来自于 渐进的标度不变性。因此,仅控制左尾的形状和有限范围。如果是常量因子函数,并且我们有一个幂律适用于所有的 值,在许多情况下,可以很容易地依据幂律假设出一个下限。结合这两种情况,当 是一个连续变量,幂律有以下形式:
其中,是标准化常量因子
下面我们来讨论这个分布的性质。 首先,它的矩可表示为:
当,定义是完备的; 当,发散: 当,均值与高阶矩都是无穷大; 当,均值存在,但方差和高阶矩都是无穷大。 如果从这种分布中抽取有限样本,意味着中心矩估计永远不会收敛——并且随着数据的增多,他们还有增大的趋势。这种幂律概率分布又被称为帕累托型分布,具有帕累托尾部特征的分布,或是具有规则变化的分布。
帕累托型分布 | 来源:
一种不满足上面的一般形式的修改,即指数截止幂律分布。
在这种分布中,指数衰减项最终会在较大的处超过正常的幂律分布。这种分布无法成比例缩放,因此并不是幂律;不过,它会在截止前的有限区域内近似地缩放。(注意,一般的幂律分布是这种分布的简单形式,即 的指数截止幂律分布。)这种分布是渐近幂律分布的常见替代方法,因为它考虑了有限大小的影响。
Tweedie分布是一族统计模型,其特征是基于可加(additive)与可再生(reproductive)卷积以及标度变换(scale transformation)的闭包(closure)。因此,这些模型都表达了方差和均值之间的幂律关系。这些模型作为数学收敛的焦点,类似于正态分布在中心极限定理中所扮演的角色。这种收敛效应解释了为什么在自然过程中, 方差-平均幂律表现得如此广泛, 就像泰勒在生态学中的定律和在物理学中的涨落标度。还可以证明,使用扩展箱( expanding bins) 的方法时,这种方差- 均值幂律分布(variance-to-mean power law)意味着存在1 / f噪声,而1/ f噪声可能是由于Tweedie收敛效应(Tweedie convergence effect)而产生的。
图形验证法
检验幂律概率分布
虽然人们已经提出了更成熟更稳健的方法,但通过随机样本检验幂律概率分布的最常用的图形方法还是帕累托双分位图(Pareto quantile-quantile plots )(或帕累托Q-Q图),平均剩余寿命图(mean residual life plot)和双对数图(Paretoquantile-quantile plots)。
(log-log图)
在双对数图上呈现直线是必要的,但并没有足够的证据证明他们的幂律关系,直线的斜率就对应于幂律指数。
另一种更强大的图形检验法是利用bundles of residual quantile functions 残余分位函数束 。(注意,幂律分布也称为帕累托分布。)这里假设从概率分布中获得随机样本,并且我们想知道分布的尾部是否遵循幂律(换句话说,我们想知道分布是否有“帕累托尾”)。此处随机样本也被称为“数据”。
帕累托Q-Q图是这样绘制的:它将取对数后(样本)数据的分位数与取均值为1的指数分布对应的分位数(或标准帕累托分布的位数)进行比较。如果得到的散点图表现是“渐近收敛”为直线,就应该怀疑其服从幂律分布。帕累托 Q-Q图的局限是它在尾部指数(也称为帕累托指数)接近于0时表现不佳,因为帕累托Q-Q图难以检验尾部是缓慢变化的分布。
帕累托分布 | 来源:
另一种检验幂律概率分布的方法是平均剩余寿命图,它包含以下步骤:首先对数据取对数,然后将高于第 i 阶统计量的数据平均值与第 i 阶统计量进行比较绘制,从i = 1, ..., n,其中n是随机样本容量。如果绘制出的散点图走势呈现为一条“稳定”的水平直线,那么应该考虑其服从幂律分布。但由于平均剩余寿命图对异常值非常敏感(它并不稳健),所以它通常会产生一些难以解释的图形; 而这些图形通常被称为 Hill horror plots 。
Hill horror plots | 来源:
双对数图是使用随机样本以图形方式检验尾部分布的另一种方式。使用这个方法必须要谨慎,因为双对数图中呈现直线对幂律概率分布是必要不充分条件,许多非幂律分布在双对数图上也显示为直线。这个方法是将特定数在该分布中的概率估计量的对数 | 对比这个数的对数 | 进行绘图。通常,此估计量是该数据在数据集中出现的次数的比例。如果图中的点在x较大时倾向于“收敛”为直线,则可得出结论,该分布具有“幂律尾”(power-law tail)。目前这些类型的绘图的应用示例已经发表。但这种方法的局限是,需要大量的数据才能使结果可靠。此外,它仅适用于离散(或分组)数据。
log-log Graph 双对数曲线图 | 来源:
不过,目前已经提出了使用随机样本检验幂律概率分布的另一种图形方法。该方法包括绘制对数变换样本的束,是最早提出使用随机样本探索矩的存在和矩生成函数的工具,基于残差分位函数(RQF)(也称为残差百分位函数) ,它提供了许多众所周知的概率分布的尾部行为的完整表征,包括幂律分布与其他类型的重尾,甚至非重尾分布的分布。这种方法绘制的图形没有上面提到的平均剩余寿命图、双对数图和帕累托 Q-Q图的缺点,它们对异常值很敏感,能够直观地检验具有小值的幂律,并且不适用于分析大量数据。此外,其他分布类型的尾部也可以用这个方法观察检验。
绘制幂律分布
(Plotting power-law distributions)
一般来说,幂律分布是在双对数坐标轴上绘制的,强调右尾部分。最简便直观的方法是通过(互补)累积分布函数(cumulativedistribution function,缩写为cdf)说明:
累积分布函数 | 来源:
注意,cdf也是幂律函数,只是它的标度指数较小。从数据处理角度,cdf的等价形式是rank-frequency 分布,即先按升序排列的观察值,再将它们与矢量对应。
尽管便于记录数据,抑或是便于拟合平滑概率密度(质量)函数,但这些方法在数据表示中引入了隐式偏差,因此应该避免。另一方面,所述的cdf法对处理这些隐式偏差更稳健(但并非没有偏误)并且保留了在双对数图形上的线性特征。
虽然在同时用线性最小二乘法拟合幂律时,使用cdf绘制优于pdf(概率密度函数),但其不可避免地在数学上有不准确性。因此,在估计幂律分布的指数时,建议使用最大似然估计。
从经验数据估计指数
有许多方法可以估算幂律尾部的标度指数值,但并非所有方法都能产生无偏且一致的结果。一些最可靠的技术通常基于最大似然估计。替代方法通常基于双对数概率,双对数累积分布函数或对数分组数据进行线性回归,但是,应该避免这些方法,因为它们都可能导致对标度系数的具有显著偏误的估计。
关于这些方法,以及能够使用它们的条件,可以进一步发现,这篇文章全面而详细地提供了可用的代码(Matlab、Python、R和C++)来评估和测试幂律分布的过程。
详细代码如下:
# coding: utf-8
# # 用numpy生成0,1之间的幂律分布
# ### 概率密度函数为
# f(x) = a*x^(a-1)
# 采样数量
samples = 10000
s = np.random.power(a, samples)
# 绘图展示结果
import matplotlib.pyplot as plt
count, bins, ignored = plt.hist(s, bins=50)
x = np.linspace(0, 1, 100)
y = a*x**(a-1.)
normed_y = samples*np.diff(bins)[0]*y
plt.plot(x, normed_y)
# # 使用原生方法生成0,1之间的幂律分布
import math
# 分布函数的反函数
def rev(x,a):
return math.exp(math.log(x) / a)
# 生成分布
for i in range(samples):
s1.append(rev(np.random.uniform(0,1),a))
count, bins, ignored = plt.hist(s1,bins=50)
x = np.linspace(0, 1, 100)
y = a*x**(a-1.)
normed_y = samples*np.diff(bins)[0]*y
plt.plot(x, normed_y)
# # 线性拟合生成结果
# 统计不同区间的数据数量
divide_num = 100
ys = np.zeros(divide_num)
xs = np.linspace(0,1,divide_num)
for i in range(len(s)):
ys[int(s[i] * 100)] += 1
# 使用sklearn包中的回归工具
from sklearn import linear_model
x_log = np.log(xs)
#线性拟合数据准备
for x ,y in zip(x_log[1:],y_log[1:]):
X_para.append([float(x)])
Y_para.append(float(y))
# 使用sklearn的线性拟合函数进行拟合
regr = linear_model.LinearRegression()
regr.fit(X_para, Y_para)
plt.title("fit the log data")
plt.scatter(x_log,y_log,color ="black")
plt.plot(X_para, regr.predict(X_para),color='blue',linewidth=3)
通过R函数估计指数, 并绘制双对数数据拟合线:
详细代码如下:
pwrdist
# u is vector of event counts, e.g. how many
# crimes was a given perpetrator charged for by the police
fx
i
y
y[i]
m0
print(summary(m0))
paste("s=",round(m0$coef[2],2),"lambda=",sum(u),"/",length(u))
plot(i,fx,log="xy",xlab="x",sub=sub,ylab="counts",...)
lines(1:max(i),(fitted(m0)),type="b")
如果你有更好的代码,欢迎贡献到集智百科上,或者联系我们,成为我们的志愿者!
来源:集智百科
%E5%B9%82%E5%BE%8B%E5%88%86%E5%B8%83&variant=zh-hans
编辑:孟婕
推荐阅读
推荐课程
加入“没有围墙的研究所”
让苹果砸得更猛烈些吧!
幂律分布图matlab代码,关于幂律分布,你还应该知道如何用代码实现!| 集智百科...相关推荐
- VVC代码阅读 xCheckModeSplit()函数 (中间CABAC还没看)最后代码还没看完
//当前测试qpconst int qp = encTestMode.qp;//当前sliceconst Slice &slice = *tempCS->slice;// 之前的QPco ...
- matlab产生er随机图,ER随机图模型 | 集智百科
原标题:ER随机图模型 | 集智百科 "集智百科精选"是一个长期专栏,持续为大家推送复杂性科学相关的基本概念和资源信息.作为集智俱乐部的开源科学项目,集智百科希望打造复杂性科学领域 ...
- matlab计算幂律分布,Matlab拟合曲线之幂律分布
收集的问题: 如何用matlab来拟合幂律分布,怎样将拟合值和实际值进行对比,放在一个图中,又如何检验实际数据是否符合拟合函数. 如果不符合,如何来直接判断实际数据服从什么样的函数分布呢 在MATLA ...
- [Python舆情分析] 二.时间间隔分布研究及幂律分布图绘制
本文主要是作者学习舆情分析.情感分析.人类行为动力学分析的在线笔记,主要包括两方面内容,一是幂律特性,二是讲解时间间隔分布,三是Python绘制基于时间间隔分布的幂律特性图,四提供了另一种方法.基础性 ...
- 基于偏置比例导引的任意指定攻击角度控制导引律(matlab源代码+原理)
** 基于偏置比例导引的任意指定攻击角度控制导引律(matlab源代码+原理) ** 1.问题描述 以平面内攻击静止目标为例,作如下导引几何关系 M-导弹,T-目标,M的速度V恒定,R-弹目距离,q- ...
- 面试精讲之面试考点及大厂真题 - 分布式专栏 18 谈谈怎么理解幂等,接口如何保证幂等
18谈谈怎么理解幂等,接口如何保证幂等 时间像海绵里的水,只要你愿意挤,总还是有的. --鲁迅 引言 稳定性设计第一篇:这一小节开始讲设计系统稳定性保证的相关设计,谁都不想自己负责的系统三天两头就出故 ...
- 蒙哥马利幂模算法(二分快速幂)
蒙哥马利幂模算法(二分快速幂) 用于加快幂次取模运算的速度. 形式为这种ab%c 可以等于 (ab1%c)*(ab2%c)%c,其中b=b1+b2:如果b1=b2就更简便一些,(ab/2%c)2%c, ...
- matlab抓取股票数据,Matlab经过sina web接口获取个数即时股票数据函数实现代码
Matlab通过sina web接口获取个数即时股票数据函数实现代码 代码如下: function stockinfo = queryprice(stocktype, stockid) %stockt ...
- 【MATLAB】无人驾驶车辆的模型预测控制技术(精简讲解和代码)【运动学轨迹规划】
文章目录 0.友情链接 1.引言 2.预测模型 3.滚动优化 3.1.线性化 3.2.UrU_rUr的求取 3.3.离散化与序列化 3.4.实现增量控制 4.仿真示例 0.友情链接 B站链接1-北京 ...
最新文章
- 使用VC++2015 实现XP按钮效果
- MYSQL:基础——触发器
- odoo10参考系列--ORM API 二(新旧API兼容性、模型参考和方法修饰符)
- Oracle全备增量备份脚本,ORACLE-RMAN:备份脚本(全库,增量)
- (原創) 網站CSS重新調整,全面支援IE6與FireFox 2.0!! (Web) (CSS)
- 【译】30 分钟入门 Typescript
- http是不是中间件_等保2.0涉及的Apache Tomcat中间件(上)
- 在线JSON校验格式化工具,文本对比工具,截图notepad工具
- VB脚本:快速入门教程
- Win7重建100M BCD系统保留分区
- 清除计算机策略,怎么删除组策略
- 2021蓝桥杯——直线
- 常用Alink协议总结
- FPA色彩性格测试题:黄 红 蓝 绿 你是哪个?
- excel如何快速将中文翻译为英文?
- 定时器输出PWM原理
- 2022.12.16 英语单词背诵
- 超详细的张飞硬件第六部电源开关读书笔记01
- 墨卡托坐标以及 墨卡托坐标转经纬度
- 学习网站整理之3——html5学习之简易音乐播放器制作