如何用三元组表表示下列稀疏矩阵_盘一盘 Python 系列特别篇21之:SciPy 稀疏矩阵...
引言
和稠密矩阵相比,稀疏矩阵的最大好处就是节省大量的内存空间来储存零。稀疏矩阵本质上还是矩阵,只不过多数位置是空的,那么存储所有的 0 非常浪费。稀疏矩阵的存储机制有很多种 (列出常用的五种):
COO (Coordinate List Format):座标格式,容易创建但是不便于矩阵计算,用
coo_matrix
CSR (Compressed Sparse Row): 压缩行格式,不容易创建但便于矩阵计算,用
csr_matri
CSC (Compressed Sparse Column): 压缩列格式,不容易创建但便于矩阵计算,用
csc_matrix
LIL (List of List): 内嵌列表格式,支持切片但也不便于矩阵计算,用
lil_matrix
DIA (Diagnoal):对角线格式,适合矩阵计算,用
dia_matrix
在 SciPy 中稀疏矩阵一共有七种,剩余的两种类型 BSR 和 DOK 本贴不做研究。有兴趣的读者可以去官网去查询。
COO
采用三元组 (row, col, data)
的形式来存储矩阵中非零元素的信息,即把非零值 data
按着行坐标 row
和纵坐标 col
写成两个列表。如下图所示:
坐标 (1, 1) 对应的数据 2
坐标 (3, 4) 对应的数据 5
坐标 (0, 2) 对应的数据 9
坐标 (2, 3) 对应的数据 1
坐标 (4, 3) 对应的数据 6
在实际使用中,用 coo_matrix() 语法来创建矩阵,注意产出矩阵的格式是COOrdinate。
values = [1, 2, 3, 4]rows = [0, 1, 2, 3]cols = [1, 3, 2, 0]A = sp.coo_matrix((values, (rows, cols)), shape=[4, 4])A
<4x4 sparse matrix of type 'numpy.int32'>'with 4 stored elements in COOrdinate format>
检查矩阵 A
的形状、数据类型、维度和非零值的个数。
A.shape, A.dtype, A.ndim, A.nnz
((4, 4), dtype('int32'), 2, 4)
检查矩阵 A
的行坐标、列坐标和数据。
A.row, A.col, A.data
(array([0, 1, 2, 3], dtype=int32), array([1, 3, 2, 0], dtype=int32), array([1, 2, 3, 4]))
如果想看 A
中的元素,我们可用 toarray()
转换成 numpy
数组显示出来。
A.toarray()
array([[0, 1, 0, 0], [0, 0, 0, 2], [0, 0, 3, 0], [4, 0, 0, 0]])
COO 矩阵的元素无法进行增删改操作,一般创建成功之后可以转化成其他格式的稀疏矩阵 (如 CSR, CSC) 进行转置、矩阵乘法等操作,或者转成转成 LIL 做切片。
A.tocsr()
<4x4 sparse matrix of type 'numpy.intc'>'with 4 stored elements in Compressed Sparse Row format>
A.tolil()
<4x4 sparse matrix of type 'numpy.intc'>'with 4 stored elements in List of Lists format>
可视化矩阵 A
plt.spy(A);
CSR
由三个一维数组 indptr
, indices
, data
组成。这种格式要求矩阵元按行顺序存储,每一行中的元素可以乱序存储。那么对于每一行就只需要用一个指针表示该行元素的起始位置即可。
indices
存储每行中数据的列号,与属性data
中的元素一一对应indptr
存储每行数据元素的起始位置
如下图所示:
第 1 行:
indptr 0-2
指indices[0:2]
的值即 0 和 2,分别又指第 0 和 2 列,对应的数据 8 和 2第 2 行:
indptr 2-3
指indices[2:3]
的值即 2,分别又指第 2 列,对应的数据 5第 3 行:
indptr 3-3
指indices[3:3]
的值为空,无数据第 4 行:
indptr 3-3
指indices[3:3]
的值为空,无数据第 5 行:
indptr 3-6
指indices[3:6]
的值即 2,3 和 4,分别又指第 2,3 和 4 列,对应的数据 7,1 和 2第 6 行:
indptr 6-6
指indices[6:6]
的值为空,无数据第 7 行:
indptr 6-7
指indices[6:7]
的值即 3,分别又指第 3 列,对应的数据 9
规律:indptr
的长度等于矩阵行数加 1,而第 i
行的列数,就是 indices[indptr[i]:indptr[i+1]]
。
用 csr_matrix() 语法用来创建矩阵,注意产出矩阵的格式是 Compressed Sparse Row。
data = np.array([1, 2, 3, 4, 5, 6])indices = np.array([0, 2, 2, 0, 1, 2])indptr = np.array([0, 2, 3, 6])A = sp.csr_matrix((data, indices, indptr), shape=(3, 3))A
<3x3 sparse matrix of type 'numpy.int32'>'with 6 stored elements in Compressed Sparse Row format>
检查矩阵 A
的形状、数据类型、维度和非零值的个数。
A.shape, A.dtype, A.ndim, A.nnz
((3, 3), dtype('int32'), 2, 6)
检查矩阵 A
的列索引、索引指针和数据。
A.indices, A.indptr, A.data
(array([0, 2, 2, 0, 1, 2]), array([0, 2, 3, 6]), array([1, 2, 3, 4, 5, 6]))
如果想看 A
中的元素,我们可用 toarray()
转换成 numpy
数组显示出来。
A.toarray()
array([[1, 0, 2], [0, 0, 3], [4, 5, 6]])
可视化矩阵 A
plt.spy(A);
CSC
csc_matrix
和 csr_matrix
正好相反,即按列压缩的稀疏矩阵存储方式,同样由三个一维数组 indptr
, indices
, data
组成,
indices
存储每列中数据的行号,与属性data
中的元素一一对应indptr
存储每列数据元素的起始位置
如下图所示:
第 0 列:
indptr 0-1
指indices[0:1]
的值即 0,分别又指第 0 行,对应的数据 8第 1 列:
indptr 1-1
指indices[1:1]
的值为空,无数据第 2 列:
indptr 1-4
指indices[1:4]
的值即 0,1 和 4,分别又指第 0,1 和 4 行,对应的数据 2,5 和 7第 3 列:
indptr 4-6
指indices[4:6]
的值即 4 和 6,分别又指第 4 和 6 行,对应的数据 1 和 9第 4 列:
indptr 6-7
指indices[6:7]
的值即 4,分别又指第 4 行,对应的数据 2
规律:indptr
的长度等于矩阵列数加 1,而第 i
列的行数,就是 indices[indptr[i]:indptr[i+1]]
。
用 csc_matrix() 语法用来创建矩阵,注意产出矩阵的格式是 Compressed Sparse Column。
data = np.array([1, 2, 3, 4, 5, 6])indices = np.array([0, 2, 2, 0, 1, 2])indptr = np.array([0, 2, 3, 6])A = sp.csc_matrix((data, indices, indptr), shape=(3, 3))A
<3x3 sparse matrix of type 'numpy.int32'>'with 6 stored elements in Compressed Sparse Column format>
检查矩阵 A
的形状、数据类型、维度和非零值的个数。
A.shape, A.dtype, A.ndim, A.nnz
((3, 3), dtype('int32'), 2, 6)
检查矩阵 A
的行索引、索引指针和数据。
A.indices, A.indptr, A.data
(array([0, 2, 2, 0, 1, 2]), array([0, 2, 3, 6]), array([1, 2, 3, 4, 5, 6]))
如果想看 A
中的元素,我们可用 toarray()
转换成 numpy
数组显示出来。
A.toarray()
array([[1, 0, 4], [0, 0, 5], [2, 3, 6]])
可视化矩阵 A
plt.spy(A);
LIL
lil_matrix
使用两个嵌套列表存储稀疏矩阵:
data
保存每行中的非零元素的值rows
保存每行非零元素所在的列号 (列号是按顺序排的)。
这种格式很适合逐个添加元素,并且能快速获取行相关的数据。如下图所示:
第 0 行:列号为 0,2,4,对应的数据为 8,1,-1
第 1 行:列号为 1,2,对应的数据为 8,2
第 2 行:列号为 2,对应的数据为 3
第 3 行:列号为 0,2,3,4,对应的数据为 -2,4,8,-2
第 4 行:列号为 2,4,对应的数据为 5,8
第 5 行:列号为 2,对应的数据为 6
用 lil_matrix() 语法用来创建矩阵,注意产出矩阵的格式是 Lists of Lists。
data = [[8,0,1,0,-1], [0,8,2,0,0], [0,0,3,0,0], [-2,0,4,8,-2], [0,0,5,0,8], [0,0,6,0,0]]A = sp.lil_matrix(data)A
<6x5 sparse matrix of type 'numpy.intc'>'with 13 stored elements in List of Lists format>
检查矩阵 A
的每行的非零值对应的列索引。
A.rows
array([list([0, 2, 4]), list([1, 2]), list([2]), list([0, 2, 3, 4]), list([2, 4]), list([2])], dtype=object)
如果想看 A
中的元素,我们可用 toarray()
转换成 numpy
数组显示出来。
A.toarray()
array([[ 8, 0, 1, 0, -1], [ 0, 8, 2, 0, 0], [ 0, 0, 3, 0, 0], [-2, 0, 4, 8, -2], [ 0, 0, 5, 0, 8], [ 0, 0, 6, 0, 0]], dtype=int32)
可视化矩阵 A
plt.spy(A);
DIA
dia_matrix
按对角线的存储方式。稀疏矩阵使用 offsets
和 data
两个矩阵来表示,其中offsets
表示 data
中每一行数据在原始稀疏矩阵中的对角线位置 k:
k > 0, 对角线往右上方移动 k 个单位
k < 0, 对角线往左下方移动 k 个单位
k = 0,主对角线
如下图所示:
offset 0
对应的数据[1,2,3,4,5]
在主对角线上offset -3
对应的数据[6,7,8,9,10]
在主对角线左下方移动 3 个单位offset 2
对应的数据[11,12,13,14,15]
在对角线上右上方移动 2 个单位
用 dia_matrix() 语法用来创建矩阵,注意产出矩阵的格式是 DIAgonal。
data = np.arange(1,13).reshape(3,-1)offset = [-1, 0, 1]A = sp.dia_matrix( (data, offset), shape=(4,4) )A
<4x4 sparse matrix of type 'numpy.int32'>'with 10 stored elements (3 diagonals) in DIAgonal format>
检查矩阵 A
的平移单位。
A.offsets
array([-1, 0, 1], dtype=int32)
如果想看 A
中的元素,我们可用 toarray()
转换成 numpy
数组显示出来。
A.toarray()
array([[ 5, 10, 0, 0], [ 1, 6, 11, 0], [ 0, 2, 7, 12], [ 0, 0, 3, 8]])
可视化矩阵 A
plt.spy(A);
此外,在 sp.sparse
模块里还有一些直接创建稀疏矩阵的函数:
eye
生成稀疏单位对角阵diags
构建稀疏对角阵spdiags
构建稀疏对角阵
假设我们想生成一个方阵,主对角线上面是 -2,上下次对角线上的值为 1。
方法一:用 eye
N = 5A = sp.eye(N, k=1) - 2 * sp.eye(N) + sp.eye(N, k=-1)A.toarray()
array([[-2., 1., 0., 0., 0.], [ 1., -2., 1., 0., 0.], [ 0., 1., -2., 1., 0.], [ 0., 0., 1., -2., 1.], [ 0., 0., 0., 1., -2.]])
方法二:用 diags
A = sp.diags([1, -2, 1], [1, 0, -1], (N, N), format='csc')A.toarray()
array([[-2., 1., 0., 0., 0.], [ 1., -2., 1., 0., 0.], [ 0., 1., -2., 1., 0.], [ 0., 0., 1., -2., 1.], [ 0., 0., 0., 1., -2.]])
方法三:用 spdiags
data = np.vstack( [np.repeat(1,N), np.repeat(-2,N), np.repeat(1,N)] )A = sp.spdiags( data, [1, 0, -1], N, N )A.toarray()
array([[-2., 1., 0., 0., 0.], [ 1., -2., 1., 0., 0.], [ 0., 1., -2., 1., 0.], [ 0., 0., 1., -2., 1.], [ 0., 0., 0., 1., -2.]])
三种方法都得到一样的结果,但是用 diags 方法代码最简洁些。但是如果对角线上的值都不一样,那么只能用 spdiags 方法,原因是它的参数是数组,而不是元素。
在金工中一维 PDE 有限差分离散之后都是这种类型的三对角矩阵 (tri-diagnol),因此要熟练掌握用 diags/spdiags 方法来创建金工需要的“稀疏矩阵”。
总结
从官网资料看出,一般使用 lil_matrix 来构建矩阵效率最高。由于 LIL 形式是基于行的,因此它能够很高效的转为 CSR,但是转为 CSC 的效率相对较低。
如果要执行矩阵乘法或转置,将它们转换成 CSC 或 CSR 格式,效率最高。
总之,在运算稀疏矩阵时,绝对绝对不要直接使用 NumPy!
~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
如果觉得好,关注、转发、在看三连发走起 666~~~
福利来一波~~~
关注公众号回复以下信息送免费资料
回复Jenkins 领取Jenkins学习资料回复Jmeter 领取Jmeter学习资料
回复Java 领取Java学习资料
回复Python 领取python入门资料
回复RobotFramework 领取RobotFramework 框架搭建资料
你可能会喜欢
Jmeter关联系列_数据驱动中的业务逻辑关联
docker搭建接口自动化持续集成框架
python28:迷宫游戏最短路径算法
4300 字Python列表使用总结,用心!
盘一盘 Python 系列基础篇十一之 机器学习 Sklearn
盘一盘 Python 系列特别篇二十之 天数计数|年限
Linux环境部署之ubuntu网络配置
性能测试指标7:性能测试的阶段性工作
jmeter之对jar包进行调用
jmeter之爬取网络图片
软件质量保障体系图
研发过程中的测试工作
APP测试流程及测试点
WEB测试范围小结
测试交流,加我备注【测试交流】拉入交流群,更有不定期资料赠送,敬请期待
本文转载自【公众号:王的机器】
如何用三元组表表示下列稀疏矩阵_盘一盘 Python 系列特别篇21之:SciPy 稀疏矩阵...相关推荐
- python 找质数的个数_盘一盘 Python 系列特别篇 All 和 Any
本文含 3758 字,9图表截屏建议阅读 10 分钟 本文是 Python 系列的特别篇的第十四篇 特别篇 1 - PyEcharts TreeMap 特别篇 2 - 面向对象编程 特别篇 3 - 两 ...
- 如何用三元组表表示下列稀疏矩阵_稀疏矩阵的压缩存储可以用一个三元组表来表示稀疏矩阵中的非0元素。...
问题:稀疏矩阵的压缩存储可以用一个三元组表来表示稀疏矩阵中的非0元素. 答案:对 更多相关问题 (本小题满分10分)已知抛物线的焦点坐标是F(0,-2), 求它的标准方程. I bought a dr ...
- node 获取表单数据 为空_数据结构与算法(python)单向链表篇
链表 数据表的构建需要预先知道数据的大小来申请连续的存储空间, 而在进行扩充的时候又需要进行数据的搬迁, 使用起来不是很灵活. 链表结构可以充分利用计算机内存空间, 实现灵活的内存动态管理. 简单来说 ...
- python项目策划书_跟着销售学python系列(1)--实践项目骨架(1)
暂时不对自己的背景做任何的交代, 为什么写这个系列, 参加YC培训课最大的总结, 就是别写别思考了. 以前的写的,慢慢搬家过来吧. 学习计划: ✅ learn python the hard w ...
- 笨方法学 python3进阶篇_笨办法学Python 3 进阶篇
部分准备知识1 如果不喜欢作者的个人流程怎么办2 如果发现自己太糟糕怎么办2 习题0准备工作3 程序员用的编辑器3 Python3.63 工作终端4 pip和virtualenv的配置4 实验笔记4 ...
- 笨办法学python3进阶篇_笨办法学Python 3 进阶篇
第 一部分 准备知识 1 如果不喜欢作者的个人流程怎么办 2 如果发现自己太糟糕怎么办 2 习题0 准备工作 3 程序员用的编辑器 3 Python 3.6 3 工作终端 4 pip和virtuale ...
- 笨办法学python3进阶篇下载_笨办法学Python 3 进阶篇
书名:"笨办法"学Python 3:进阶篇 定价:59.0 ISBN:9787115505392 作者: 泽德·A. 肖 版次:第1版 出版时间:2020-06 内容提要: 本书是 ...
- python 廖雪峰_廖雪峰的Python系列教程(20)——高级特性之生成器
生成器 通过列表生成式,我们可以直接创建一个列表.但是,受到内存限制,列表容量肯定是有限的.而且,创建一个包含100万个元素的列表,不仅占用很大的存储空间,如果我们仅仅需要访问前面几个元素,那后面绝大 ...
- excel和python建模_利用Excel学习Python:准备篇
写在前面 这个系列我们要利用Excel的知识,学会用python进行数据分析,如果你精通Excel想要用python提高数据分析效率,那么这个系列你来对了,如果你已经是python大神,想要建模/算法 ...
最新文章
- 微信小程序 require module exports 的使用
- ccf 高速公路(顺便当tarjan模板)
- JS判断浏览器类型的方法【转】
- Oracle微服务框架 Helidon尝鲜(一)!~
- python重复import_Python module重复载入的问题
- [python] 常用正则表达式爬取网页信息及分析HTML标签总结
- php上传图片类型代码,php 上传图片的代码
- 如何在服务器上部署pdf文件,详解如何在云服务器上部署Laravel.pdf
- IdentityServer4之持久化很顺手的事
- xubuntu16.04是linux系统,win10建立Ubuntu16.04子系统,安装经常使用软件以及图形界面(包括win10远程桌面链接Ubuntu)...
- 【ICLR2019】重要的,是那些训练中被多次遗忘的样本
- wp文件转shp_【转载】将E00文件转换成shp文件
- Excel实用技巧辞典 01
- 微信小程序开发(7)---协同工作篇
- 紫光同创 FPGA 开发跳坑指南(五)—— DDR3 控制器 IP 的仿真
- 按图搜索淘宝、天猫、1688商品API。(拍立淘API)
- flume 从基础到高阶
- 硬盘空间免费扩容2T!!!
- 如果你不想长期996,看看这个
- 计算机课程思政元素,《数据结构》课程思政元素的设计
热门文章
- python求和函数从1到m_python求从M个列表中取N个出来的组合算法
- c#调用c++的dll接口
- 计算机主机机箱面板辐射,电脑机箱如何防辐射----给大家科普一下
- cpu开核_新锐龙让AMD重返巅峰,但逆袭的50年里这些CPU也不应忘记
- oracle数据块调用存储过程,VC调用存储过程的通用方法(ORACLE篇)
- php html区别_php与html区别
- java编译命令带参数_java编译命令基础知识点
- go 写入yaml_[Golang] 从零开始写Socket Server(4):将运行参数放入配置文件(XML/YAML)...
- 基于ARM Cortex-M和Eclipse的SWO单总线输出
- LeetCode删除排序数组中的重复项(Java实现)