工程实践中,多数情况下,大矩阵一般都为稀疏矩阵,所以如何处理稀疏矩阵在实际中就非常重要。

1.sparse模块初探

python中scipy模块中,有一个模块叫sparse模块,就是专门为了解决稀疏矩阵而生。本文的大部分内容,其实就是基于sparse模块而来的。 
第一步自然就是导入sparse模块

from scipy import sparse
  • 1
  • 1

然后help一把,先来看个大概

help(sparse)
  • 1
  • 1

直接找到我们最关心的部分:

    There are seven available sparse matrix types:1. csc_matrix: Compressed Sparse Column format2. csr_matrix: Compressed Sparse Row format3. bsr_matrix: Block Sparse Row format4. lil_matrix: List of Lists format5. dok_matrix: Dictionary of Keys format6. coo_matrix: COOrdinate format (aka IJV, triplet format)7. dia_matrix: DIAgonal formatTo construct a matrix efficiently, use either dok_matrix or lil_matrix.The lil_matrix class supports basic slicing and fancyindexing with a similar syntax to NumPy arrays.  As illustrated below,the COO format may also be used to efficiently construct matrices.To perform manipulations such as multiplication or inversion, firstconvert the matrix to either CSC or CSR format. The lil_matrix format isrow-based, so conversion to CSR is efficient, whereas conversion to CSCis less so.All conversions among the CSR, CSC, and COO formats are efficient,linear-time operations.
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25

通过这段描述,我们对sparse模块就有了个大致的了解。sparse模块里面有7种存储稀疏矩阵的方式。接下来,我们对这7种方式来做个一一介绍。

2.coo_matrix

coo_matrix是最简单的存储方式。采用三个数组row、col和data保存非零元素的信息。这三个数组的长度相同,row保存元素的行,col保存元素的列,data保存元素的值。一般来说,coo_matrix主要用来创建矩阵,因为coo_matrix无法对矩阵的元素进行增删改等操作,一旦矩阵创建成功以后,会转化为其他形式的矩阵。

data=[5,2,3,0]row = [2,2,3,2]
col = [3,4,2,3]
c = sparse.coo_matrix((data,(row,col)),shape=(5,6))
print c.toarray()
[[0 0 0 0 0 0][0 0 0 0 0 0][0 0 0 5 2 0][0 0 3 0 0 0][0 0 0 0 0 0]]
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9

稍微需要注意的一点是,用coo_matrix创建矩阵的时候,相同的行列坐标可以出现多次。矩阵被真正创建完成以后,相应的坐标值会加起来得到最终的结果。

3.dok_matrix与lil_matrix

dok_matrix和lil_matrix适用的场景是逐渐添加矩阵的元素。doc_matrix的策略是采用字典来记录矩阵中不为0的元素。自然,字典的key存的是记录元素的位置信息的元祖,value是记录元素的具体值。

>>> import numpy as np
>>> from scipy.sparse import dok_matrix
>>> S = dok_matrix((5, 5), dtype=np.float32)
>>> for i in range(5):
...     for j in range(5):
...             S[i, j] = i + j
...
>>> print S.toarray()
[[ 0.  1.  2.  3.  4.][ 1.  2.  3.  4.  5.][ 2.  3.  4.  5.  6.][ 3.  4.  5.  6.  7.][ 4.  5.  6.  7.  8.]]
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13

lil_matrix则是使用两个列表存储非0元素。data保存每行中的非零元素,rows保存非零元素所在的列。这种格式也很适合逐个添加元素,并且能快速获取行相关的数据。

>>> from scipy.sparse import lil_matrix
>>> l = lil_matrix((6,5))
>>> l[2,3] = 1
>>> l[3,4] = 2
>>> l[3,2] = 3
>>> print l.toarray()
[[ 0.  0.  0.  0.  0.][ 0.  0.  0.  0.  0.][ 0.  0.  0.  1.  0.][ 0.  0.  3.  0.  2.][ 0.  0.  0.  0.  0.][ 0.  0.  0.  0.  0.]]
>>> print l.data
[[] [] [1.0] [3.0, 2.0] [] []]
>>> print l.rows
[[] [] [3] [2, 4] [] []]
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16

由上面的分析很容易可以看出,上面两种构建稀疏矩阵的方式,一般也是用来通过逐渐添加非零元素的方式来构建矩阵,然后转换成其他可以快速计算的矩阵存储方式。

4.dia_matrix

这是一种对角线的存储方式。其中,列代表对角线,行代表行。如果对角线上的元素全为0,则省略。 
如果原始矩阵是个对角性很好的矩阵那压缩率会非常高。 
找了网络上的一张图,大家就很容易能看明白其中的原理。 

5.csr_matrix与csc_matrix

csr_matrix,全名为Compressed Sparse Row,是按行对矩阵进行压缩的。CSR需要三类数据:数值,列号,以及行偏移量。CSR是一种编码的方式,其中,数值与列号的含义,与coo里是一致的。行偏移表示某一行的第一个元素在values里面的起始偏移位置。 
同样在网络上找了一张图,能比较好反映其中的原理。 

看看在python里怎么使用:

>>> from scipy.sparse import csr_matrix
>>> indptr = np.array([0, 2, 3, 6])
>>> indices = np.array([0, 2, 2, 0, 1, 2])
>>> data = np.array([1, 2, 3, 4, 5, 6])
>>> csr_matrix((data, indices, indptr), shape=(3, 3)).toarray()
array([[1, 0, 2],[0, 0, 3],[4, 5, 6]])
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8

怎么样,是不是也不是很难理解。 
我们再看看文档中是怎么说的

 Notes|  -----||  Sparse matrices can be used in arithmetic operations: they support|  addition, subtraction, multiplication, division, and matrix power.||  Advantages of the CSR format|    - efficient arithmetic operations CSR + CSR, CSR * CSR, etc.|    - efficient row slicing|    - fast matrix vector products||  Disadvantages of the CSR format|    - slow column slicing operations (consider CSC)|    - changes to the sparsity structure are expensive (consider LIL or DOK)
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14

不难看出,csr_matrix比较适合用来做真正的矩阵运算。 
至于csc_matrix,跟csr_matrix类似,只不过是基于列的方式压缩的,不再单独介绍。

6.bsr_matrix

Block Sparse Row format,顾名思义,是按分块的思想对矩阵进行压缩。 
根据http://blog.csdn.net/pipisorry/article/details/41762945一文,截了一个图,比较清晰地描述了bsr_matrix。

稀疏矩阵之python实现相关推荐

  1. python中矩阵的表示方法,稀疏矩阵在Python中的表示方法

    对于一个矩阵而言,若数值为零的元素远远多于非零元素的个数,且非零元素分布没有规律时,这样的矩阵被称作稀疏矩阵:与之相反,若非零元素数目占据绝大多数时,这样的矩阵被称作稠密矩阵. 稀疏矩阵在工程应用中经 ...

  2. 稀疏矩阵(Python实现)

    目录 什么是稀疏矩阵 稀疏矩阵的存储 示例题目 题目描述 输入/输出描述 代码 代码走读 传送门 测试用例 1. 数据正常且合乎要求: 2. 输入的行数或列数不大于0 3. 输入的行数或列数不是有效数 ...

  3. python 的csr_python的高级数组之稀疏矩阵

    稀疏矩阵的定义: 具有少量非零项的矩阵(在矩阵中,若数值0的元素数目远多于非0元素的数目,并且非0元素分布没有规律时,)则称该矩阵为稀疏矩阵:相反,为稠密矩阵.非零元素的总数比上矩阵所有元素的总数为矩 ...

  4. python怎么定义空矩阵_python 空矩阵

    广告关闭 腾讯云11.11云上盛惠 ,精选热门产品助力上云,云服务器首年88元起,买的越多返的越多,最高返5000元! 稀疏矩阵不必以标准矩阵形式表示. 有很多方法可以缓解这种标准形式给我们的计算系统 ...

  5. python矩阵定义_python矩阵定义

    广告关闭 腾讯云11.11云上盛惠 ,精选热门产品助力上云,云服务器首年88元起,买的越多返的越多,最高返5000元! python的numpy创造矩阵from numpy import matimp ...

  6. python矩阵定义_python定义矩阵

    广告关闭 腾讯云11.11云上盛惠 ,精选热门产品助力上云,云服务器首年88元起,买的越多返的越多,最高返5000元! 假如有俩个矩阵score,score1 save('score.mat','sc ...

  7. python矩阵计算_python计算矩阵

    广告关闭 腾讯云11.11云上盛惠 ,精选热门产品助力上云,云服务器首年88元起,买的越多返的越多,最高返5000元! 鉴于最近复习线性代数计算量较大,且1800答案常常忽略一些逆阵.行列式的计算答案 ...

  8. 使用sklearn进行数据预处理 —— 归一化/标准化/正则化

    本文主要是对照scikit-learn的preprocessing章节结合代码简单的回顾下预处理技术的几种方法,主要包括标准化.数据最大最小缩放处理.正则化.特征二值化和数据缺失值处理.内容比较简单, ...

  9. dok_matrix

    关键词:元组: 字典: 值 字典:键-值(key-value) 字典是另一种可变容器模型,且可存储任意类型对象.字典的每个键值(key=>value)对用冒号(:)分割,每个对之间用逗号(,)分 ...

最新文章

  1. c语言矩阵的乘积,c语言矩阵相乘
  2. 所需依赖_个体的发展阶段和过程,用发展性理论解释依赖共生
  3. mybatis中useGeneratedKeys用法--插入数据库后获取主键值
  4. 究竟是什么在影响着我?
  5. 重装系统后软件安装 ----一直更新
  6. 3.QT事件处理,消息过滤器
  7. 英语计算机房和操场怎么读,计算机房对我们学习帮助很大. the , in studies , computer , room , helps , lot , a , our , us...
  8. 【心情】最近实在是太忙了,没有心情写东西!
  9. Golang使用心得
  10. 用户关闭浏览器页器,弹出一个提示
  11. C# 将已有程序封装为DLL文件,供其他程序调用
  12. 1人30天44587行代码,分享舍得网开发经验(修改版)
  13. liunx命令大全建议粘贴到word文档可方便查询
  14. 从头再学java系列之char和Character的区别及Character的源码分析
  15. Unity InputField光标位置不对
  16. 图片转换成代码的小工具Image2Lcd使用说明
  17. 详解Spark Streaming的Graceful Shutdown
  18. 使用 Go 进行 iOS 和 Android 编程
  19. DSPE-PEG1-COOH可与伯胺基反应的反应性磷脂PEG共轭物之一
  20. 原生js编写学生信息管理系统——添加学生信息

热门文章

  1. GPU深度发掘(一)::GPGPU数学基础教程
  2. 共享库报错问题及解决方案
  3. [总结篇4] l2-agent的细节
  4. 计算机组成原理二进制地址码,计算机组成原理
  5. Java前沿分享:value或许成为java的新关键字
  6. 皮一皮:拦着人类进化的原来是酒精?
  7. 左滑右滑,在VS Code里滑个妹纸给你写喜欢的代码?
  8. 每日一皮:据说最近流行凡尔赛文学...
  9. 面试:说说啥是一致性哈希算法?
  10. Soul网关发布2.2.0:让高性能网关变得如此简单!