当对离散数据进行拟合预测时，往往要对特征进行onehot处理，但onehot是高度稀疏的向量，如果使用List或其他常规的存储方式，对内存占用极大。

这时稀疏矩阵类型 coo_matrix / csr_matrix 就派上用场了！

这两种稀疏矩阵类型csr_matrix存储密度更大，但不易手工构建。coo_matrix存储密度相对小，但易于手工构建，常用方法为先手工构建coo_matrix，如果对内存要求高则使用 tocsr() 方法把coo_matrix转换为csr_matrix类型。

csr_matrix内存使用约为coo_matrix的70% :

coo_matrix是比较通用的格式，比如sklearn中LR可直接处理coo_matrix 格式。

那么接下来就是构建coo_matrix矩阵。

应该很好理解吧？
就是分别定义有那些非零元素，以及各个非零元素对应的row和col，最后定义稀疏矩阵的shape。

coo_matrix 一经定义后shape就不可更改了！但data, row, col 可更改。
但我查文档显示coo_matrix有reshape() 函数

使用reshape函数拋 NotImplementedError 异常。
查 v1.0.0版本源码：

原来reshape函数功能还未实现。。

合并两个 coo_matrix或 csr_matrix 可以使用 vstack() 或 hstack()。
具体自行查文档吧。

python---稀疏格式储存coo_matrix/csr_matrix

本文介绍下python稀疏格式coo，csr，csc相关的一些东西。

1.1: coo_matrix

最简单一种格式，每一个元素需要用一个三元组来表示，分别是（行号，列号，数值），这种方式简单，但是记录单信息多（行列），每个三元组自己可以定位，因此空间不是最优。

COO优点：

1:容易构造,比较容易转换成其他的稀疏矩阵存储格式（CSR等）
2:写程序可以将libsvm格式的数据转换成COO比较容易，应该是充当libsvm与其他稀疏矩阵存储格式转换的媒介。
3:支持相同的(row,col)坐标上存放多个值。

COO缺点：

1：构建完成后不允许再插入或删除元素。不能进行常规矩阵运算。
2：不能直接进行科学计算和切片操作。

适用场景：

加载数据文件时使用coo_matrix快速构建稀疏矩阵，然后调用to_csr()、to_csc()、to_dense()把它转换成CSR或稠密矩阵。

libsvm转coo_matrix：
1:读libsvm格式数据;

2:libsvm转换成COO代码：

注：最后一行coo_matrix()一定要指定shape,因为coo只保留了有值的坐标，不指定shape无法还原矩阵。

1.2:csr_matrix (Compressed Sparse Row)

比较标准，数值，列号，以及行偏移。 (相当于每行的首个元素在value中的index)
row offset的数值个数是row + 1, 表示某行第一个元素在values中的位置，如5是第三行第一个元素，它在values中的index是4。

优点：

1：高效地按行切片。
2：快速地计算矩阵与向量的内积。
3：高效地进行矩阵的算术运行，CSR + CSR、CSR * CSR等。

缺点：

1：按列切片很慢（考虑CSC）
2：一旦构建完成后，再往里面添加或删除元素成本很高
3：CSR格式在存储稀疏矩阵时非零元素平均使用的字节数(Bytes per Nonzero Entry)最为稳定（float类型约为8.5，double类型约为12.5）。CSR格式常用于读入数据后进行稀疏矩阵计算。

1.3:CSC

CSC是和CSR相对应的一种方式，即按列压缩的意思。
以上图中矩阵为例：
Values:[1 5 7 2 6 8 3 9 4]
Row Indices:[0 2 0 1 3 1 2 2 3]
Column Offsets:[0 2 5 7 9]

scipy中稀疏矩阵coo_matrix, csr_matrix 的使用相关推荐

正确理解scipy中的coo_matrix函数
正确理解scipy中的coo_matrix函数 1. 构造一个空矩阵 2. 使用ijv(triplet)格式构造一个矩阵 3. 用重复的索引构造矩阵 1. 构造一个空矩阵这种用法比较简单,直接生成一 ...
Scipy.sparse模块中的coo_matrix、csc_matrix、csr_matrix函数
三种函数的英文全名,首先是从表面意思上入手. coo_matrix :COOrdinate format matrix(坐标格式矩阵) csc_matrix:Compressed Sparse Col ...
scipy中的稀疏矩阵
本文主要围绕scipy中的稀疏矩阵展开,也会介绍几种scipy之外的稀疏矩阵的存储方式. dok_matrix 继承自dict,key是(row,col)构成的二元组,value是非0元素. 优点: ...
Python学习-Scipy库稀疏矩阵的建立（面向列的稀疏矩阵、基于坐标格式的稀疏矩阵）
Python学习-Scipy库稀疏矩阵的建立稀疏矩阵指在矩阵中值为0的元素的数量远远多于非0值的矩阵 (非0元素总数/所有元素总数<=0.05) 稀疏矩阵的实现对象: csc_matrix() ...
python中稀疏矩阵的常用表示COO LIL CSR CSC【上篇】
前言 sklearn调用独热编码函数encoder.fit_transform()返回的是scipy.sparse._csr.csr_matrix类型. torch的tensor也是一种matrix, ...
新版scipy中的imread,imsave,imresize被弃用解决方法
阅读文献代码时发现新版scipy中的imread,imsave,imresize被弃用报错搜索了一下发现可以用imageio中的imread和imsave代替原有的,用numpy的reshape来代 ...
Wilcoxon signed-rank test和Wilcoxon rank-sum test及其在SciPy中的使用注意事项
其实这个问题很多朋友都已经介绍得很清楚了,例如这里:https://blog.csdn.net/chikily_yongfeng/article/details/82255575,http://blo ...
用python的scipy中的odeint来解常微分方程中的一些细节问题（适用于小白）
用python的scipy中的odeint来解常微分方程中的一些细节问题(适用于小白) 写在前面最近有些需要解决常微分方程的问题,网上查了很多教程都不是很明晰,便自己研究了一段时间,写一点小白初次接 ...
SciPy中的optimize.minimize实现受限优化问题
问题描述:有一批样本x,每个样本都有几个固定的标签,如(男,24岁,上海),需要从中抽取一批样本,使样本总的标签比例满足分布P(x),如(男:女=49%:51%.20岁:30岁=9%:11%..... ...
scipy中的scipy.optimize.curve_fit
scipy中的scipy.optimize.curve_fit 这里写目录标题 scipy中的scipy.optimize.curve_fit 参数 Return scipy.optimize.``c ...

scipy中稀疏矩阵coo_matrix, csr_matrix 的使用

这时稀疏矩阵类型 coo_matrix / csr_matrix 就派上用场了！

这两种稀疏矩阵类型csr_matrix存储密度更大，但不易手工构建。coo_matrix存储密度相对小，但易于手工构建，常用方法为先手工构建coo_matrix，如果对内存要求高则使用 tocsr() 方法把coo_matrix转换为csr_matrix类型。

csr_matrix内存使用约为coo_matrix的70% :

coo_matrix是比较通用的格式，比如sklearn中LR可直接处理coo_matrix 格式。

合并两个 coo_matrix或 csr_matrix 可以使用 vstack() 或 hstack()。
具体自行查文档吧。

python---稀疏格式储存coo_matrix/csr_matrix

1.1: coo_matrix

COO优点：

COO缺点：

适用场景：

1.2:csr_matrix (Compressed Sparse Row)

优点：

缺点：

1.3:CSC

scipy中稀疏矩阵coo_matrix, csr_matrix 的使用相关推荐

最新文章

热门文章

scipy中稀疏矩阵coo_matrix, csr_matrix 的使用

这时稀疏矩阵类型 coo_matrix / csr_matrix 就派上用场了！

这两种稀疏矩阵类型csr_matrix存储密度更大，但不易手工构建。coo_matrix存储密度相对小，但易于手工构建，常用方法为先手工构建coo_matrix，如果对内存要求高则使用 tocsr() 方法把coo_matrix转换为csr_matrix类型。

csr_matrix内存使用约为coo_matrix的70% :

coo_matrix是比较通用的格式，比如sklearn中LR可直接处理coo_matrix 格式。

合并两个 coo_matrix或 csr_matrix 可以使用 vstack() 或 hstack()。 具体自行查文档吧。

python---稀疏格式储存coo_matrix/csr_matrix

1.1: coo_matrix

COO优点：

COO缺点：

适用场景：

1.2:csr_matrix (Compressed Sparse Row)

优点：

缺点：

1.3:CSC

scipy中稀疏矩阵coo_matrix, csr_matrix 的使用相关推荐

最新文章

热门文章

合并两个 coo_matrix或 csr_matrix 可以使用 vstack() 或 hstack()。
具体自行查文档吧。