scipy中稀疏矩阵coo_matrix, csr_matrix 的使用

时间:2024-05-19 13:59:06

当对离散数据进行拟合预测时,往往要对特征进行onehot处理,但onehot是高度稀疏的向量,如果使用List或其他常规的存储方式,对内存占用极大。 

这时稀疏矩阵类型 coo_matrix / csr_matrix 就派上用场了!

这两种稀疏矩阵类型csr_matrix存储密度更大,但不易手工构建。coo_matrix存储密度相对小,但易于手工构建,常用方法为先手工构建coo_matrix,如果对内存要求高则使用 tocsr() 方法把coo_matrix转换为csr_matrix类型。

csr_matrix内存使用约为coo_matrix的70% : 
 scipy中稀疏矩阵coo_matrix, csr_matrix 的使用

coo_matrix是比较通用的格式,比如sklearn中LR可直接处理coo_matrix 格式。

那么接下来就是构建coo_matrix矩阵。 

scipy中稀疏矩阵coo_matrix, csr_matrix 的使用
应该很好理解吧? 
就是分别定义有那些非零元素,以及各个非零元素对应的row和col,最后定义稀疏矩阵的shape。

coo_matrix 一经定义后shape就不可更改了! 但data, row, col 可更改。 
但我查文档显示coo_matrix有reshape() 函数 

scipy中稀疏矩阵coo_matrix, csr_matrix 的使用
使用reshape函数拋 NotImplementedError 异常。 
查 v1.0.0版本源码: 
 scipy中稀疏矩阵coo_matrix, csr_matrix 的使用
原来reshape函数功能还未实现。。

合并两个 coo_matrix或 csr_matrix 可以使用 vstack() 或 hstack()。 
具体自行查文档吧。
 




python---稀疏格式储存coo_matrix/csr_matrix


本文介绍下python稀疏格式coo,csr,csc相关的一些东西。

1.1: coo_matrix

scipy中稀疏矩阵coo_matrix, csr_matrix 的使用

最简单一种格式,每一个元素需要用一个三元组来表示,分别是(行号,列号,数值),这种方式简单,但是记录单信息多(行列),每个三元组自己可以定位,因此空间不是最优。

COO优点:

1:容易构造,比较容易转换成其他的稀疏矩阵存储格式(CSR等)
2:写程序可以将libsvm格式的数据转换成COO比较容易,应该是充当libsvm与其他稀疏矩阵存储格式转换的媒介。
3:支持相同的(row,col)坐标上存放多个值。

COO缺点:

1:构建完成后不允许再插入或删除元素。不能进行常规矩阵运算。
2:不能直接进行科学计算和切片操作。

适用场景:

加载数据文件时使用coo_matrix快速构建稀疏矩阵,然后调用to_csr()、to_csc()、to_dense()把它转换成CSR或稠密矩阵。

libsvm转coo_matrix:
1:读libsvm格式数据;

scipy中稀疏矩阵coo_matrix, csr_matrix 的使用
2:libsvm转换成COO代码:

scipy中稀疏矩阵coo_matrix, csr_matrix 的使用

注:最后一行coo_matrix()一定要指定shape,因为coo只保留了有值的坐标,不指定shape无法还原矩阵。

1.2:csr_matrix (Compressed Sparse Row)

scipy中稀疏矩阵coo_matrix, csr_matrix 的使用

比较标准,数值,列号,以及行偏移。 (相当于每行的首个元素在value中的index)
row offset的数值个数是row + 1, 表示某行第一个元素在values中的位置,如5是第三行第一个元素,它在values中的index是4。

优点:

1:高效地按行切片。
2:快速地计算矩阵与向量的内积。
3:高效地进行矩阵的算术运行,CSR + CSR、CSR * CSR等。

缺点:

1:按列切片很慢(考虑CSC)
2:一旦构建完成后,再往里面添加或删除元素成本很高
3:CSR格式在存储稀疏矩阵时非零元素平均使用的字节数(Bytes per Nonzero Entry)最为稳定(float类型约为8.5,double类型约为12.5)。CSR格式常用于读入数据后进行稀疏矩阵计算。

1.3:CSC

CSC是和CSR相对应的一种方式,即按列压缩的意思。
以上图中矩阵为例:
Values:[1 5 7 2 6 8 3 9 4]
Row Indices:[0 2 0 1 3 1 2 2 3]
Column Offsets:[0 2 5 7 9]