当对离散数据进行拟合预测时,往往要对特征进行onehot处理,但onehot是高度稀疏的向量,如果使用List或其他常规的存储方式,对内存占用极大。
这时稀疏矩阵类型 coo_matrix / csr_matrix 就派上用场了!
这两种稀疏矩阵类型csr_matrix存储密度更大,但不易手工构建。coo_matrix存储密度相对小,但易于手工构建,常用方法为先手工构建coo_matrix,如果对内存要求高则使用 tocsr() 方法把coo_matrix转换为csr_matrix类型。
csr_matrix内存使用约为coo_matrix的70% :
coo_matrix是比较通用的格式,比如sklearn中LR可直接处理coo_matrix 格式。
那么接下来就是构建coo_matrix矩阵。
应该很好理解吧?
就是分别定义有那些非零元素,以及各个非零元素对应的row和col,最后定义稀疏矩阵的shape。
coo_matrix 一经定义后shape就不可更改了! 但data, row, col 可更改。
但我查文档显示coo_matrix有reshape() 函数
使用reshape函数拋 NotImplementedError 异常。
查 v1.0.0版本源码:
原来reshape函数功能还未实现。。
合并两个 coo_matrix或 csr_matrix 可以使用 vstack() 或 hstack()。
具体自行查文档吧。
python---稀疏格式储存coo_matrix/csr_matrix
本文介绍下python稀疏格式coo,csr,csc相关的一些东西。
1.1: coo_matrix
最简单一种格式,每一个元素需要用一个三元组来表示,分别是(行号,列号,数值),这种方式简单,但是记录单信息多(行列),每个三元组自己可以定位,因此空间不是最优。
COO优点:
1:容易构造,比较容易转换成其他的稀疏矩阵存储格式(CSR等)
2:写程序可以将libsvm格式的数据转换成COO比较容易,应该是充当libsvm与其他稀疏矩阵存储格式转换的媒介。
3:支持相同的(row,col)坐标上存放多个值。
COO缺点:
1:构建完成后不允许再插入或删除元素。不能进行常规矩阵运算。
2:不能直接进行科学计算和切片操作。
适用场景:
加载数据文件时使用coo_matrix快速构建稀疏矩阵,然后调用to_csr()、to_csc()、to_dense()把它转换成CSR或稠密矩阵。
libsvm转coo_matrix:
1:读libsvm格式数据;
2:libsvm转换成COO代码:
注:最后一行coo_matrix()一定要指定shape,因为coo只保留了有值的坐标,不指定shape无法还原矩阵。
1.2:csr_matrix (Compressed Sparse Row)
比较标准,数值,列号,以及行偏移。 (相当于每行的首个元素在value中的index)
row offset的数值个数是row + 1, 表示某行第一个元素在values中的位置,如5是第三行第一个元素,它在values中的index是4。
优点:
1:高效地按行切片。
2:快速地计算矩阵与向量的内积。
3:高效地进行矩阵的算术运行,CSR + CSR、CSR * CSR等。
缺点:
1:按列切片很慢(考虑CSC)
2:一旦构建完成后,再往里面添加或删除元素成本很高
3:CSR格式在存储稀疏矩阵时非零元素平均使用的字节数(Bytes per Nonzero Entry)最为稳定(float类型约为8.5,double类型约为12.5)。CSR格式常用于读入数据后进行稀疏矩阵计算。
1.3:CSC
CSC是和CSR相对应的一种方式,即按列压缩的意思。
以上图中矩阵为例:
Values:[1 5 7 2 6 8 3 9 4]
Row Indices:[0 2 0 1 3 1 2 2 3]
Column Offsets:[0 2 5 7 9]