对scipy.sparse.csr_matrix中的行求和

Question

我有一个大的csr_matrix，我想添加多行，获得一个列数相同但行数减少的新csr_matric。(上下文：该矩阵是从sklearn CountVectorizer获得的文档术语矩阵，我希望能够根据与这些文档相关的代码快速组合文档)

举一个最小的例子，这是我的矩阵：

import numpy as np
from scipy.sparse import csr_matrix
from scipy.sparse import vstack
row = np.array([0, 4, 1, 3, 2])
col = np.array([0, 2, 2, 0, 1])
dat = np.array([1, 2, 3, 4, 5])
A = csr_matrix((dat, (row, col)), shape=(5, 5))
print A.toarray()
[[1 0 0 0 0]
[0 0 3 0 0]
[0 5 0 0 0]
[4 0 0 0 0]
[0 0 2 0 0]]

不，假设我想要一个新的矩阵B，其中行(1，4)和(2，3，5)通过求和来组合，看起来像这样：

[[5 0 0 0 0]
[0 5 5 0 0]]

并且应该再次采用稀疏格式(因为我正在处理的实际数据很大)。我试图对矩阵的切片求和，然后将其堆叠：

idx1 = [1, 4]
idx2 = [2, 3, 5]
A_sub1 = A[idx1, :].sum(axis=1)
A_sub2 = A[idx2, :].sum(axis=1)
B = vstack((A_sub1, A_sub2))

但这只为切片中的非零列提供了求和值，所以我不能将其与其他切片组合，因为求和切片中的列数不同。

我觉得一定有一个简单的方法可以做到这一点。但我在网上或文档中找不到任何关于这方面的讨论。我错过了什么？

感谢您的帮助

Answer 1

请注意，您可以通过仔细构建另一个矩阵来实现这一点。以下是它对密集矩阵的工作方式：

>>> S = np.array([[1, 0, 0, 1, 0,], [0, 1, 1, 0, 1]])
>>> np.dot(S, A.toarray())
array([[5, 0, 0, 0, 0],
[0, 5, 5, 0, 0]])
>>>

稀疏版本只是稍微复杂一点。关于哪些行应该加在一起的信息被编码在row:中

col = range(5)
row = [0, 1, 1, 0, 1]
dat = [1, 1, 1, 1, 1]
S = csr_matrix((dat, (row, col)), shape=(2, 5))
result = S * A
# check that the result is another sparse matrix
print type(result)
# check that the values are the ones we want
print result.toarray()

输出：

<class 'scipy.sparse.csr.csr_matrix'>
[[5 0 0 0 0]
[0 5 5 0 0]]

通过在row中包含更高的值并相应地扩展S的形状，可以处理输出中的更多行。

Answer 2

索引应该是：

idx1 = [0, 3]       # rows 1 and 4
idx2 = [1, 2, 4]    # rows 2,3 and 5

然后您需要将A_sub1和A_sub2保持为稀疏格式，并使用axis=0:

A_sub1 = csr_matrix(A[idx1, :].sum(axis=0))
A_sub2 = csr_matrix(A[idx2, :].sum(axis=0))
B = vstack((A_sub1, A_sub2))
B.toarray()
array([[5, 0, 0, 0, 0],
[0, 5, 5, 0, 0]])

注意，我认为A[idx, :].sum(axis=0)运算涉及稀疏矩阵的转换，所以@Mr_E的答案可能更好。

或者，当您使用axis=0和np.vstack(与scipy.sparse.vstack相反)时，它也可以工作：

A_sub1 = A[idx1, :].sum(axis=0)
A_sub2 = A[idx2, :].sum(axis=0)
np.vstack((A_sub1, A_sub2))

给予：

matrix([[5, 0, 0, 0, 0],
[0, 5, 5, 0, 0]])