Numpy最大奇异值大于最大特征值

Question

让

import numpy as np
M = np.array([[ 1., -0.5301332 , 0.80512845],
[ 0., 0., 0.],
[ 0., 0., 0.]])

M是秩一，它唯一的非零特征值是1(它的迹(。然而，CCD_ 2返回1.39，该1.39严格大于1。为什么？

np.linalg.eigvals返回的M的特征值是1，0，0，但M的奇异值是1.39，0，零，这让我很惊讶。我错过了什么？

Answer 1

在这种特殊情况下，M的2-范数与公式(np.sum(np.abs(M**2)))**(1/2)给出的Frobenius范数一致，因此我们可以看到：

import numpy as np
M = np.array([[ 1., -0.5301332 , 0.80512845],
[ 0., 0., 0.],
[ 0., 0., 0.]])
np.sqrt(np.sum(np.abs(M**2)))
1.388982732341062
np.sqrt(np.sum(np.abs(M**2))) == np.linalg.norm(M,ord=2) == np.linalg.norm(M, ord='fro')
True

特别地，可以证明2-范数是M.T@M的最大特征值即的平方根

np.sqrt(np.linalg.eigvals(M.T@M)[0])
1.388982732341062

这就是它与矩阵的特征值的关系。现在回想一下，奇异值是M.T@M我们解开迷雾。

---

利用Frobenius范数(M.T@M)：

np.sqrt(np.sum(np.diag(M.T@M)))
1.388982732341062

直面结果：

np.sqrt(np.linalg.eigvals(M.T@M)[0]) == np.sqrt(np.sum(np.diag(M.T@M))) == np.linalg.svd(M)[1][0]
True

Answer 2

矩阵的第二范数所有元素之和的平方根

norm(M, ord=2) = (1.**2  + 0.5301332**2 + 0.80512845**2)**0.5 = 1.39

为了得到特征值和奇异值之间的关系，你需要计算M^H.M的特征值和的平方根

eigV = np.linalg.eigvals(M.T.dot(M))
array([1.92927303, 0.        , 0.        ])
eigV**0.5
array([1.38898273, 0.        , 0.        ])

Answer 3

这是完全正常的。在一般情况下，奇异值不等于本征值。这只适用于正埃尔米特矩阵。

对于平方矩阵，您有以下关系：

M = np.matrix([[ 1., -0.5301332 , 0.80512845],
[ 0., 0., 0.],
[ 0., 0., 0.]])
u, v= np.linalg.eig(M.H @ M) # M.H @ M is Hermitian
print(np.sqrt(u)) # [1.38898273 0.         0.        ]
u,s,v = lin.svd(M)
print(s) # [1.38898273 0.         0.        ]