资料
QR Factorization and Singular Value Decomposition
线性方程\(Ax=b\)有关的矩阵分解
LU decomposition
分解成上三角,下三角,置换矩阵的乘积
- 适用于方块矩阵(\(n \times n\))
- LUP(P是置换矩阵)是一定存在的,这其实就是高斯消元法的体现
- 用于\(Ax = b\)的求解,\(LUx = b\),
Rank factorization(秩分解)
- 适用于\(m \times n\)矩阵,秩为\(r\)
- \(A=CF\),C(\(m \times r\)),列满秩,F(\(r \times n\)),行满秩
- 用于计算伪逆
Cholesky decomposition
- 适用于方块,对称,正定矩阵
- \(A = LL^T\) ,L是下三角矩阵
- 是唯一的,同时适用于Hermitian正定矩阵
- 是LU的一种特殊形式
QR decomposition
- 适用于\(m \times n\)
- \(A =QR\), Q是正交矩阵\(QQ^T =I\),R是上三角矩阵
- 也可以用于求解\(Ax=b\),而不需要求解逆矩阵
- 同时相对于LU分解,他是数值稳定的,(不需要保留小数点后面很多的数字,为了避免数值上的不稳定)
基于特征值的相关矩阵分解
Eigen decomposition
- spectral decomposition,同时也叫作谱分解
- 适用于具有不同特征向量的方块矩阵,
- \(A=VDV^{-1}\) ,D是由特征值组成的对角矩阵,V的每一列是特征值对应的特征向量
Jordan decomposition
- 适用于方块矩阵
- 是特征值分解的广泛推广形式
Schur decomposition
- 适用于方块矩阵
- 有复数版本的,有实数版本的schur分解
- 实数版本\(A = VSV^T\),V是正交矩阵,S是上三角块矩阵.(The blocks on the diagonal of S are of size 1×1 (in which case they represent real eigenvalues) or 2×2 (in which case they are derived from complex conjugate eigenvalue pairs).
Singular value decomposition
- 适用于\(m\times n\)矩阵
- \(A= UDV^H\),D非负对角矩阵,U,V是酉矩阵
其他形式的分解
Polar decomposition
- 适用于方块,复数矩阵
- \(A= UP\)(right polar decomposition), \(A=P\'U\) (left polar decomposition)
数值稳定性,主元的选择
condition num
Measures how change in input is propogated to change in output
可以由SVD分解来求解条件数，判断矩阵的稳定性。具体参考QR Factorization and Singular Value Decomposition