一、QR分解法（QR Decomposition）

QR分解法是三种将矩阵分解的方式之一。其它两种：Cholesky和LU。QR分解经常用来解线性最小二乘法问题。QR分解也是特定特征值算法即QR算法的基础。

应用：

求解determinant，因为Q的det是1，因此只需要把R的对角乘积求出来就可以了
线性问题求解，这种方法比直接求逆来的更快速且数值更稳定

QR分解法（QR Decomposition）是目前求一般矩阵全部特征值的最有效并广泛应用的方法，一般矩阵先经过正交相似变化成为Hessenberg矩阵，然后再应用QR方法求特征值和特征向量。它是将矩阵分解成一个正规正交矩阵（ Orthogonal Matrix ）Q与上三角形矩阵R，所以称为QR分解法。

【该算法对对称矩阵和非对称矩阵都适用】

1.1施密特正交化过程(Gram–Schmidt process)

使用迭代的方法，一列一列的去掉当前列与前面的垂直部分。因为在第k步的时候已经求出了能够span前k-1列的垂直归一向量，那么在第k步的时候去掉第k列在之前k-1个基向量上面构成超平面的投影向量，再去做归一处理即可。具体可以参考维基
这个方法已经几乎被弃用，虽然逻辑清晰，但是数值不稳定。可以看到下一步的垂直向量是收到之前所有误差的累加，误差随矩阵规模（应该是线性）增加，因此数量级差的大的话会有问题。

举例：

寻找A的正交基(Orthogonal Basis)

随便选择一列(在这个例子中就选第一列好了)，作为基准，并作为第一列的偏正交基(Partial Orthogonal Basis)，以下简称PoB，记为X

现在偏正交基(PoB)只有一列，每一步随着我们计算其他列，X都会更新，我们同理计算其余两列：

（首先需要计算第二列减去第二列在X上的投影，投影怎么算呢？用第二列跟X相对应的列点乘，然后除以X相对应的基的长度(模)，再乘以X相对应的基，最后得出的偏正交基还可以约去公约数，因此现在偏正交基X变成了：）

计算最后一列

约去公约数，化成最简单状态(当然也可以不约)，最终的偏正交基如下：

接下来我们对X标准化，得出Q，也就是说Q=Normalized(X)：

所以

现在求到了Q，我们下一步需要求R

我们在等号两边乘以Q的转置，因为Q是正交矩阵，因此Q乘以Q的转置等于单位矩阵(Identical Matrix)则上式变成：

所以：

1.2Householder reflections（豪斯霍尔德）

巧妙构造一个orthonormal的矩阵，且这个矩阵能够QA之后去掉第一列除了第一个元素其他的数值，逐步实现一列一列消除。对于任意的向量x，使得α = x的模，于是就有这样的构造使得Q是orthonormal (可以验证QQ^T=Id)。
这种方法，误差并不会累加，可能会加加减减，保持同一数量级或者累乘（累乘的话误差越来越小，数值稳定）

【算法复杂度约为2 / 3 n^3算法稳定性也比较好，这个算法的问题是无法并行，一次性需要的内存较多。】

1.3Given Rotation(吉文斯)

利用四角rotation矩阵，逐步去掉左下角的元素，最后将各种G累乘起来，这个算法求解路径比较复杂，而且求三角函数的反函数也会有比较大的误差和计算量，虽然巧妙但是不实用。

二、jama（通过Householder实现）

Jama是一个非常好用的Java的线性代数软件包。适用于日常编程可能碰到的各种矩阵运算问题，提供了一个优雅的简便的解决方案。官网>>>

<!-- https://mvnrepository.com/artifact/gov.nist.math/jama --><dependency><groupId>gov.nist.math</groupId><artifactId>jama</artifactId><version>1.0.3</version></dependency>

2.1功能

Jama由6大类组成：Matrix, CholeskyDecomposition, LUDecomposition, QRDecomposition, SingularValueDecomposition和 EigenvalueDecomposition。

Matrix 类提供数值线性代数的基本运算。各种获取和设置提供对子矩阵和矩阵元素的访问。
对称正定矩阵的Cholesky分解 CholeskyDecomposition
矩阵的LU分解（高斯消元）LUDecomposition
矩阵的QR分解 QRDecomposition
对称和非对称矩阵的特征向量值分解 EigenvalueDecomposition
矩阵的奇异值分解 SingularValueDecomposition

2.2Matrix

2.2.1构造函数：

// 1. 从2维数组转换
Matrix(double[][] A);
// 2. 快速构造（不检查参数）
Matrix(double[][] A, int m, int n);
// 3. 从1维压缩数组构造函数
Matrix(double[] vals, int m);
// 4. 构造m*n的空矩阵（以0填充）
Matrix(int m, int n);
// 5. 构造m*n的矩阵
Matrix(int m, int n, double s);
// 6. m*n单位矩阵
Matrix.identify(int m, int n);
// 7. m*n随机矩阵
Matrix.random(int m, int n);

2.2.2方法

// 1. Matrix转换为double[][]形式
A.getArray();
// 2. 获取Matrix行数
A.gerRowDimension();
// 3. 获取Matrix列数
A.getColumnDimension();
// 4. 获取位于[i][j]的元素
A.get(i,j);// 5.获取[i1][j1]-[i2][j2]范围内的矩阵
getMatrix(int i1, int i2, int j1, int j2);
// 举例: A为4*5的矩阵
A.getMatrix(0,4,5,5);   //获取A的最后一列// 6. 对A[i1][j1]-A[i2][j2]范围内的矩阵赋值
setMatrix(int i0, int i1, int j0, int j1, Matrix X);
// 举例: A为4*5的矩阵，B为4*2的矩阵
A.setMatrix(0,4,1,2,B); // 将B赋值到A的第2、3列// ps: <5.><6.>中的i,j可以用数组表示
A.getMatrix(int[] r, int[] c);
A.getMatrix(int i1, int i2, int[] c);
A.getMatrix(int[] r, int j1, int j2);A.setMatrix(int[] r, int[] c, Matrix B);
A.setMatrix(int i1, int i2, int[] c, Matrix B);
A.setMatrix(int[] r, int j1, int j2, Matrix B);

2.2.3基本运算

// 1. 加
A.plus(B);              //C=A+B
A.plusEquals(B); //A=A+B// 2. 减
A.minus(B);             //C=A-B
A.minusEquals(B);   //A=A-B// 3. 乘
A.times(B);             //C=A*B
A.times(s);             //C=s*A
A.timesEquals(s);   //A=s*A// 4. 元素乘法
A.arrayTimes(B);    //C=A.*B
A.arrayTimesEquals(B);//A=A.*B// 5. 元素除法
A.arrayLeftDivide(B);               //左除 C=A.\B
A.arrayLeftDivideEquals(B); //A=A.\B
A.arrayRightDivide(B);          //右除 C=A./B
A.arrayRightDivideEquals(); //A=A./B//  8. 转置矩阵
A.transpose();

2.2.4矩阵相关数学量

// 1. 条件数(2范式)
(double) A.cond();// 2. 行列式
(double) A.det();// 3. 求秩
(int) A.rank();// 4. 求逆/伪逆
A.inverse();

2.2.5线性方程求解

// 最小二乘
A.solve(B);     // A*X=B
A.solveTranspose(B);    //A'*X'=B'

2.2.6矩阵分解

三、Ejml（推荐）

Efficient Java Matrix Library (EJML) 是一个线性代数库，用于处理实数/复数/密集/稀疏矩阵。它的设计目标是；1) 对小型和大型矩阵尽可能地具有计算和内存效率，以及新手和专家都可以访问。这些目标是通过动态选择在运行时使用的最佳算法、干净的 API 和多个接口来实现的。EJML 是免费的，100% 用 Java 编写，并已在 Apache v2.0 许可下发布。具有以下功能：

基本运算符（加法，乘法，...）
矩阵操作（提取、插入、组合……）
线性求解器（线性，最小二乘，增量，...）
分解（LU、QR、Cholesky、SVD、特征值，...）
矩阵特征（秩、对称、确定性……）
随机矩阵（协方差、正交、对称......）
不同的内部格式（行优先，块，稀疏，...）
图表 BLAS (Semirings)
单线程和并发实现
单元测试
Kotlin 扩展

该库详细说明：Manual - Efficient Java Matrix Library

JavaDoc：Overview

3.1使用

<dependency><groupId>org.ejml</groupId><artifactId>ejml-all</artifactId><version>0.41</version></dependency>

3.2实现

public class App {/*** jama 实现QR·*/private static void jama(double[][] array) {// Matrix matrix = Matrix.random(2, 2);//   double[][] array = matrix.getArray();Matrix matrix = new Matrix(array);
//        System.out.println("原矩阵");
//        for (int i = 0; i < array.length; i++) {
//            for (int i1 = 0; i1 < array[i].length; i1++) {
//                System.out.print(array[i][i1] + " ");
//            }
//            System.out.println();
//        }QRDecomposition qr = matrix.qr();Matrix h = qr.getH();
//        System.out.println("H矩阵");
//        double[][] hArray = h.getArray();
//        for (int i = 0; i < hArray.length; i++) {
//            for (int i1 = 0; i1 < hArray[i].length; i1++) {
//                System.out.print(hArray[0][0]+" ");
//            }
//            System.out.println();
//        }Matrix q = qr.getQ();double[][] qArray = q.getArray();
//        System.out.println("Q矩阵");
//        for (int i = 0; i < qArray.length; i++) {
//            for (int i1 = 0; i1 < qArray[i].length; i1++) {
//                System.out.print(qArray[i][i1] + " ");
//            }
//            System.out.println();
//        }Matrix qrR = qr.getR();double[][] qrRArray = qrR.getArray();
//        System.out.println("R矩阵");
//        for (int i = 0; i < qrRArray.length; i++) {
//            for (int i1 = 0; i1 < qrRArray.length; i1++) {
//                System.out.print(qrRArray[i][i1] + " ");
//            }
//            System.out.println();
//        }}private static void ejml(double[][] array) {
//        SimpleMatrix simpleMatrix = new SimpleMatrix(array);//QRDecompositionHouseholder_DDRB
//        QRExampleSimple alg = new QRExampleSimple();
//        alg.decompose(simpleMatrix);
//        SimpleMatrix q = alg.getQ();
//        SimpleMatrix r = alg.getR();
//        System.out.println("q:");
//        q.print();DMatrixRBlock rBlock = new DMatrixRBlock(2000, 2000);for (int i = 0; i < array.length; i++) {for (int i1 = 0; i1 < array[i].length; i1++) {rBlock.set(i, i1, array[i][i1]);}}System.out.println("j原：");// rBlock.print();QRDecompositionHouseholder_DDRB ddrb = new QRDecompositionHouseholder_DDRB();ddrb.decompose(rBlock);DMatrixRBlock q = ddrb.getQ(null, true);
//        System.out.println("Q:");
//        q.print();DMatrixRBlock r = ddrb.getR(null, false);
//        System.out.println("R：");
//        r.print();}public static void main(String[] args) {
//        DateTimeFormatter dtf = DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss");
//        String time = dtf.format(LocalDateTime.now());//System.out.println("jama开始：" + LocalDateTime.now());
//        while (i<2){Matrix matrix = Matrix.random(2000, 2000);double[][] array = matrix.getArray();// jama(array);
//        }//        String time1 = dtf.format(LocalDateTime.now());System.out.println("jama结束：" + LocalDateTime.now());//        String time2 = dtf.format(LocalDateTime.now());System.out.println("ejml开始：" + LocalDateTime.now());ejml(array);//        String time3 = dtf.format(LocalDateTime.now());System.out.println("ejml结束：" + LocalDateTime.now());}
}

四、结果

所以，QR分解推荐用ejml。

五、锦上添花

不管是jama还是ejml，对于矩阵的操作最复杂的程度只到log函数和exp函数，针对sin、cos等函数没有实现，如果我们自己去实现，将大大降低运行效率，所以，应该引进ujmp包，达到锦上添花的效果。

矩阵的QR分解（jama和emjl对比，UJMP锦上添花）相关推荐

AI笔记: 数学基础之正交矩阵与矩阵的QR分解
正交矩阵若n阶方阵A满足ATA=EA^TA = EATA=E, 则称A为正交矩阵, 简称正交阵 (复数域上称为酉矩阵) A是正交阵的充要条件:A的列(行)向量都是单位向量,且两两正交. 若A为正交矩 ...
[矩阵的QR分解系列四] QR(正交三角)分解
QR分解简介 QR分解定义存在和唯一性存在性证明唯一性证明分解方法施密特(Schmidt)方法吉文斯(Givens)方法豪斯霍尔德(Householder)方法例子施密特(Sch ...
矩阵的QR分解以及在最小二乘法中的应用
一.最小二乘法最小二乘法是一种数学优化方法,通过最小化误差的平方和来拟合数据点. 以线性回归模型为例,如果我们用最小二乘法来求解线性回归的系数,可得: err(yi−y^)=1n∑i=1n( ...
[矩阵的QR分解系列一] 施密特(Schmidt)正交规范化
施密特正交规范化简介规范化步骤例子引用之前介绍的矩阵的三角分解系列介绍了利用矩阵初等变换解决了矩阵三角化问题以及具体的三角分解.但是以初等变换工具的三角分解方法并不能消除病态线性方程组不稳定 ...
线性代数(15)——矩阵的QR分解
矩阵QR分解矩阵的QR分解概述演示分析实现QR分解矩阵的QR分解和LU分解的目的都是为了便于矩阵计算. 矩阵的QR分解概述 A = Q R A=QR A=QR这一过程将矩阵分解为 Q Q ...
用豪斯霍尔德（Householder）变换进行矩阵的QR分解，及其Matlab和OpenCV实现
1.豪斯霍尔德变换一般地,对给定的mmm维向量aaa,考虑分块 a=[a1a2]a=\left[ \begin{matrix} {{a}_{1}} \\ {{a}_{2}} \\ \end{matr ...
矩阵的QR分解c语言编程,[矩阵的QR分解系列五] Eigen中的QR分解
之前介绍的矩阵的三角分解系列介绍了利用矩阵初等变换解决了矩阵三角化问题以及具体的三角分解.但是以初等变换工具的三角分解方法并不能消除病态线性方程组不稳定问题,而且有时候对于可逆矩阵有可能也不存在三角分 ...
matlab qr分解作用,MATLAB论文_矩阵的QR分解及其MATLAB实现.doc
您所在位置:网站首页 > 海量文档 &nbsp>&nbsp计算机&nbsp>&nbspmatlab MATLAB论文_矩阵的QR分解及其MATLAB实 ...
数据挖掘--矩阵的QR分解
矩阵的QR分解: A=QR,其中Q为正交矩阵,R为上三角矩阵. 具体可以通过HouseHold变换做到,分步进行,如下图: 如果矩阵A是可逆矩阵的话,那么分出的矩阵R一定是列线性无关的.此时,R的对角 ...

矩阵的QR分解（jama和emjl对比，UJMP锦上添花）