标准正交向量
有一堆向量,
一个向量没法和自己正交,在i = j时,让
向量的转置乘以自身等于1,意味着这个向量是单位向量,所以我们称这堆向量
标准正交矩阵
现在把这些标准正交向量放入矩阵中:
下面的Q就是一个正交矩阵:
可以将Q的三个列看作直角坐标系的三个轴,它们两两垂直。
再举个例子:
一个方阵的列是正交的并不意味着方阵是正交矩阵,比如下面这个:
虽然这个矩阵不是正交矩阵,
这样就变成正交矩阵了。类似的还有下面这个:
正交矩阵与投影矩阵
如果Q是标准正交矩阵,那么Q在列空间上的投影矩阵将得到简化:
更进一步,如果Q是方阵:
如果对
其中:
在求解Ax = b时,如果A是标准正交矩阵,它的好处就是不需要计算逆矩阵:
这也意味着
这也是很重要的一个式子:如果已知标准正交基,在第
格拉姆-施密特正交化
既然正交化这么好,有没有什么方法能使矩阵标准正交化呢?当然有,这就是格拉姆-施密特(Gram-Schmidt)正交化。
假设有两个线性无关的向量a和b,现在标准正交化这两个向量,让它们变成
根据上一章的知识,p相当于a放缩了x倍,在一维空间内,x是一个标量:
这相当于B是b减去b在a上的投影,B是b和A的线性组合。
最后将A变成指向A方向的单位向量,B变成指向B方向的单位向量:
这就是格拉姆-施密特正交化方法。
如果还有一个向量c,由c到
代入几个数值看看:
验证:
这个标准正交矩阵Q是通过下面的原始矩阵得到的:
A的列空间和B的列空间相同,能够张成一个二维空间的平面。a和b是A的列空间的一组基,但这组基“不够好”,我们还想进一步让这组基的向量两两正交,并且都是单位向量,这就得到了q1和q2。
格拉姆-施密特表达
如同A = LU一样,A可以分解成一个正交矩阵和一个上三角矩阵的乘积,A = QR,这里A是原始矩阵,各列线性无关,Q是标准正交矩阵,R是上三角矩阵。
假设原始矩阵A有三个列向量:
按照格拉姆-施密特正交化方法转换后,得到
q和a本身也是列向量,得出结果并不那么直观,可以展开表达:
由于
如果
示例
求矩阵A的QR分解。