线性代数

第9章 内积空间上的算子

第9.1节 引论

我们将第8章所处理的大部分议题视为基础的, 即每个人都应该知道的材料. 本章是面向更加优秀的学生以及那些迫不及待想要扩展自己关于内积空间上的算子的知识的读者的. 这里呈现的材料更加复杂, 一般牵涉更多的技术, 除了主轴定理, 其基本上就是重述定理18关于自伴算子的酉/正交对角化的结果, 以及第9.2节中关于形式的其他结果. 我们要求读者更加成熟, 就像第5章和第7章的后半部分那样. 论证和证明以更加凝缩的风格编写, 并且几乎没有多少用以润滑的例子. 然而, 我们已经预见到了这种困难, 所以为读者提供了大量的练习.

起初的三节致力于关于内积空间上的形式以及形式与线性算子之间的关系的结果. 接下来的一节处理谱论, 即第8章牵涉自伴算子和正规算子的对角化的定理18和22的推论. 最后一节里, 我们研究实内积空间上的正规算子, 由此我们检视了第6章的准素分解定理之于正规算子的意蕴.

第9.2节 内积空间上的形式

如果T是域F上的有限维内积空间V上的一个线性算子, 那么由f⁡(α,β)=⟨T⁡α|β⟩定义的函数f:V×V→F可以被视为T的一种替代物. 诸多关于T的问题都等价于关于f的问题. 实际上, 很容易看出来f可以确定T. 这是因为, 如果𝔅={α1,…,αn}是V的一个规范正交基, 那么T在𝔅下的矩阵A由Aj,k=f⁡(αk,αj)给出. 从更加抽象的角度理解为什么f可以确定T是重要的. f的重要性质在以下定义中得以描述.

定义. 一个域F (F是实数域或复数域) 上的向量空间V上的(半双线性)形式是一个函数f:V×V→F满足对于任意的α,β,γ∈V和任意的标量c有
  1. f⁡(c⁢α+β,γ)=c⁢f⁡(α,γ)+f⁡(β,γ);
  2. f⁡(α,c⁢β+γ)=c‾⁢f⁡(α,β)+f⁡(α,γ).

因此, 半双线性形式f使得f⁡(α,β)在固定的β下是α的线性函数, 而在固定的α下是β的共轭线性函数. 在实情形下, f⁡(α,β)对于每个参数都是线性的. 换言之, f是一个双线性形式. 在复情形下, 除非f=0, 否则半双线性形式f不会是双线性形式. 在本章的剩余部分里, 除非确有必要, 否则形容词"半双线性"一律省略.

如果f和g是V上的形式而c是任意的标量, 那么很容易验证c⁢f+g也是一个形式. 换言之, 任意的形式的线性组合仍然是一个形式. 因此, V上的所有形式构成的集合是向量空间FV×V的一个子空间, 其中F是向量空间V的标量域.

定理1. 令V是一个有限维内积空间, f是V上的一个形式, 那么存在唯一的V上的线性算子T满足对于任意的α,β∈V都有f⁡(α,β)=⟨T⁡α|β⟩.并且, 由此定义的映射f↦T是从形式的空间到L⁡(V,V)的一个同构.
证明. 固定一个向量β∈V, 那么α↦f⁡(α,β)是V上的一个线性泛函. 根据第8章的定理6, 存在唯一的向量β′∈V使得对于每个α, 我们有f⁡(α,β)=⟨α|β′⟩. 定义函数U:V→V,β↦β′, 那么f⁡(α,c⁢β+γ)=⟨α|U⁡(c⁢β+γ)⟩=c‾⁢f⁡(α,β)+f⁡(α,γ)=c‾⁢⟨α|U⁡β⟩+⟨α|U⁡γ⟩=⟨α|c⁢U⁡β+U⁡γ⟩对于任意的α,β,γ∈V和任意的标量c成立. 因此, U是V上的一个线性算子. 令T=U⁎, 则有对于所有的α,β∈V, f⁡(α,β)=⟨T⁡α|β⟩. 如果我们也有线性算子T′使得f⁡(α,β)=⟨T′⁡α|β⟩, 那么⟨T⁡α−T′⁡α|β⟩=0.于是, 对于每个α∈V, T⁡α=T′⁡α. 换言之, 对于每个形式f, 存在唯一的线性算子Tf使得对于每个α,β∈V, 我们有f⁡(α,β)=⟨Tf⁡α|β⟩.如果f和g是形式而c是标量, 那么(c⁢f+g)⁡(α,β)=⟨Tc⁢f+g⁡α|β⟩=c⁢f⁡(α,β)+g⁡(α,β)=c⁢⟨Tf⁡α|β⟩+⟨Tg⁡α|β⟩=⟨(c⁢Tf+Tg)⁡α|β⟩对于任意的α,β∈V成立, 因而Tc⁢f+g=c⁢Tf+Tg.换言之, f↦Tf是一个线性映射. 对于每个f∈L⁡(V,V), 等式f⁡(α,β)=⟨T⁡α|β⟩定义了一个形式f使得Tf=T. 并且, 如果Tf=0, 那么f=0. 因此, f↦Tf的确是一个同构.
◻
推论. 等式⟨f|g⟩=tr⁡(Tf⁢Tg⁎)定义了形式的空间上的一个内积, 并且对于每个V的规范正交基{α1,…,αn}, 我们有⟨f|g⟩=∑j=1n∑k=1nf⁡(αk,αj)⁢g⁡(αk,αj)‾.
证明. 根据第8章的例子3, 很容易推出(T,U)↦tr⁡(T⁢U⁎)是L⁡(V,V)上的一个内积. 既然f↦Tf是一个同构, 第8章的例子6表明⟨f|g⟩=tr⁡(Tf⁢Tg⁎)也是一个内积. [译注: 实际上, 前一个内积也是通过第8章的例子6得到的.] 现在设A和B分别是Tf和Tg在规范正交基𝔅={α1,…,αn}下的矩阵, 那么Aj,k=⟨Tf⁡αk|αj⟩=f⁡(αk,αj)而Bj,k=⟨Tg⁡αk|αj⟩=g⁡(αk,αj).这可以推出⟨f|g⟩=tr⁡(Tf⁢Tg⁎)=tr⁡(A⁢B⁎)=∑j=1n∑k=1nAj,k⁢B‾j,k=∑j=1n∑k=1nf⁡(αk,αj)⁢g⁡(αk,αj)‾
◻
定义. 如果f是V上的一个形式而𝔅={α1,…,αn}是V的一个有序基, 那么由Aj,k=f⁡(αk,αj)定义的矩阵A被称为f在有序基𝔅下的矩阵.

当𝔅是一个规范正交基时, f在𝔅下的矩阵也是线性变换Tf在𝔅下的矩阵, 但是在一般情况下并非如此.

如果A是f在有序基𝔅={α1,…,αn}下的矩阵, 那么f⁡(∑s=1nxs⁢αs,∑r=1nyr⁢αr)=∑r=1n∑s=1ny‾r⁢Ar,s⁢xs对于任意的标量xs和yr成立. 换言之, 矩阵A具有f⁡(α,β)=Y⁎⁢A⁢X的性质, 其中X和Y分别是α和β在有序基𝔅下的坐标矩阵.

f在另外一个基αj′=∑i=1nPi,j⁢αi,1≤j≤n下的矩阵由式子A′=P⁎⁢A⁢P给出, 这是因为Aj,k′=f⁡(αk′,αj′)=f⁡(∑s=1nPs,k⁢αs,∑r=1nPr,j⁢αr)=∑r=1n∑s=1nP‾r,j⁢Ar,s⁢Ps,k=(P⁎⁢A⁢P)j,k既然对于酉矩阵而言, 我们有P⁎=P−1, 因而与酉等价相关的结果也可应用于对形式的研究.

定理2. 令f是有限维复内积空间V上的一个形式, 那么存在V的一个规范正交基使得其下的f的矩阵是上三角的.
证明. 令T是V上的线性算子, 其满足对于任意的α,β∈V有f⁡(α,β)=⟨T⁡α|β⟩. 根据第8章的定理21, 存在V的一个规范正交基𝔅={α1,…,αn}使得T在其下的矩阵是上三角的. 根据之前的观察, 我们知道此时f的矩阵和T的矩阵是相同的. 换言之, f在规范正交基𝔅下的矩阵是上三角的.
◻
定义. 实或复向量空间V上的形式f被称为Hermite的, 如果对于每个α,β∈V有f⁡(α,β)=f⁡(β,α)‾.

如果T是有限维内积空间V上的线性算子, 而f是由f⁡(α,β)=⟨T⁡α|β⟩定义的形式, 那么f⁡(β,α)‾=⟨α|T⁡β⟩=⟨T⁎⁡α|β⟩换言之, f是Hermite的当且仅当T是自伴的.

译者注记. 上述观察, 即便没有有限维的条件, 也同样成立.

当f是一个Hermite形式, 那么对于每个向量α, f⁡(α,α)是实数. 在复向量空间上, 这个性质就刻画了Hermite形式.

定理3. 令V是一个复向量空间而f是V上的一个形式, 如果对于每个向量α∈V有f⁡(α,α)为实数, 那么f是一个Hermite形式.
证明. 令α和β是V中的向量, 我们必须证明f⁡(α,β)=f⁡(β,α)‾. 现在我们有f⁡(α+β,α+β)=f⁡(α,α)+f⁡(α,β)+f⁡(β,α)+f⁡(β,β).既然f⁡(α+β,α+β), f⁡(α,α), f⁡(β,β)都是实数, f⁡(α,β)+f⁡(β,α)也应该是实数. 对于α+i⁢β施行相同的论证, 我们又可以得到−i⁢f⁡(α,β)+i⁢f⁡(β,α)是实数. 我们知道实数的共轭等于其本身, 于是f⁡(α,β)+f⁡(β,α)=f⁡(α,β)‾+f⁡(β,α)‾−i⁢f⁡(α,β)+i⁢f⁡(β,α)=i⁢f⁡(α,β)‾−i⁢f⁡(β,α)‾给第二个等式乘上i, 然后再加上第一个等式, 我们就得到2⁢f⁡(α,β)=2⁢f⁡(β,α)‾即f⁡(α,β)=f⁡(β,α)‾.
◻
推论. 令T是有限维复内积空间V上的一个线性算子, 那么T是自伴算子当且仅当对于每个α∈V, ⟨T⁡α|α⟩是实数.
译者注记. 实际上, 即便没有有限维的条件, 以上推论仍然成立.
定理4. 主轴定理. 对于有限维内积空间V上的每个Hermite形式f, 存在V的一个规范正交基使得f在其下由一个实对角矩阵表示.
证明. 根据定理1, 存在唯一的线性算子T使得f⁡(α,β)=⟨T⁡α|β⟩. 根据之前的观察, 既然f是Hermite形式, 那么T是自伴算子. 根据第8章的定理18, 我们知道存在V的一个规范正交基𝔅使得T由对角矩阵表示. 当然, 根据第8章的定理15, 这个对角矩阵的元素均为实数. 我们知道, f在规范正交基𝔅下的矩阵即T在𝔅下的表示, 所以f在𝔅下也由实对角矩阵表示.
◻
推论. 对于有限维内积空间V上的Hermite形式f, 存在一个规范正交基𝔅使得对于每个α,β∈V, 若(x1,…,xn)和(y1,…,yn)分别是α和β在𝔅下的坐标, 那么f⁡(α,β)=∑j=1ncj⁢xj⁢y‾j其中c1,…,cn是固定的实数.
练习1. 请问下列函数f:ℂ2×ℂ2→ℂ中哪些是ℂ2上的(半双线性)形式, 其中我们设α=(x1,x2), β=(y1,y2)?
  1. f⁡(α,β)=1.
  2. f⁡(α,β)=(x1−y‾1)2+x2⁢y‾2.
  3. f⁡(α,β)=(x1+y‾1)2−(x1−y‾1)2.
  4. f⁡(α,β)=x1⁢y‾2−x‾2⁢y1.
练习2. 令f⁡((x1,x2),(y1,y2))=x1⁢y1+x2⁢y2是ℝ2上的形式, 找出f在以下的每个基下的矩阵:{(1,0),(0,1)},{(1,−1),(1,1)},{(1,2),(3,4)}.
练习3. 令A=[1i−i2]而g⁡(X,Y)=Y⁎⁢A⁢X是ℂ2×1上的形式, 那么g是一个内积吗?
练习4. 令V是一个复向量空间而f是V上的一个对称的(半双线性)形式, 即f⁡(α,β)=f⁡(β,α), 那么f是什么呢?
练习5. 令f⁡((x1,x2),(y1,y2))=x1⁢y1+4⁢x2⁢y2+2⁢x1⁢y2+2⁢x2⁢y1是ℝ2上的形式, 找到一个有序基使得f由一个对角矩阵表示.
练习6. 称形式f为(左)非退化的, 如果对于每个向量β有f⁡(α,β)=0可以推出α=0. 令f是有限维内积空间V上的一个形式, 证明f是非退化的当且仅当其对应的线性算子Tf (定理1) 是非奇异的.
练习7. 令f是有限维向量空间V上的一个形式. 参考练习6给出的左非退化的概念, 定义右非退化, 并证明f是左非退化的当且仅当f是右非退化的.
练习8. 令f是有限维向量空间V上的一个非退化形式 (练习6和7), L是V上的一个线性泛函, 证明存在唯一的β∈V使得对于每个α∈V有L⁡(α)=f⁡(α,β).
练习9. 令f是有限维向量空间V上的一个非退化形式, 证明每个线性算子S都有一个"相对于f的伴随", 即一个线性算子S′满足对于每个α,β∈V有f⁡(S⁡α,β)=f⁡(α,S′⁡β).

第9.3节 正定形式

本节我们将讨论非负(半双线性)形式以及其与向量空间上的给定内积之间的关系.

定义. 给定实或复向量空间V, 其上的形式f被称为非负的, 如果f是Hermite的并且对于每个α∈V有f⁡(α,α)≥0; 其上的形式f被称为正定的, 如果f是Hermite的并且对于每个非零向量α∈V有f⁡(α,α)>0.
译者注记. "非负"这个术语现在一般被"半正定"所代替.

V上的正定形式实际上就是V上的内积. 非负形式几乎就是内积了, 除了某些非零向量可能"正交"于自身.

令f是有限维向量空间V上的一个形式, 𝔅={α1,…,αn}是V的一个有序基, A是f在基𝔅下的矩阵, 即Aj,k=f⁡(αk,αj). 如果α=x1⁢α1+⋯+xn⁢αn, 那么f⁡(α,α)=f⁡(∑j=1nxj⁢αj,∑k=1nxk⁢αk)=∑j=1n∑k=1nxj⁢x‾k⁢f⁡(αj,αk)=∑j=1n∑k=1nx‾k⁢Ak,j⁢xj于是, 我们看出来f是非负形式当且仅当A=A⁎[译注: 这是f为Hermite形式的充要条件] 且∑j=1n∑k=1nx‾k⁢Ak,j⁢xj≥0对于任意的标量x1,…,xn成立.为了使得f成为正定形式, 以上的不等式必须对于每个(x1,…,xn)≠0严格成立. 刚才我们推导出的条件说明f是V上的一个正定形式当且仅当函数g⁡(X,Y)=Y⁎⁢A⁢X是列矩阵空间Fn×1上的正定形式, 其中F是向量空间V的标量域.

定理5. 令F是实数域或者复数域, A是域F上的一个n×n矩阵, 那么由g⁡(X,Y)=Y⁎⁢A⁢X定义的函数g是Fn×1上的正定形式当且仅当存在一个可逆矩阵P∈Fn×n满足A=P⁎⁢P.
证明. 对于任意的n×n矩阵A, 函数g都是列矩阵空间上的(半双线性)形式. 我们想要证明的是, g为正定的当且仅当A=P⁎⁢P. 首先, 设A=P⁎⁢P, 那么g是Hermite的, 并且g⁡(X,X)=X⁎⁢P⁎⁢P⁢X=(P⁢X)⁎⁢P⁢X≥0若P是可逆的, 那么X≠0时P⁢X≠0, 于是(P⁢X)⁎⁢P⁢X>0.
现在, 设g是列矩阵空间上的正定形式, 那么g就是一个内积, 因而存在列矩阵Q1,…,Qn使得δj,k=g⁡(Qj,Qk)=Qk⁎⁢A⁢Qj但是, 这不过就是在说, 如果Q是以Q1,…,Qn为列的矩阵, 那么Q⁎⁢A⁢Q=I. 既然{Q1,…,Qn}相对于内积g是一个规范正交基, 所以Q是可逆的. 令P=Q−1, 我们就得到A=P⁎⁢P.
◻

在实践中, 验证一个给定的矩阵A满足我们到目前为止给出的正定判则并非易事. 定理5的一个推论是, 若g为正定形式, 那么det⁡(A)>0, 因为det⁡(A)=det⁡(P⁎⁢P)=(det⁡P⁎)⁢(det⁡P)=|det⁡(P)|2.然而, det⁡(A)>0并不足以保证g是正定形式. 不过, 存在与A相关联的n个行列式具有此性质: 如果A=A⁎且这些行列式均为正数, 那么g是一个正定形式.

定义. 令A是域F上的一个n×n矩阵, 那么A的顺序主子式 (principal minor)是由Δk⁡(A)=det⁡[A1,1⋯A1,k⋮⋮Ak,1⋯Ak,k],1≤k≤n定义的n个标量Δ1⁡(A),…,Δn⁡(A).
引理. 令A是域F上的一个n×n的可逆矩阵, 那么以下陈述是等价的.
  1. 存在一个主对角线元素全为1的上三角矩阵P使得B=A⁢P是下三角矩阵.
  2. A的顺序主子式均异于0.
证明. 令P是任意的n×n矩阵, 置B=A⁢P, 那么Bj,k=∑r=1nAj,r⁢Pr,k.如果P是一个主对角线均为1的上三角矩阵, 那么∑r=1k−1Aj,r⁢Pr,k=Bj,k−Aj,k.既然B为下三角矩阵等价于j<k时有Bj,k=0, 因而B为下三角矩阵当且仅当∑r=1k−1Aj,r⁢Pr,k=−Aj,k,j<k.我们可以将以上式子看成是关于Pr,k的线性方程组, 那么陈述a就等价于该方程组有解.
实际上, 我们最好将这个大的线性方程组按照k拆分. 对于每个k=2,…,n, 我们有一个关于未知元P1,k,…,Pk−1,k的具k−1个方程的线性方程组, 其系数矩阵为[A1,1⋯A1,k−1⋮⋮Ak−1,1⋯Ak−1,k−1]这个矩阵的行列式即顺序主子式Δk−1⁡(A). 若陈述b成立, 那么这些线性方程组都有唯一解. 也就是说, 大的线性方程组也有唯一解. 于是, 陈述a成立, 并且矩阵P实际上是唯一的. 因此, 陈述b可以推出陈述a.
现在设a成立, 那么Δk⁡(B)=Δk⁡(A⁢P)=Δk⁡(A)⁢Δk⁡(P)=Δk⁡(A)=B1,1⁢⋯⁢Bk,k其中Δk⁡(A⁢P)=Δk⁡(A)⁢Δk⁡(P)利用了P是上三角矩阵的事实. 既然A和P均可逆, 那么B也可逆. 鉴于下三角矩阵B可逆等价于Bk,k≠0,k=1,…,n, 于是Δk⁡(A)≠0,k=1,…,n.
◻
定理6. 令f是有限维向量空间V上的一个形式, A是f在V的某个有序基𝔅下的矩阵, 那么f是正定形式当且仅当A=A⁎并且A的顺序主子式均为正数.
证明. 让我们先来证明这个定理有趣的一半. 设A=A⁎, 并且Δk⁡(A)>0,1≤k≤n. 根据引理, 存在(唯一的)主对角线均为1的上三角矩阵P使得B=A⁢P是下三角矩阵. 矩阵P⁎当然是一个下三角矩阵, 于是P⁎⁢B=P⁎⁢A⁢P也是下三角的. 既然A是自伴的, 那么D=P⁎⁢A⁢P也是自伴的. 显然, 自伴的下三角矩阵必然是一个对角矩阵. 按照前面引理的证明里的类似手法, 我们可以推出Δk⁡(D)=Δk⁡(P⁎⁢B)=Δk⁡(P⁎)⁢Δk⁡(B)=Δk⁡(B)=Δk⁡(A)鉴于D是一个对角矩阵, 其顺序主子式为Δk⁡(D)=D1,1⁢⋯⁢Dk,k.因为A的顺序主子式均为正数, 所以D的顺序主子式也均为正数, 那么我们可以推出Dk,k>0,1≤k≤n.如果A是形式f在有序基𝔅={α1,…,αn}下的矩阵, 那么D=P⁎⁢A⁢P是形式f在有序基{α1′,…,αn′}下的矩阵, 其中αj′=∑i=1nPi,j⁢αi.既然D是主对角线元素均为正数的对角矩阵, 那么显然有X⁎⁢D⁢X>0,X≠0.这就说明f是一个正定形式.
现在反过来设f是正定形式. 我们知道A=A⁎, 但是该怎么说明Δk⁡(A)>0,1≤k≤n呢? 令Vk是由α1,…,αk张成的子空间, 而fk是f在Vk×Vk上的限制, 那么显然fk是Vk上的正定形式, 且fk在有序基{α1,…,αk}下的表示为Ak=[A1,1⋯A1,k⋮⋮Ak,1⋯Ak,k].作为定理5的推论, 我们注意到每个正定形式fk的矩阵表示Ak的行列式都应该是正数, 即A的每个顺序主子式Δk⁡(A)均为正数.
◻

这里有一些我们应该作出的评注, 以完成我们对于正定形式和正定矩阵之间的关系的讨论. 什么刻画了表示正定形式的矩阵? 如果f是有限维复向量空间上的一个形式, A是f在某个有序基下的矩阵, 那么f是正定的当且仅当A=A⁎且X⁎⁢A⁢X>0,X≠0.根据定理3, A=A⁎的条件是多余的, 因为X⁎⁢A⁢X>0,X≠0可以推出A=A⁎. 另一方面, 如果f是有限维实向量空间上的形式而A是f在某个有序基下的矩阵, 那么f是正定的当且仅当A=At且Xt⁢A⁢X>0,X≠0.我们想要强调的是, 实情形下Xt⁢A⁢X>0,X≠0无法推出A=At. 然而, 值得注意的是, 如果实矩阵A满足A=At和Xt⁢A⁢X>0,X≠0, 那么即便对于每个复的列矩阵X, 我们也有X⁎⁢A⁢X>0,X≠0.这是因为, 若X=Y+i⁢Z, 其中Y,Z∈ℝn×1, 那么(Y+i⁢Z)⁎⁢A⁢(Y+i⁢Z)=(Yt−i⁢Zt)⁢A⁢(Y+i⁢Z)=Yt⁢A⁢Y+Zt⁢A⁢Z+i⁢(Yt⁢A⁢Z−Zt⁢A⁢Y)而在A=At的情况下, 有Yt⁢A⁢Z=Zt⁢A⁢Y.

如果A是一个n×n的复矩阵并且满足X⁎⁢A⁢X>0,X≠0那么我们就称A是一个正定矩阵. 我们已经知道, 有限维复向量空间上的形式是正定的当且仅当其在某个有序基下的矩阵是正定矩阵. (这里的"某个"也可以被替换为"每个".) 但是, 刚才的评注告诉我们, 即便是在实情形下, 我们还是可以断言形式正定的充要条件为其在某个有序基下的矩阵正定. 当然, 我们这里将实矩阵也视为复矩阵. 不过, 读者需要注意的是, 即便是实矩阵, 其正定的条件亦是相对于每个非零的复列矩阵而言的.

现在设V是一个有限维内积空间而f是V上的一个非负形式, 那么存在唯一的V上的一个自伴算子T满足f⁡(α,β)=⟨T⁡α|β⟩并且T还具有⟨T⁡α|α⟩≥0的额外性质.

定义. 设V是一个有限维内积空间. V上的一个线性算子T是非负的, 如果T=T⁎且对于每个α∈V有⟨T⁡α|α⟩≥0. V上的一个线性算子T是正定的, 如果T=T⁎且对于每个α≠0有⟨T⁡α|α⟩>0.

如果V是一个有限维的(实或复)向量空间而⟨|⟩是V上的一个内积, 那么V上有个与之相关联的正定算子类. 通过定理1所描述的映射, V上所有正定形式构成的集合与所有正定算子构成的集合之间存在一个双射. 我们将以本节的练习来强调正定算子, 正定形式, 正定矩阵之间的关系. 以下的总结或许是有用的.

如果A是一个复数域上的n×n矩阵, 那么以下陈述是等价的.

  1. A是正定矩阵, 即对于不全为零的复数x1,…,xn, 我们有∑j=1n∑k=1nx‾k⁢Ak,j⁢xj>0.
  2. ⟨X|Y⟩=Y⁎⁢A⁢X是n×1的复矩阵空间上的一个内积.
  3. 相对于n×1的复矩阵空间上的标准内积⟨X|Y⟩=Y⁎⁢X, 线性算子X↦A⁢X是正定的.
  4. 存在某个可逆的P∈ℂn×n满足A=P⁎⁢P.
  5. A=A⁎且A的顺序主子式均为正数.
若A的每个元素均为实数, 那么以上这些又等价于
  1. A=At且对于不全为零的实数x1,…,xn, 我们有∑j=1n∑k=1nxk⁢Ak,j⁢xj>0.
  2. ⟨X|Y⟩=Yt⁢A⁢X是n×1的实矩阵空间上的一个内积.
  3. 相对于n×1的实矩阵空间上的标准内积⟨X|Y⟩=Yt⁢X, 线性算子X↦A⁢X是正定的.
  4. 存在某个可逆的P∈ℝn×n满足A=Pt⁢P.

练习1. 令V是带有标准内积的ℂ2, 对于什么样的向量α∈V, 存在一个正定算子T使得α=T⁡ε1呢?
练习2. 令V是带有标准内积的ℝ2, 如果θ是一个实数, 令Tθ是逆时针旋转θ的线性算子, 即Tθ⁡(x1,x2)=(x1⁢cos⁡θ−x2⁢sin⁡θ,x1⁢sin⁡θ+x2⁢cos⁡θ)θ为何值时Tθ是正定算子呢?
练习3. 令V是ℂn×1, 而其上的内积为⟨X|Y⟩=Y⁎⁢G⁢X, 这里的G∈ℂn×n要使得该公式的确定义了一个内积. 令A是一个n×n的矩阵而线性算子T⁡(X)=A⁢X. 找出T⁎. 如果Y是V的一个固定元素, 找出确定了线性泛函X↦Y⁎⁢X的元素Z∈V. 换言之, 对于每个X∈V有Y⁎⁢X=⟨X|Z⟩.
练习4. 令V是一个有限维内积空间. 如果T和U是V上的正定算子, 证明(T+U)也是正定算子. 给出一个例子表明T⁢U不必是正定的.
练习5. 令A=[1121213].
  1. 证明A是正定的.
  2. 令V是ℝ2×1, 而其上的内积为⟨X|Y⟩=Yt⁢A⁢X. 现在定义X1=[10],X2=[01]请应用Gram-Schmidt过程以找出V的一个规范正交基.
  3. 找出一个2×2的可逆实矩阵P使得A=Pt⁢P.
练习6. 以下哪些矩阵是正定的?[1234],[11+i1−i3],[1−112−113−11],[11213121314131415]
练习7. 给出一个n×n矩阵的例子, 其所有顺序主子式均为正数, 但是并非正定矩阵.
练习8. ⟨(x1,x2)|(y1,y2)⟩=x1⁢y‾1+2⁢x2⁢y‾1+2⁢x1⁢y‾2+x2⁢y‾2定义了ℂ2上的一个内积吗?
练习9. 证明正定矩阵的每个主对角线元素均为正数.
练习10. 令V是一个有限维内积空间. 如果T和U是V上的线性算子, 当U−T为正定算子时我们记T<U. 证明以下断言:
  1. T<U和U<T不能同时成立.
  2. 如果T<U且U<S, 那么T<S.
  3. 如果T<U且0<S, S⁢T<S⁢U不必成立.
练习11. 令V是一个有限维内积空间而E是V在其某个子空间上的正交投影.
  1. 证明对于任意的正数c, 算子c⁢I+E是正定的.
  2. 以E表达满足T2=I+E自伴线性算子T.
练习12. 设n是一个正整数而A=[11213⋯1n121314⋯1n+1⋮⋮⋮⋮1n1n+11n+2⋯12⁢n−1].证明A是正定的.
练习13. 令A是一个自伴的n×n矩阵, 证明存在正数c使得矩阵c⁢I+A是正定的.
练习14. 证明两个正定线性算子之积是正定的当且仅当它们交换.
练习15. 令S和T是正定算子, 证明S⁢T的每个特征值都是正数.

第9.4节 更多关于形式的结果

本节包含两个结果, 其给出了关于(半双线性)形式的更加详细的信息.

定理7. 设V是一个实或复向量空间, W是V的一个有限维子空间并且{α1,…,αr}是其一个有序基. 令f是V上的一个形式而M是由Mj,k=f⁡(αk,αj)定义的r×r矩阵. 如果W′={β∈V|对于任意的α∈W, f⁡(α,β)=0}那么W′是V的一个子空间, 并且W∩W′={0}当且仅当M可逆. 当的确如此时, V=W⊕W′.
证明. 如果β,γ∈W′而c是一个标量, 那么对于每个α∈W, 我们可以推出f⁡(α,c⁢β+γ)=c‾⁢f⁡(α,β)+f⁡(α,γ)=0.因此, W′的确是V的一个子空间.
现在设α=∑k=1rxk⁢αk和β=∑j=1ryj⁢αj那么f⁡(α,β)=∑k=1r∑j=1ry‾j⁢Mj,k⁢xk=∑k=1r(∑j=1ry‾j⁢Mj,k)⁢xk由此可知β∈W′当且仅当方程组∑j=1ry‾j⁢Mj,k=0,1≤k≤r成立, 因而W∩W′≠{0}当且仅当齐次线性方程组∑j=1rM‾j,k⁢yj=0,1≤k≤r具有非平凡解. 换言之, W∩W′={0}等价于M⁎可逆, 但M⁎可逆当且仅当M可逆.
设M可逆并令A=(M⁎)−1=(M−1)⁎我们定义V上的函数gj为gj⁡(β)=∑k=1rAj,k⁢f⁡(αk,β)‾那么gj⁡(c⁢β+γ)=∑k=1rAj,k⁢f⁡(αk,c⁢β+γ)‾=c⁢∑k=1rAj,k⁢f⁡(αk,β)‾+∑k=1rAj,k⁢f⁡(αk,γ)‾=c⁢gj⁡(β)+gj⁡(γ)也就是说, 每个gj的确都是V上的线性泛函. 因此, 我们可以定义V上的一个线性算子E为E⁡β=∑j=1rgj⁡(β)⁢αj既然gj⁡(αn)=∑k=1rAj,k⁢f⁡(αk,αn)‾=∑k=1rAj,k⁢Mk,n⁎=(A⁢M⁎)j,n=δj,n我们可以推出E⁡(αn)=αn,1≤n≤r换言之, 对于每个α∈W, E⁡α=α. 现在我们知道E的像是W并且E2=E, 即E是从V到W上的投影. 若β是V中任意的一个向量, 那么f⁡(αn,E⁡β)=f⁡(αn,∑j=1rgj⁡(β)⁢αj)=∑j=1rgj⁡(β)‾⁢f⁡(αn,αj)=∑j=1r(∑k=1rA‾j,k⁢f⁡(αk,β))⁢f⁡(αn,αj)既然A⁎=M−1, 我们可以推出f⁡(αn,E⁡β)=∑k=1r(∑j=1rAk,j⁎⁢f⁡(αn,αj))⁢f⁡(αk,β)=∑k=1r(∑j=1rMk,j−1⁢Mj,n)⁢f⁡(αk,β)=∑k=1rδk,n⁢f⁡(αk,β)=f⁡(αn,β)换言之, 对于每个α∈W, 我们有f⁡(α,β)=f⁡(α,E⁡β), 于是f⁡(α,β−E⁡β)=0对于所有α∈W和β∈V成立. 那么, (I−E)⁡β∈W′, 根据等式β=E⁡β+(I−E)⁡β我们可以断言V=W+W′. 当然, 依照前面的论证, 这个和是一个直和, 即V=W⊕W′. 证明的最后, 还有一点值得提及的是, I−E实际上是从V到W′的投影. 若β∈W′, 那么E⁡β=0, 因此(I−E)⁡β=β, 即W′是I−E的像. 另外, 根据第6章的推理, I−E的确是一个幂等线性算子.
◻

证明中构造的投影E可由以下性质刻画: E⁡β=α当且仅当α∈W且β−α∈W′. 因此, E独立于其构造过程中用到的W的基. 因此, 我们可以称E是由直和分解V=W⊕W′确定的从V到W上的投影. 注意到E是一个正交投影当且仅当W′=W⊥.

译者注记. 对于以上这段话, 读者应该回忆一下第6章和投影相关的内容. 另外, 译者觉得这最后一句话有点问题, 因为这个定理的条件并没有说V是一个内积空间, 所以这个空间里还没有正交的概念. 但是, 在一般的内积空间中, 这个论断的确是正确的, 并且W无需是有限维的.
定理8. 设V是一个有限维的实或复向量空间, f是V上的一个形式而A是f在V的某个有序基{α1,…,αn}下的矩阵. 如果A的顺序主子式均异于零, 那么存在唯一的主对角线元素全为1的上三角矩阵P使得P⁎⁢A⁢P是一个上三角矩阵.
证明. 既然Δk⁡(A⁎)=Δk⁡(A)‾, A⁎的顺序主子式也都异于零. 因此, 根据定理6的引理, 存在一个主对角线元素全为1的上三角矩阵P满足A⁎⁢P是一个下三角矩阵. 于是, P⁎⁢A=(A⁎⁢P)⁎是一个上三角矩阵. 既然两个上三角矩阵之积仍然是上三角矩阵, P⁎⁢A⁢P是一个上三角矩阵. 这表明了P的存在性, 但没有说明P的唯一性. 然而, 其实有一个更加几何的论证方法可以同时说明P的存在性和唯一性.
令Wk是由α1,…,αk张成的子空间, 而Wk′={β∈V|对于任意的α∈Wk, f⁡(α,β)=0}既然Δk⁡(A)≠0, 那么由Mi,j=f⁡(αj,αi)=Ai,j定义的k×k矩阵M是可逆的. 根据定理7, 我们有V=Wk⊕Wk′.令Ek是由这个直和分解决定的从V到Wk上的投影, 并置E0=0, 设βk=αk−Ek−1⁡αk,1≤k≤n那么β1=α1, 而k>1时有Ek−1⁡αk∈Wk−1. 于是, 对于k>1, 存在唯一的标量Pj,k使得Ek−1⁡αk=−∑j=1k−1Pj,k⁢αj.再置Pk,k=1以及j>k时Pj,k=0, 我们就得到了一个n×n的上三角矩阵P, 其主对角线元素均为1, 并且对于k=1,…,n, 我们有βk=∑j=1kPj,k⁢αj.设1≤i且i<k, 那么βi∈Wi而Wi⊆Wk−1. 既然βk∈Wk−1′, 可以推出f⁡(βi,βk)=0.令B是f在有序基{β1,…,βn}下的矩阵表示, 那么Bk,i=f⁡(βi,βk).于是, k>i时Bk,i=0, 因而B是一个上三角矩阵. 另一方面, 根据关于形式的基变换的讨论, 我们有B=P⁎⁢A⁢P.反过来, 设P是一个满足我们要求的矩阵, 即P是一个主对角线元素均为1的上三角矩阵使得P⁎⁢A⁢P也是上三角的, 置βk=∑j=1nPj,k⁢αj=∑j=1kPj,k⁢αj,1≤k≤n那么{β1,…,βk}显然是Wk的一个基. 对于k>1, {β1,…,βk−1}是Wk−1的一个基, 而且当i<k时有f⁡(βi,βk)=0 [译注: 这是因为f⁡(βi,βk)=(P⁎⁢A⁢P)k,i且P⁎⁢A⁢P是一个上三角矩阵], 由此我们可以看出βk∈Wk−1′. 定义βk的公式告诉我们αk=−(∑j=1k−1Pj,k⁢αj)+βk.既然−(∑j=1k−1Pj,k⁢αj)∈Wk−1而βk∈Wk−1′又鉴于V=Wk−1⊕Wk−1′故Ek−1⁡αk=−(∑j=1k−1Pj,k⁢αj)这实际上就完全确定了P1,k,…,Pk−1,k的可能性, 进而完全确定了矩阵P. 当然, 我们可以很容易看出这个P正是我们之前说明存在性时所构造出来的矩阵.
◻

第9.5节 谱论

本节我们探求牵涉自伴算子和正规算子的对角化的第8章的定理18和22的推论.

定理9. 谱定理. 令T是有限维复内积空间V上的一个正规算子, 或者是有限维实内积空间V上的一个自伴算子, 设c1,…,ck是T的不同的特征值, 令Wj是特征值cj所对应的特征空间, Ej是V在Wj上的正交投影, 那么不同的Wi和Wj相互正交, V是W1,…,Wk的直和, 并且T=c1⁢E1+⋯+ck⁢Ek.
证明. 令α∈Wj, β∈Wi, 并设i≠j, 那么cj⁢⟨α|β⟩=⟨T⁡α|β⟩=⟨α|T⁎⁡β⟩=⟨α|c‾i⁢β⟩=ci⁢⟨α|β⟩鉴于ci≠cj, 可以推出⟨α|β⟩=0, 即不同的Wi和Wj是相互正交的.
根据V拥有全由T的特征向量构成的规范正交基这一事实 (见第8章的定理18和22), 立即可以得到V=W1⊕⋯⊕Wk.因此, E1+⋯+Ek=I并且T=T⁢I=T⁢(E1+⋯+Ek)=T⁢E1+⋯+T⁢Ek=c1⁢E1+⋯+ck⁢Ek
◻
译者注记. 以上证明中使用了第8章的定理19. 另外, 这个证明对于E1+⋯+Ek=I没有任何解释, 其实并非那么平凡. 实际上, 如果α=α1+⋯+αk,αi∈Wi当然这种分解是唯一的, 那么我们可以证明Ei⁡α=αi这是因为, 当i≠j时, Ei⁡αj=0, 鉴于αj正交于Wi而Ei是V在Wi上的正交投影.

这个定理中出现的分解, 我们将其称为T的谱分解 (spectral resolution). 某些物理应用导致了有限维向量空间上的线性算子的谱 (spectrum)被定义为线性算子的特征值的集合, 而这是我们使用谱分解这一术语的部分缘由. 另外, 注意到正交投影E1,…,Ek由T唯一确定也是重要的; 实际上, 它们是应用多项式于T得到的结果. [译注: 也请读者参考第6章的定理11.]

推论. 如果ej=∏i≠j(x−cicj−ci)那么Ej=ej⁡(T),1≤j≤k.
证明. 译者就不翻译这里的证明了, 因为它实际上只是第6章的定理11的证明之后的讨论的重复.
◻

因为E1,…,Ek由T唯一确定并且I=E1+⋯+Ek投影族{E1,…,Ek}被称为由T定义的单位分解 (resolution of the identity defined by T).

关于谱定理的证明我们有需要作出的评注. 我们运用关于自伴算子和正规算子对角化的第8章的定理18和22推导出了这个定理. 实际上还有一个更加代数的证明方法, 其需要先证明正规算子的极小多项式是不同的素因子之积. 然后, 我们以类似于证明准素分解定理 (第6章的定理12) 的方式进行处理. 下一节我们将会给出这种证明.

在各种应用中, 有时知道我们能否计算关于算子或者矩阵的特定函数 (例如平方根) 是必要的, 而这对于可对角化的正规算子而言是简单的.

定义. 令T是有限维内积空间上的一个可对角化正规算子, 并且T=∑j=1kcj⁢Ej是其谱分解. 如果函数f的定义域包括T的谱而取值于标量域, 那么我们定义线性算子f⁡(T)为f⁡(T)=∑j=1kf⁡(cj)⁢Ej.
定理10. 令T是有限维内积空间V上的一个谱为S的可对角化正规算子, 设f是一个定义域包含S而值取于标量域的函数, 那么f⁡(T)是一个谱为f⁡(S)的可对角化正规算子. 如果V′也是一个有限维内积空间而U是一个从V到V′的酉映射, 并且T′=U⁢T⁢U−1, 那么S也是T′的谱而f⁡(T′)=U⁢f⁡(T)⁢U−1.
证明. f⁡(T)的正规性可以根据定义和f⁡(T)⁎=∑j=1kf⁡(cj)‾⁢Ej这一事实通过简单的计算推得. 而且, 显然对于每个α∈Ej⁡(V), 我们有f⁡(T)⁡α=f⁡(cj)⁢α.因此, 集合f⁡(S)是f⁡(T)的谱的子集. 反过来, 设α≠0并且f⁡(T)⁡α=b⁢α那么根据α=∑j=1kEj⁡α由此可以推出f⁡(T)⁡α=∑j=1kf⁡(T)⁡Ej⁡α=∑j=1kf⁡(cj)⁢Ej⁡α=∑j=1kb⁢Ej⁡α因而‖∑j=1k(f⁡(cj)−b)⁢Ej⁡α‖=∑j=1k|f⁡(cj)−b|2⁢‖Ej⁡α‖2=0所以, 我们可以断言f⁡(cj)=b或者Ej⁡α=0. 根据假设, α≠0, 故存在一个下标i使得Ei⁡α≠0. 然后我们就可以推出f⁡(ci)=b, 也就是说f⁡(S)的确是f⁡(T)的谱. 实际上, 设f⁡(S)={b1,…,br}其中当m≠n时bm≠bn, 也就是互异, 令Xm={i∈ℕ|1≤i≤k且f⁡(ci)=bm}, 置Pm=∑i∈XmEi那么Pm是从V到f⁡(T)与特征值bm相关联的特征空间的正交投影, 而且f⁡(T)=∑m=1rbm⁢Pm是f⁡(T)的谱分解.
现在设U是从V到V′的酉变换, 并且T′=U⁢T⁢U−1, 那么等式T⁡α=c⁢α成立当且仅当T′⁡U⁡α=c⁢U⁡α因此S是T′的谱, 并且U将T的每个特征空间映射成相对应的T′的特征空间. 实际上, 根据定义, 我们可以看出T′=∑j=1kcj⁢Ej′,Ej′=U⁢Ej⁢U−1是T′的谱分解. 因此, 我们又可以推出f⁡(T′)=∑j=1kf⁡(cj)⁢Ej′=∑j=1kf⁡(cj)⁢U⁢Ej⁢U−1=U⁢(∑j=1kf⁡(cj)⁢Ej)⁢U−1=U⁢f⁡(T)⁢U−1
◻
译者注记. 以上存在一些需要澄清的地方. 首先, 酉映射其实指的就是内积空间的同构. 其次, 事实f⁡(T)⁎=∑j=1kf⁡(cj)‾⁢Ej的推出需要伴随的基本性质, Ej是正交投影, 还有正交投影是自伴算子. 之所以Ej是正交投影, 实际上是因为我们发现可对角化正规算子的条件就足够推出定理9的那些结论了, 当然或许读者还需要结合第6章的定理11的讨论看看. 至于证明正交投影是自伴算子, 第8章的例子17实际上已经提供了一个证明. 接着, 为了推出f⁡(cj)=b或者Ej⁡α=0, 其实不一定要用勾股定理, 也可以根据直和的性质得到. 最后, 这个证明没有提及T′=U⁢T⁢U−1的正规性, 但是我们可以发现(T′)⁎=U⁢T⁎⁢U−1, 鉴于⟨T′⁡α′|β′⟩=⟨U⁢T⁢U−1⁡α′|β′⟩=⟨T⁢U−1⁡α′|U−1⁡β′⟩=⟨U−1⁡α′|T⁎⁢U−1⁡β′⟩=⟨α′|U⁢T⁎⁢U−1⁡β′⟩其中α′,β′∈V′, 并且我们用到了酉变换的保持内积的特性.

在思考前述的讨论时, 我们一定要记得正规算子T的谱是集合S={c1,…,ck}而且这些cj是互异的. 当T在某个由特征向量构成的基下由一个对角矩阵表示时, 每个cj都需要重复相对应的特征空间的维数次. 这是我们在以下结果中改换记号的原因.

推论. 在定理10的假设下, 设T在某个有序基𝔅={α1,…,αn}下由对角矩阵D表示, 并且D的对角线为d1,…,dn, 那么在有序基𝔅下, f⁡(T)由对角矩阵f⁡(D)表示, 其对角线为f⁡(d1),…,f⁡(dn). 如果𝔅′={α1′,…,αn′}是任意的有序基并且P是从𝔅到𝔅′的基变换矩阵, 即αj′=∑i=1nPi,j⁢αi那么P−1⁢f⁡(D)⁢P是f⁡(T)在基𝔅′下的矩阵.
证明. 对于每个下标i, 存在唯一的j (1≤j≤k) 使得αi∈Ej⁡(V)且di=ci. 因此, 对于每个i, f⁡(T)⁡αi=f⁡(di)⁢αi, 并且f⁡(T)⁡αj′=∑i=1nPi,j⁢f⁡(T)⁡αi=∑i=1ndi⁢Pi,j⁢αi=∑i=1n(D⁢P)i,j⁢αi=∑i=1n(D⁢P)i,j⁢(∑k=1nPk,i−1⁢αk′)=∑k=1n∑i=1nPk,i−1⁢(D⁢P)i,j⁢αk′=∑k=1n(P−1⁢D⁢P)k,j⁢αk′
◻

由这个结果我们可以构造正规矩阵的特定函数, 以下是论证. 设A是一个正规矩阵, 那么存在一个可逆的矩阵P (实际上是一个酉矩阵P) 使得P⁢A⁢P−1是一个对角矩阵, 设其为D而对角线元素分别为d1,…,dn. 令f是一个可以应用到d1,…,dn上的复值函数, 令f⁡(D)是以f⁡(d1),…,f⁡(dn)为对角线元素的对角矩阵, 那么P−1⁢f⁡(D)⁢P独立于D, 在以下意义上只是A的一个函数. 如果Q是另一个可逆矩阵并且D′=Q⁢A⁢Q−1是一个对角矩阵, 那么f可以被应用到D′的对角线元素上且P−1⁢f⁡(D)⁢P=Q−1⁢f⁡(D′)⁢Q.

译者注记. 以上说的矩阵均是复矩阵. 另外, 我们最好解释一下以上这段话的进路. 设𝔅={α1,…,αn}是一个有序规范正交基, 并且T是在𝔅下由A确定的线性算子. 因为A是正规的且𝔅是规范正交的, 所以T也是正规的. 考虑由𝔅和基变换矩阵P−1确定的有序基𝔅′={α1′,…,αn′}, 即由αj′=∑i=1nPi,j−1⁢αi确定的有序基, 那么T在𝔅′下的矩阵即对角矩阵D=P⁢A⁢P−1. 我们知道f⁡(T)在𝔅′下由f⁡(D)表示. 而且, 由于从𝔅′到𝔅的基变换矩阵是P=(P−1)−1, 所以f⁡(T)在𝔅下的矩阵是P−1⁢f⁡(D)⁢P. 同理可得, f⁡(T)在𝔅下的矩阵也是Q−1⁢f⁡(D′)⁢Q. 因此, 这两个矩阵是相等的.
定义. 在以上条件下, f⁡(A)被定义为P−1⁢f⁡(D)⁢P.
译者注记. f⁡(A)可以理解成是选定一个任意的规范正交基𝔅得到一个正规算子T, 然后f⁡(A)就是f⁡(T)在𝔅下的矩阵. 根据之前的讨论, 我们知道这个矩阵独立于规范正交基的选择.

矩阵f⁡(A)也可以用一种不同的方式刻画.

第9.6节 正规算子的更深刻性质