线代你也太难了wwwwwwww
基本信息
授课教师: dz
上课教材: 《线性代数》(hzd版)
教辅资料: MIT-线性代数
部分回忆题
-
$if\ \forall k\in\Bbb{Z}^{+},\begin{vmatrix}kE+A&B\\ C&D\end{vmatrix}=0.proof:|D|=0 $
-
if A∈Rn×n,A>0,α,β∈Rn.proof:(αTβ)2≤αTAα⋅βTA−1β
-
if A∈Rn×n,A=AT,∀i=1,2,...,n,j=1∑naij=0.proof:∃a∈R,s.t. A∗=aJ=a11⋮111⋮1...... ...11⋮1n
MISC
∣λEn−An×mBm×n∣=λn−m∣λEm−Bm×nAn×m∣
∣∣x∣∣=(x,x)=xTx
ATA≥0,if tr(ATA)=0,then λ(A)=0
∀X∈Pn×n,X=P(Er O)(ErO)TQ
if −A=AT,then λ(A)=0 or ki,(k∈R)
[知乎∣八大类型行列式及其解法](https://zhuanlan.zhihu.com/p/34685081)
第 1 章 线性方程组的求解
定理
- A与A化成行最简后有相同的非零行(即相同的秩r)⇔线性方程组有解
- A与A化成行最简后有不同的非零行(即相同的秩r)⇔线性方程组无解
推论
对于齐次线性方程组,c1=c2=...=cn
- 一定有解 x1=x2=...=xn=0
- r<n⇔有无穷解⇔有非零解
- r=n⇔解是唯一的⇔无非零解
第 2 章 行列式与矩阵的秩
n-排列
一次对换改变n-排列的奇偶性
τ(i1i2...in)+τ(inin−1...i1)=2n(n−1)
$ \footnotesize{P.S.可以用于说明冒泡等排序的时间复杂度} $
方阵的行列式
detA=j1j2...jn∑(−1)τ(j1j2...jn)a1j1a2j2...anjn,其中A=(aij)n×n
$ \footnotesize{P.S.i,j互换位置依然成立} $
解释:对列的每个n-排列都求积,最后求和
行列式的来源 | Cramer法则:求解线性方程组的解时,满足xi=DDi
n阶行列式的性质
- 展开后有n项
- 每项都有n个元素,且没有两个元素的行或列是重复的
- 奇排列的项为负,偶排列的项为正
特殊n阶行列式计算
- D主对角线三角=a1a2...an
- D副对角线三角=(−1)2n(n−1)a1a2...an
k=1∑naikAjk=⎩⎨⎧∣A∣,0,if i=jif i=j 1≤i,j≤n(n>1)
即,某一行元素向量乘以本行代数余子式向量等于行列式;乘以其他行代数余子式向量等于零
Vandermonde行列式
Dn=1x1x12⋮x1n−11x2x22⋮x2n−1......... ...1xnxn2⋮xnn−1=1≤i≤j≤n∏(xj−xi)
Proof.逐行相减,展开得递推式
Cramer法则
定理 当且仅当线性方程组系数行列式不为0时,有且仅有唯一解
且xj=DDj, j=1,2,...,n
其中Dj表示D中第j个列向量被系数向量取代后的行列式
Laplace定理
∣A∣=1≤j1<j2<...<jk≤n∑Dj1 j2...jki1 i2...ikAj1 j2...jki1 i2...ik
即,行列式等于将行列式按某几行/列展开后行列式与代数余子式的积的和
eg.Os×tBt×tAs×sCt×s=(−1)st∣A∣∣B∣
初等变换(行/列交换,倍乘以及倍加)不改变矩阵的秩
等价关系
- 自反性 A∽RA
- 对称性 A∽RB⇔B∽RA
- 传递性 A∽RB,B∽RC⇔A∽RC
秩相同的矩阵之间的关系为相抵等价关系
当r(A)=r时,ErOOO为A的等价标准形
第 3 章 矩阵的运算
若A是n阶方阵,则∣cA∣=cn∣A∣
As×tBt×u=Cs×u
即,目标矩阵的行数等于左矩阵的行数,列数等于右矩阵的列数
重要定理
矩阵的逆
设A是n阶方阵,则 A可逆⇔∣A∣=0⇔r(A)=n
A−1=∣A∣1A∗
A∗=A11A12⋮A1nA21A22⋮A2n...... ...An1An2⋮Ann
即A−1对aij求代数余子式
矩阵初等变换与矩阵乘法的联系
定理 对矩阵进行初等变换等价于矩阵乘以该初等变换对应的初等矩阵
矩阵求逆
(A ⋮ E)仅有限次初等行变换(E ⋮ A−1)
A...E仅有限次初等列变换E...A−1
矩阵运算对秩的影响
- 乘以可逆矩阵,秩不变
- r(AB)≤min{r(A),r(B)}
- r(C)=r(A)+r(B), C=OBAO
- r(A+B)≤r(A)+r(B)
- Sylvester不等式 r(AB)≥r(A)+r(B)−n
- Frobenius不等式 r(ABC)≥r(AB)+r(BC)−r(B)
二级结论
- ∣A∗∣=∣A∣n−1
- (A∗)∗=∣A∣n−2A
- A2=En⇔r(A+En)=r(A−En)=n
第 7 章 线性空间
线性空间
若P为数域,V为线性空间,则V上定义了V×V→V的加法和P×V→V的乘法,对∀α,β∈V
- α+β=β+α
- (α+β)+γ=α+(β+γ)
- ∃θ∈V,α+θ=α
- ∃ϵ∈V,α+ϵ=θ
- 1α=α
- (c1c2)α=c1(c2α)
- (c1+c2)α=c1α+c2α
- c(α+β)=cα+cβ
向量组的线性关系
称c1α1+c2α2+...+csαs为向量组{α1,α2,...,αs}的一个线性组合
- 设向量组{β,α1,α2,...,αs},若有β=c1α1+c2α2+...+csαs=(α1,α2,...,αs)c1c2⋮cs,则称β可由{α1,α2,...,αs}线性表出(与ci是不是0无关)
- 即非平凡的线性组合成为线性表出
若存在不全为零的c,使得(α1,α2,...,αs)c1c2⋮cs=θ,则称{α1,α2,...,αs}线性相关,令A=(α1 α2 ... αs)
- {α1,α2,...,αs}线性相关⇔∃αi可由其余s−1个向量表示⇔r(A)<n
- {α1,α2,...,αs}线性无关⇔∀αi不可由其余s−1个向量表示⇔r(A)=n
- 若{α1,α2,...,αs}线性无关,但是{β,α1,α2,...,αs}线性相关,则β可由{α1,α2,...,αs}线性表出,且表出形式唯一
向量组的线性表示及等价
- 两个向量组(I)(II),若(I)中的任何一个向量均可由(II)中有限个向量线性表出,则称(I)可由(II)线性表出
- (α1,α2,...,αs)=(β1,β2,...,βt)Mt×s
- 若(I)={α1,α2,...,αs},(II)={β1,β2,...,βt},(I)可由(II)线性表出且s>t,则{α1,α2,...,αs}线性相关
- 若{α1,α2,...,αs}可由{β1,β2,...,βt}线性表出且{α1,α2,...,αs}线性无关,则s≤t
- 向量组的线性相关称为等价
极大线性无关组与向量组的秩
- 阶梯头所在的列(即主列)所对应的原向量为一个极大线性无关组
- 向量组的秩等于其极大线性无关组向量个数
维数 基 坐标
- dimV=n,其中n为V的极大线性无关组的向量个数,也就是V的秩,极大线性无关组为一组基
- 设η1,η2,..,ηn为V∈Pn的一组基,则(η1 η2 ... ηn)可逆⇔∀H∈Pn×n,r(H)=n,则H的列向量是Pn的一组基
- ∀α∈V,∃X∈Pn,使得α=(α1,α2,...,αn)X,其中X成为α在基{α1,α2,...,αn}下的坐标
- A的维数即是主列的个数⇔r(A)⇔A的基的数量
- 主行数与主列数相等,都等于秩
基之间的过渡矩阵 坐标变换
- 对于两组基,由于等价,有(β1,β2,...,βn)=(α1,α2,...,αn)M,其中M称为过渡矩阵,且M可逆,M−1为β到α的过渡矩阵
- 设α∈V在上述两组基下的坐标分别是Xn×1,Yn×1,则Y=M−1X
子空间
- θ与V是V的平凡子空间
- 若W是V的子空间,则W对V的加法和数乘封闭
- 若{α1,α2,...,αs}是V的一组子向量,定义其扩张的子空间L(α1,α2,...,αs)={c1α1+c2α2+...+csαs∣ci∈P,i=1,2,...,s},则L是V的子空间,dimL=r(α1,α2,...,αs)
- 基即是能扩张出V的向量个数最少的向量组
向量组线性相关与向量坐标的关系
设(α1,α2,...,αs)是n维空间V的一组基,V中的向量β1,β2,...,βs,β在所给基下的坐标分别为A1,A2,...,As,Y∈Pn,令A=(A1 A2 ... As),则
- β可由β1,β2,...,βs线性表出⇔线性方程组AX=Y有解
- $ \beta _1,\beta _2,…,\beta _s线性相关\hArr A_1,A_2,…,A_s线性相关$
- $ \beta _1,\beta _2,…,\beta _s线性无关\hArr A_1,A_2,…,A_s线性无关$
- $ r(\beta _1\beta _2…\beta _s)=r(A_1A_2…A_s)$
- 坐标的线性关系可以映射到向量的线性关系
设β1,β2,...,βs,β与α1,α2,...,αt是V的两个向量组,又已知A1,A2,...,As,Y∈Pt,且A=(A1 A2 ... As)。若α1,α2,...,αt线性无关且(β1 β2 ... βs β)=(α1 α2 ... αt)(A1 A2 ... As Y)
- β可由β1,β2,...,βs线性表出⇔线性方程组AX=Y有解
- $ \beta _1,\beta _2,…,\beta _s线性相关\hArr A_1,A_2,…,A_s线性相关$
- $ \beta _1,\beta _2,…,\beta _s线性无关\hArr A_1,A_2,…,A_s线性无关$
- $ r(\beta _1\beta _2…\beta _s)=r(A_1A_2…A_s)=r(A)$
- 即上述关系可以映射到任意由线性表出对应的两个向量组
第 4 章 n元向量空间
第 4 章前半部分(4.1~4.7均为第 7 章对应部分的特殊情况,因此可联系复习)
线性方程组解的结构
假定线性方程组的一般形式为:AX=b,其中A∈Pm×n,b∈Pm,X∈Pn,r(A)=r,A的每一列均不等于θ
若b=O,即齐次线性方程组,有
- 齐次线性方程组的解的线性组合(解空间W0)仍是解
- dimW0=n−r=n−r(A)≤n
- W0的任意一个极大线性无关组,称为基础解系,W0即可认为是基础解系扩张而成的线性空间
- X=t1η1+t2η2+...+tn−rηn−r,其中η为求解后得到的每一个列向量,即基础解系
- 秩越大,解空间维数越小,理解为有序的系数矩阵不需要过多的未知数
若b=O,即非齐次线性方程组,有
- 称AX=O为AX=b的导出组,W0为导出组的解空间,η1,η2,...,ηn−r为一组基础解系,η0为AX=b的任一特解,则X=η0+t1η1+t2η2+...+tn−rηn−r
- 求解非齐次线性方程组时,先求解同型的齐次线性方程组,再加上特解
第 8 章 欧氏空间
欧氏空间的定义
对于线性空间V,定义二元函数内积(α,β):V×V→R,同时满足以下条件,称为欧氏空间
- (α,β)=(β,α)
- k(α,β)=(kα,β)
- (α+β,γ)=(α+γ)+(β,γ)
- ∀α:(α,α)≥0,等号成立当且仅当α=0
内积=def(α,β)=αTβ=x1y1+x2y2+...+xnyn∈P
- 若ε1,ε2,...,εn是欧氏空间Rn的一组基,X,Y分别是α和β的坐标,则度量矩阵=defM=ε1Tε1ε2Tε1⋮εnTε1ε1Tε2ε2Tε2⋮εnTε2...... ...ε1Tεnε2Tεn⋮εnTεn,则(α,β)=αTβ=XTMY
长度=def∣α∣=(α,α)
- Cauthy−Schwaz不等式 ∣(α,β)∣≤∣α∣∣β∣,当且仅当α与β线性相关时等号成立
- <α,β>=arccos∣α∣∣β∣(α,β)
Schmidt正交化过程⎩⎨⎧β1=α1,βk=αk−j=1∑k−1(βj,βj)(αk,βj)βj,其中αi为线性无关向量组
- 若s=n,则αi为基,βi为正交基,∣βi∣1βi为标准正交基
- M可逆⟺ε1,ε2,...,εn线性无关
设U∈Rn×n,若UTU=UUT=E,则称U是正交矩阵
- U=(α1 α2 ... αn),则α1 α2 ... αt是标准正交基⇔U是正交矩阵⇒U−1=UT
将r个线性无关的向量扩张成一组n个的基
- 取极大线性无关组
- 再极大线性无关组用行向量的形式化成行阶梯
- 行阶梯所在列置0,其它分别取1,得到的向量组即是基
第 5 章 矩阵的特征值理论与相似对角化
矩阵的相似
if ∃可逆P,s.t.P−1A=B,则称AB相似,以下说法等价:
- A与对角阵Λ=(λi)n×n=λ1 λ2 ⋱ λn(λi∈P)相似/A可以对角化
- ∃可逆P,s.t.P−1AP=Λ
- ∃n个线性无关的向量组εi,s.t.A(ε1,ε2,...,εn)=,s.t.(ε1,ε2,...,εn)Λ
- ∃n个线性无关的向量组εi,s.t.(Aε1,Aε2,...,Aεn)=(λ1ε1,λ2ε2,...,λnεn)
- ∃n个线性无关的向量组εi,s.t.Aεi=λiεi,1≤i≤n
- A存在n个线性无关的特征向量
- A有n个不同的特征值
- r1+r2+...+rs=n
不是所有的A都可以对角化
对角阵的来源:
当A可以对角化,A有n个线性无关的特征向量,组成可逆矩阵P=(ξ1ξ2...ξn), AP=A(ξ1ξ2...ξn)=(λ1ξ1 λ2ξ2...λnξn)=(ξ1ξ2...ξn)λ1 λ2 ⋱ λn=PΛ⟺P−1AP=Λ
定义及计算
对于A∈Pn×n,if ∃λ0∈P,ξ=θ∈Pn,s.t.Aξ=λ0ξ,则称λ0是A在P中的特征值,反过来,称ξ是λ0的特征向量
- 一个特征向量只能属于一个特征值,但是特征值可以属于无穷多个特征向量
- if λ=0, ξ=∀α∈Pn×1
- λ0∈P是A的特征值⟺(λ0E−A)ξ=θn×1,即齐次线性方程组有非零解⟺∣λ0E−A∣=0⟺r(λ0E−A)<n
称∣λE-A∣(λ∈P)为A特征多项式,记作fA(λ)∽f(λ),则∣λE-A∣=f(λ)=0称作特征方程
- λ0是A的特征值⟺f(λ0)=0
- f(λ)=0的所有根,即是A的所有特征值(重根按重数计,因此我们说A有n个特征值)
- 设A有s个互不相同的特征值,第i个特征值的重数为ni,则f(λ)=(λ−λ1)n1(λ−λ2)n2...(λ−λs)ns
ξ∈Pn是A的属于特征值λ0的特征向量⟺ξ是齐次线性方程组(λ0E-A)X=O的非零解向量
- 求出f(λ)=0的所有互异根λ1,λ2,...,λs(1≤s≤n)
- 针对每一个λi求出线性特征方程的通解Xi=k1η1i+k2η2i+...+kn−riηn−rii, dimWλi=ri=r(λiE−A),其中Wλi为λi的解空间
- ξi=k1η1i+k2η2i+...+kn−riηn−rii, t1,t2,...,tn−ri∈P且不全为0
基本性质
A的不同特征值的特征向量线性无关,即Aξi=λiξi⇒{ξ1,ξ2,...,ξs}线性无关
- 证明x1ξ1+x2ξ2+...+xsξs=θ只有非零解时,技巧:可以左乘A以出现特征方程
- 推广:所有不同特征值的特征向量组成的向量组线性无关,其子向量组也线性无关
∣A∣=i=1∏nλi, tr(A)=i=1∑nλi
矩阵的相似对角化
k是A的k重特征值,(λE−A)ξ=0,dimWλ=n−r(λE−A)≤k
对于一个不确定是否是可对角化阵,当λ是单根的时候,一定满足上述条件,因此无需判断单根;当λ是重根的时候,要判断r=n
判断是否可以对角化:
- 求特征值∣λEn−A∣=0,得到重根和非重根
- 对于重根λ,判断其解空间的维数是否小于等于自己的重数dimWλ=n−(λE−A)≤k
r(A)=1⟺A=αβT,其中α,β是列向量
相似理论
A有n个特征值λi
-
f(λ)=∣λEn−A∣=...=(λ−a11)(λ−a22)...(λ−ann)=λn−(a11+a22+...+annλn−1+...+)(−1)n∣A∣
-
f(A)=(λ−λ1)(λ−λ2)...(λ−λn)
Hamiltonn-Cayley定理
f(λ)=∣λEn−A∣⇒f(A)=On×n
Aξ=λξ⇒Akξ=λkξ(数学归纳法)
设A的特征值的集合为sp(A)={λ1,λ2,...λn}
- {g(λ)∣λ∈g(A)}=sp(g(A))
A−1ξ=λ1ξ
A,B相似⇒r(A)=r(B),∣A∣=∣B∣,tr(A)=tr(B),∣λE−A|=∣λE−B∣,特征值相同
若A,B可对角化,则A,B相似⟺A,B有相同的特征值
A,B相似⇒g(A),g(B)相似
已知A,求方阵A1000
- 计算特征值
- 验证可对角化
- 求出P,P−1
- PA1000P−1=Λ1000
- 遇事不决,先求对角阵(bushi)
实对称矩阵
共轭:将A转置后,对每个元素取共轭
实对称矩阵A的特征值都是实数
实对称矩阵属于不同特征值的特征向量正交
求实对称矩阵A的正交阵
- ∣λE−A∣=0⇒λi
- 验证λi,(λiE−A)ξ=0,dimWi=ri≤k,求出ξi
- ri=1,ξi单位化;ri>1,Schmidt正交化⇒βi
- U=(β1β2...βn)
矩阵的分解
设A是n阶可逆矩阵,则A可以唯一的分解为A=U1C上三角或A=C下三角U2,其中U为正交矩阵,C的对角线元素均为正数
证明:对A进行列向量分组,施密特正交化得到A=(ηi)C,其中cii=∣βi∣>0
设A∈Pm×n,则A可以唯一的分解为A=(L O)U1,A=U2(R O)T
设A∈Pm×n,r(A)=r,∃B∈Pm×r,r(B)=r,C∈Pr×n,r(C)=r,s.t.A=BC
矩阵的满秩分解不唯一。我们一般选取阶梯矩阵主元所在列对应的列向量作为B,选取非零行向量作为C
r(A)=r(AAT)=r(ATA)
AAT与ATA均是半正定的对称阵,且特征值λi=μi,奇异值δi=λi≥0
设A∈Pm×n,r(A)=r,δ1≥δ2≥...≥δr,∃U1∈Pm×m,U2∈Pn×n,s.t.U1TAU2=Δ
A=U1ΔU2T
设A为n阶可逆方阵,则A可以唯一的分解为A=U1S1或A=S2U2,其中U是正交矩阵,S是正定矩阵
若A不可逆,则S为半正定阵
证明:利用A的奇异值分解
第 6 章 二次型
定义
f(x1x2..xn)=a11x12+2a12x1x2+2a13x1x3+...2annxn2=i=1∑naiixi2+21≤i<j≤∑aijxixj
称以下操作为线性变换
xi=ci1y1+ci2y2+...+cinyn
我们只考虑∣C∣=0, C=(cij)n×n的变换矩阵
找到一个线性变换,使得代入原式之后,不存在交叉项,我们称为标准型
f=d1y12+d2y22+...+dnyn2
二次型的矩阵形式与矩阵的合同
找到一个非退化的线性变换Xn×1=CYn×1,使得二次型f→d1y12+d2y22+...+dnyn2
f=XTAX=YTCTACY=YTDY
-
其中A是一个对称阵,A=(aij)n×n,其中aji=aij(j>i)
-
D是一个对角阵,D=(di)n×n
-
ϕ:f→A是双射
由于f和A一一对应,这一章所有的结论,都有二次型语言和矩阵语言
配方法
二次型一定能由非退化线性变换化作标准型
主元法
- 先将x1作为主元整理配方,再考虑有平方项的主元
没有平方项的做法
- 先构建非退化的线性变换X=C1Y,代入产生平方项(C1不唯一)
- 再按主元法处理y的二次型,得到标准化矩阵Y=C2Z
- 代入得X=(C1C2)Z
对称阵与二次型的转化
f=XTAX=XTBX⇒A=B
f=XTAX为标准型⟺A=Λ
∀对称阵A, ∃可逆阵C, s.t.CTAC=D
- 把A复原到二次型f(x1x2...xn)后标准化
- 标准化矩阵C即是所求矩阵
对称阵问题可以转化为二次型问题
U为正交阵
-
∀实对称矩阵A,∃U,s.t.U−1AU=Λ=(λi)n×n
-
∀实二次型f,∃X=UY,s.t.f=∑λiyi2,(λi为特征值)
因此解决二次型的问题可以使用前几章的方法,只要能用就行
相似,等价和合同
若A,B:
- 相似:P−1AP=B
- 等价:PAQ=B
- 合同:CTAC=B
规范型
f=XTAX, X=CY=1∑rdiyi2,(di=0)⇒r=r(A)
在复数域中
⎩⎨⎧yi=di1zi,1≤i≤ryi=zi,r+1≤i≤n
则可以化作唯一的规范型
f=z12+z22+...+zr2
在实数域中
f=XTAX=d1y12+...+dpyp2−(dp+1yp+12+...+dryr2)
令:zi=di1yi
则可以化作实数域内的规范型
f=z12+...+zp2−(zp+12+...+zr2)
惯性定理
f化作标准型,正平方项的项数p唯一,称为正惯性指数
实对称阵A,CTAC=D=(di)n×n中,正数个数p唯一
⇒∀实二次型f,∃X=CY,s.t. f化为唯一的规范型
$ 对于\forall实对称阵A,B, A,B合同\iff r(A)=r(B)且p(A)=p(B) $
正惯性指数p求解
- f=XTAX,配方法求解标准型,其中正数的个数为p
- ∃正交阵U,UTAU=Λ,用特征值求解,正数特征值为p
正定型
f=XTAX,A为实对称二次型,对∀X∈Rn=θ,f>0⇒A正定(A>0)
若f(x1,x2,...,xn)=XTAX正定:
- f的正惯性指数为n/A的n个特征值均为正⇒A与En合同
- ∃可逆实矩阵B,s.t. A=BTB,B=ΛUT,其中U为正交阵U−1AU=Λ
子式
子式:A的第j1,j2,...,js行列
主子式:A的第k1<k2<...<ks行列
顺序主子式Δs:A的第1,2,...,s行列
若f(x1,x2,...,xn)=XTAX正定:(用于判断f是否正定)
- Δi>0,1≤i≤n
负定型和半正定型
若f<0⟺−f>0,(−f)正定⇒(−1)kΔk>0,1≤k≤n
若f≥0⟺f半正定⇒
- 正惯性指数p=r
- 特征值λi≥0
- ∃实矩阵B,s.t.A=BTB
- ∀主子式≥0
正定矩阵的性质
若n阶矩阵A是正定矩阵,则
- A∗>0
- ∣A∣>0
- ⟺A与E合同⇒∀可逆C,CTAC>0
- A−1正定
- A1+A2正定
- A1⋅A2正定⇒Ak>0
- if A1⋅A2=A2⋅A1, A1⋅A2>0