省流版:保研面试/考研复试线性代数问题整理 - 知乎
省流版:计算机保研/考研面试题——数学篇_面试数理题 - CSDN博客
1 线性代数
1.1 余子式
余子式:n阶行列式中,划去a_{ij}所在的第i行与第j列的元,剩下的元所构成的n-1阶行列式称为a_{ij}的余子式。
代数余子式:在余子式前面乘上(-1)^{i+j}
1.2 行列式
行列式det(A),是一个将方阵A映射到实数的函数。
几何意义:行列式是有向面积或体积的概念在欧几里得空间中的推广,它描述了一个线性变换对“体积”的影响。
2阶行列式代表的是平面内的面积。
3阶行列式代表的是立体空间内的体积。
4阶行列式是4维空间里的超体积。
计算方法:行列式等于它任意一行(列)的各元素与其对应的代数余子式乘积之和。
行列式和矩阵特征值的关系:行列式等于矩阵特征值的乘积。
1.3 矩阵的秩、满秩、不满秩
矩阵的秩
子式角度:矩阵的非零子式的最高阶数。
k 阶子式:在矩阵中取k行k列,交叉处的k2个元素按原顺序构成的行列式。
线性无关角度:矩阵的所有行向量中极大线性无关组的元素个数。
标准型角度:先将矩阵转化为行阶梯型,其非零行个数就是矩阵的秩。
满秩:一个秩为n的矩阵满秩意味着存在一个n阶子式不为0。
不满秩:假设其秩为r,意味着存在一个r阶子式不为0 ,其所有阶数大于r的子式都为0。
1.4 矩阵的迹
方阵A的迹:对角线元素之和。
1.5 线性方程组解的情况
齐次线性方程组AX=0:r(A)=n,有唯一零解;r(A)<n,有无穷多解。
非齐次线性方程组AX=b:r(A)\ne r([A,b]),无解;r(A)=r([A,b])=n,有唯一解;r(A)=r([A,b])<n,有无穷多解。
1.6 线性相关、线性无关
对于线性空间中的n个向量,若存在n个不全为0的常数,使得这n个常数与n个向量对应乘积加和等于0,则称这n个向量线性相关,如果不存在这样的n个常数,称之为线性无关。
几何意义:n个向量线性无关等价于他们所张成的n维体的体积不为0;若线性相关,则体积为0。
1.7 方阵可逆的充要条件
1、方阵A可逆。
2、A是非奇异矩阵(|A|\ne 0)。
3、A满秩。
4、A可以表示成有限个初等矩阵的乘积。
5、特征值没有0。
6、矩阵线性无关。
1.8 向量空间、线性空间
向量空间:所有n维向量构成的集合称为n维向量空间。
线性空间:若非空集合V上满足加法封闭性和乘法封闭性,并且还满足以下8条性质:加法交换律、加法结合律、加法零元、加法逆元、数乘幺元、数乘结合律、数乘分配律(2个),则称集合V是线性空间。
两者的关系:线性空间包含向量空间,除了向量空间,线性空间还包括多项式空间、矩阵空间等。
1.9 向量空间的基和维数
基:在向量空间V中可以找到n个向量,这n个向量线性无关,并且线性空间V中的任意一个向量都和这n个向量线性相关,那么这n个向量就称作线性空间V的一个基。
维数:基中所含向量个数。
1.10 矩阵的特征值和特征向量
含义:矩阵就是一个线性变换,它作用于特征向量后,向量方向保持不变(不发生旋转变换),进行某一比例的伸缩变换,这个比例就是特征值,即
AX=\lambda X,其中X是A的特征向量,\lambda是A的特征值特征值和特征向量的关系
特征值和特征向量是一对多的关系,一个特征值可能对应多个特征向量,一个特征向量只能属于一个特征值。
属于不同特征值的特征向量一定线性无关。
设\lambda是n阶方阵A的一个k重特征值(\lambda为特征方程的k重根),对应于\lambda的线性无关的特征向量的最大个数为l,则k\ge l,即特征值\lambda的代数重数不小于几何重数。
应用:奇异值分解、主成分分析。
1.11 向量正交、矩阵正交
向量正交:在正交向量组中,任意两个向量的数量积为0。
矩阵正交:两个矩阵正交,表示这两个矩阵相乘结果为单位矩阵。
1.12 正交矩阵
A是正交矩阵\Leftrightarrow A^TA=E\Leftrightarrow A^T=A^{-1}\LeftrightarrowA的各列向量是标准正交向量组(都是单位向量,且两两正交)
1.13 相似矩阵
相似矩阵:对于两个矩阵A,B,如果存在一个可逆矩阵P,使得矩阵P^{-1}AP=B,那么矩阵A相似于矩阵 B。
意义:相似的矩阵是同一个线性变换在不同基/坐标系下的的不同描述。
性质:两个相似的矩阵具有相同的秩、迹、行列式、特征值,但特征向量未必相同。
补充:实对称矩阵有相同的特征值则必相似。
因为实对称矩阵可对角化,对角化后对角上就是特征值。
1.14 合同矩阵
设A,B是两个方阵,若存在可逆矩阵C,使得C^TAC=B,则称方阵A,B合同,记作A\simeq B。
1.15 正定矩阵
正定矩阵:假设一个实对称矩阵A,对于任意一个非零的列向量S,都有S^TAS>0,则该矩阵正定。
半正定矩阵:就是把上面的>改成\ge
性质:
特征值全为正。
各阶主子式大于零。
对称矩阵A正定的充要条件:A的特征值全为正。
1.16 范数
R^n上的向量x=(x_1,\cdots,x_n)^T的范式(离散型范数公式):
\lVert x \rVert _{\infty}=\max _{1\le i\le n}\left| x_i \right|\lVert x \rVert _1=\sum_{i=1}^n{\left| x_i \right|}\lVert x \rVert _2=\left( \sum_{i=1}^n{x_{i}^{2}} \right) ^{\frac{1}{2}}带权重的形式(以2-范数为例):\lVert x \rVert _2=\left( \sum{i=1}^nw_i{x_{i}^{2}} \right) ^{\frac{1}{2}}
C[a,b]上的函数f(x)的范式(连续型范数公式):
\lVert f \rVert _{\infty}=\max _{a\le x\le b}\left| f\left( x \right) \right|\lVert f \rVert _1=\int_a^b{\left| f\left( x \right) \right|dx}\lVert f \rVert _2=\left( \int_a^b{f^2\left( x \right) dx} \right) ^{\frac{1}{2}}带权重的形式(以2-范数为例):\lVert f\left( x \right) \rVert _2=\left( \int_a^b{\rho \left( x \right) f^2\left( x \right) dx} \right) ^{\frac{1}{2}}
R^{n\times n}上的矩阵A的范式:
\text{行范式:}\lVert A \rVert _{\infty}=\max _{1\le i\le n}\sum_{j=1}^n{\left| a_{ij} \right|}\text{列范式:}\lVert A \rVert _1=\max _{1\le j\le n}\sum_{i=1}^n{\left| a_{ij} \right|}\text{谱范式:}\lVert A \rVert _2=\sqrt{\lambda _{\max}\left( A^TA \right)}\text{,其中}\lambda _{\max}\text{表示最大特征值}F\text{范式:}\lVert A \rVert _F=\sqrt{\sum_{i=1}^n{\sum_{j=1}^n{a_{ij}^{2}}}}A=\left[ \begin{matrix} 4& -3\\ -1& 6\\ \end{matrix} \right]的范式:
行范式:\lVert A \rVert _{\infty}=\max \left\{ \text{各行绝对值之和} \right\} =\max \left\{ 7,7 \right\} =7
列范式:\lVert A \rVert _1=\max \left\{ \text{各列绝对值之和} \right\} =\max \left\{ 5,9 \right\} =9
F范式:\lVert A \rVert _F=\sqrt{4^2+3^2+1^2+6^2}=7.87401
谱范式:\lVert A \rVert _2=\sqrt{\lambda _{\max}\left( \left[ \begin{matrix} 17& -18\\ -18& 45\\ \end{matrix} \right] \right)}=7.335087491
怎么求矩阵A的最大特征值?|\lambda E-A|=0,然后求\lambda的最大解
1.17 内积
R^n上的向量x,y的内积(离散型内积公式):
\left( x,y \right) =\sum_{i=1}^n{w_ix_iy_i}w_i是权重
C[a,b]上的函数f(x),g(x)的内积(连续型内积公式):
\left( f\left( x \right) ,g\left( x \right) \right) =\int_a^b{\rho \left( x \right) f\left( x \right) g\left( x \right) dx}\rho (x)是权函数,一般为1,\frac{1}{\sqrt{1-x^2}},\sqrt{1-x^2}
1.18 特征值分解
特征值分解(谱分解):对于一个方阵A,\lambda_1 \le \cdots \le \lambda_n是A的n个特征值,w_1,w_2,\cdots,w_n是其对应的n个线性无关的特征向量,则存在正交矩阵W,使得
W^{-1}AW=W^TAW=\varLambda =\left( \begin{matrix} \lambda _1& & \\ & \cdots& \\ & & \lambda _n\\ \end{matrix} \right)其中,W是将A的n个特征向量单位化后组成的n\times n矩阵。
意义:将一个方阵对应的线性变换转化为“旋转——拉伸——旋转”变换。
正交矩阵对应旋转变换,对角矩阵对应拉伸变换。
1.19 奇异值分解
奇异值分解(SVD):特征值分解的扩展,适用于任意矩阵A_{m\times n}。
U_{m\times m}:对称矩阵,由AA^T的所有特征向量组成,其中每个特征向量叫做A的左奇异向量。
V_{n\times n}:对称矩阵,由A^TA的所有特征向量组成,其中每个特征向量叫做A的右奇异向量。
\varSigma_{m\times n}:除了对角线上是奇异值,其他全为0,奇异值\sigma_i由Av_i=\sigma_iu_i求得。