线性代数的本质

0. 序言

1. 向量

物理 : 向量是长度和方向 计算机 : 向量是数字列表 数字模型 数学:相加或与标量相乘有意义的东西

线性代数:向量是空间中的 Tail 在原点的箭头 为每个维度的基向量的长度

向量相加

向量首尾相连,从总的首尾构建新向量

向量和标量相乘

基向量系数相乘

2.线性组合、张程、向量的基

用数字描述向量,都依赖于所使用的基

坐标基的线性组合(乘以标量和相加)可以表示张成空间(span)中的所有向量。

如果这一组基向量是线性相关的,即某一个向量可以表示为其他向量的线性组合,即某个向量没对张成空间的加维做出贡献

张成空间的一组线性无关的向量集合

3.矩阵与线性变换

线性变换

linear transformation

transformation 变换

变换是指某个函数输入和输出两个维度相同的向量,可以理解为向量箭头的移动前和移动后

linear 线性

  1. 直线在线性变换后保持直线

  2. 原点保持不变

网格保持平行且等距

对坐标基进行线性变换

线性变换矩阵

向量的线性变换可以看作是基向量的线性变换后的组合

基向量的变换就是空间的变换,这边把向量的线性变换看作向量空间的线性变换了

以变换后的基向量为列的矩阵描述了如何进行线性变换,相乘即可

A -> B 变换矩阵即 A 基向量变换到 B 空间,向量被 B 的基向量的表示

本质

对于原空间中的任意向量(x,y)在单位空间表示变换到目标空间,等于 单位空间的基向量变换到目标空间,由目标空间单位基向量进行表示 :x_t:[a,c]、y_t : [b,d],按原先的系数 x、y 进行组合,成为在目标空间对单位空间的表示。

得注意,单位空间变换指的是单位空间成为一个非单位空间,被目标空间的作为单位空间的单位表示,

4.矩阵乘法和线性变换复合

向量左乘矩阵表示为向量的线性变换,矩阵乘法支持结合律,可以把两个线性变换矩阵合成为一个矩阵。但是不支持交换律

5.行列式

行列式符号 det

n 阶矩阵具有行列式

原始单位空间以该矩阵进行线性变换后的空间,对于原始单位空间的缩放比例

行列式为 0 说明二维度空间被压缩为一条线或点,可以进行降维

行列式具有负数,对于有定向的空间,相当于空间翻转了(对于 2 维相当于,z 轴正朝向反转)

空间可降维,说明矩阵的列线性相关

三维度的空间,改变定向说明改变了左右手定则

行列式的数值计算

6. 逆矩阵、列空间与零空间

以线性变换的眼光看 逆矩阵、列空间、秩、零空间

线性代数常用来解多元一次方程组、也叫 线性方程组

线性方程组可以看作是未知向量进行空间变换到已知向量,可通过已知向量的逆空间变换到未知向量求解方程组

逆矩阵不止是与原矩阵相乘为 单位矩阵,还表示空间连续应用这两个矩阵变换后还是原空间。

只要空间变换矩阵不是降维空间,即行列式为 0 ,就有逆矩阵,就有唯一解。因为无法描述向量的升维变换

秩 Rank:

空间变换后的维度,几维空间空间变换秩最大为几

空间变换矩阵也可以看作是原空间的列空间矩阵,且一定是线性变换的

零空间

对于空间降维矩阵,落在零向量上的所有向量集合称为零空间

空间降维线性变换的目标向量为 0 向量时,零空间就是所有解

7. 非方阵

3x2 的矩阵为原本 2 维空间的两个基向量在目标三维空间基于三个单位基向量的两个向量表示

所以 M3x2 秩最大为 3 ,是满秩的

M2x3 是原三维空间 3 个基向量在目标二维空间中 2 个基向量的表示,这样来降维

8. 点积和对偶性

线性变换在空间上表示为单位空间上等距的点变换后还是等距,线性变换都可以用矩阵表示

分为参考空间和被表示空间,空间变换就是原本的参考空间成为被表示空间,换一个变换后的空间作为参考空间。

被标示空间以自己为参考没有变换。

点积可以解读为 多维空间中一个向量, 多维空间变换到一维空间(被一维空间表示),向量在一维空间上的单基向量长度表示。

点积的两个向量各自作为 变换矩阵时,变换的结果是一致的

向量可以看作是一个一维空间,可以从原本的维度降维成为一维。

使用一维里的多个长度(一维基向量表示),表示原本维度里的所有基向量

向量越长,其表示的空间需要越大的数来表示基向量

9. 叉积

两向量叉积后向量的模长为所组成的平行四边形面积,向量朝着升维坐标系的正向

也就是行列式的值

从空间变换角度,矩阵表示原空间的基向量,所以叉积值是原空间的单位面积在当前空间下的大小

标准解法:

10. 以线性变换的看叉积

标准解法的叉积为什么和空间上叉积的定义是一致的

对偶向量:对偶向量点积向量 = 线性变换矩阵变换向量

通常是对偶向量的转置

空间上叉积的定义

假设有一个向量进行对偶变换后得到的值和 这个向量和运算向量组成的叉积行列式得到的值一致,那么这个对偶向量 p 就是叉积的值

这个向量和运算向量组成的叉积行列式的值是平行四边形的值 = 底乘以高

= 这个向量在对偶向量上的投影大小 * 底面积高度,只要保证 对偶向量 P 的模长为 平行四边形面积,并且 P 垂直于平行四边形,那么 p 就是叉积的值了

11. 基变换

又说一遍空间变换,空间变换前描述的向量是该空间下以单位基向量描述的向量,

空间变换在客观上没有变化,转换了视角以变换后的空间基向量描述原本的空间的基向量,再用原本空间基向量表示原本描述的向量

对原本空间基向量的描述恰好可以写成矩阵 m*n,m 为新空间视角的维度,n 为原本空间视角的维度以及对应每列的基向量

A-1MA :A是空间变换矩阵,M 是线性变换矩阵,这个公式表示 A 空间表示的向量在单位空间中应用线性变换的效果

12. 特征向量和特征值

对于原空间里某个向量,其线性变换后还留在原本张成的空间内,即变换后的向量可以用原向量进行缩放得到,这个原向量称为特征向量,缩放倍数称为特征值

公式上表达是 A * v = λ * v,v 不为 0 时,A - λ*I 需要线性相关导致降维可以使 v 与其相乘为 0,使公式成立

特征基

对角矩阵作为空间变换矩阵时,所有单位基向量都是特征向量,对角元是特征值

特征基优化

如果对于某个线性变换有一组特征基能够张成全空间,那么可以把这些特征基作为空间基向量

用这些特征基所在的空间来描述这个变换,使用 A-1MA 格式,因为用对于线性变换对应的特征基表示来表示这个空间变换,只是特征基的缩放,是对角矩阵,计算容易,可用来优化大量重复这个变换。

13. 抽象向量空间

向量的表示是基于基向量的,特征值,和行列式是与基向量无关的,表示空间变换时缩放的比例

线性的严格定义

可加性,成比例

对多项式的函数可以写成矩阵形式

也就是 TMG 公式,

T:变量,M :函数,C:参数

向量可以是任何东西,只要满足以下的向量运算公里

14. 克莱姆法则的几何解释

高斯消元法解多元方程组

克莱姆法则,

先假设行列式不为零,任意向量的空间变换有唯一结果

x 轴为 x 其他轴为 1,组成的面积,面积为 x。在变换后面积为 x * det,x = 变换后的面积 / det

这就是用行列式来解线性方程组

最后更新于