线性代数论文发表笔记

上篇笔记讲了向量与矩阵在二维空间的几何含义，这篇从三维空间说起。 相比于二维空间下的线性变换，三维空间多考虑了一个基向量 。 三维空间进行线性变换可以变换为一个三维空间、一个平面、一条线、甚至是原点。

行列式是用来度量变换前后空间改变的比例大小。我们通常以基向量构成的平面或立体为观察点，只需观察变换前后基向量构成的空间大小变化情况，就能得出行列式的值。

行列式的值可正可负，也可为0。

取基向量为 ， ，则它们围成的正方形面积为1。若变换后的基向量的相对 顺序 不改变，即 仍在 的右边，那么行列式为正，反之为负。

明白了行列式的几何意义，行列式为0就很容易理解了。线性变换将空间面积/体积压缩至0。 2D空间中，det=0意味着空间被压缩成了一条直线或者是一个点。 3D空间中，det=0意味着空间被压缩成了一个平面、直线、或者是一个点。

以方程组来阐述：

向量 经过一个线性变换 变成了向量 。

1.如果 将此3维空间压缩到至更低维度，则相当于行列式为0，此时 没有逆变换 ，因为线性变换后空间变成了平面、直线、或者是一个点。 上述情况下，都不能通过逆变换将其变为原来的3D空间。

但 可能存在解，因为 恰好处于变换后的平面、直线上，甚至于 为零向量。

变换后空间的维度被称为此矩阵的 秩 ，因此如果不是满秩，则矩阵的列必然线性相关。因为变换后的某些基向量没有为 张成空间 做出贡献。我们用 列空间 来描述变换后 基向量 张成的空间，那么秩更精确的定义就是列空间的维数。

只要变换后不是满秩，那么说明变换压缩了空间，并且有一系列向量变换成了零向量，这类向量张成的空间我们称之为零空间——或者叫做 核 。即齐次线性方程组的解就是 核 。

表明变换为满秩。此时空间中只有零向量不进行变换。其他所有向量都进行了变换。变换存在逆变换，我们可以通过计算逆变换来求解方程组。

逆变换 的性质如下：

求解形如 的非齐次线性方程组时，如果方程组有解(行列式不为0)，那么一定存在唯一一个 使得线性变换后与 重合。

之前我们针对的都是方阵，即行数与列数相等的矩阵，如果换成非方阵，情况有什么不同呢？

我们往往要针对不同维度的变量进行转换，或者是降维，或者是升维，一个很常见的应用就是神经网络，信息在不同维度间传递，这就涉及到利用非方阵来进行线性变换。

以几何意义来看 ，其基向量变成了 三维 ，但 的一组基向量只包含2个向量。因此 所代表的线性变换是把空间中的向量从 二维 变成了 三维 ，但是其基向量张成的空间维数仍为2，也就是说其秩为2，与 变换前 基向量张成的空间维数一样，因此这个非方阵仍然是满秩。

主要内容来源于b站up主 @3Blue1Brown 的 线性代数的本质

有三种理解向量的方式，如下：

以2维空间为例，存在一组基向量 。这个二维空间中的任意一个向量都可以由这一组基向量表示，那么就说这个二维空间是 这一组基向量所 张成 的空间。具体表示方式为：

其中 是任意实数，也是 的值。 仅仅通过对基向量进行 缩放相加 的操作就能得到空间中的任何一个向量，这也说明向量加法与数乘尤为重要。

所以说

自然，这样的基向量有无数组， 二维空间中，我们通常选择上述的 作为基向量。

变换 其实等价于 函数 ，在此场景下，函数输入的是向量，输出的也是向量。

输入输出的向量维度可以不同。

之所以用 变换 而不是 函数 来定义，是因为 变换 更强调一个 运动 的过程，例如二维空间中我们能想象，向量经过一个 线性变换 从而移动到空间中其他位置。

变换 有线性变换和非线性变换2种，本节讲的是 线性变换 及其与 矩阵 的关系。

将向量想象成箭头，那么 线性变换 是指起点在 原点 的向量在不同空间中的移动，且保持了向量数乘和加法的不变性。 这个不同空间可以理解为

例如一个3维向量经过线性变换变成了3维向量。 或者一个3维向量经过线性变换变成了2维向量。

上述的1其实是2的一个特例，如果变换后空间维数不一样了，那么空间定义的基向量肯定也发生了改变。

直观上，我们可以使用

2个条件来表示线性变换。

我们知道线性变换就是将空间中所有的向量移动到一个新的位置。在此过程过程中，向量的起点不变。那么如何追踪任意一个变换过的向量呢？

由上一节我们知道了向量其实是基向量的线性组合，任何向量都可以由基向量来表示。

怎么知道基向量的变换情况呢？在二维空间中，我们只需观察 这组基向量。并且线性变换后的基向量的系数就是线性变换之前基向量的系数，也就是线性变换之前 的坐标 。

已知

即 ， 经过线性变换后变为 ，即 ，此时 相应地变换为 ， ，且 证明 。

由上文线性变换的 定义 可知： 所以 。

所以只要我们知道了变换后的基向量坐标，我们就能进行线性变换。

现在假设已知线性变换后的基向量 , 。 借用上述证明中的各已知条件。

，

那么将 的坐标"包装"在一个 的格子里，我们称其为 矩阵 。

看到这里，大家应该明白了原来矩阵是经过线性变换后的基向量的拼接。

而日常应用中通常会给出矩阵，所以本节开头假设变换后的基向量已知是成立的，它就是矩阵的元素嘛。

那么空间中变换后的任意向量就可以由基向量来表示了。

请看下面的例子：

有矩阵 ，另有向量 ，则向量在矩阵的" 作用 "下，(经过一个 线性变换 )，向量的新坐标(移动到一个新的位置)如下：

请仔细看，跟上文中 这一形式类似,此时 相当于 ，为基向量的系数，而 ， 则为线性变换后的基向量。

因此矩阵与向量的乘法的直观解释如下：

既然一个矩阵代表空间的一次 线性变换 ，那么矩阵相乘就表示变换过一次的基向量再进行一次 线性变换 ，即对原空间进行两次线性变换。

进行两次变换的效果等价于2个矩阵相乘后得到的1个矩阵一次变换的效果。

主要内容来源于b站up主 @3Blue1Brown 的 线性代数的本质