第三十三讲：单元检测3复习 在上一次复习中，我们已经涉及了求特征值与特征向量（通过解方程$\det(A-\lambda I)=0$得出$\lambda$，再将$\lambda$带入$A-\lambda I$求其零空间得到$x$）。 接下的章节来我们学习了： 解微分方程$\frac{\mathrm{d}u}{\mathrm{d}t}=Au$，并介绍了指数矩阵$e^{At}$； 介绍了对称矩阵的性质$A=A^T$，了解了其特征值均为实数且总是存在足量的特征向量（即使特征值重复特征向量也不会短缺，总是可以对角化）；同时对称矩阵的特征向量正交，所以对称矩阵对角化的结果可以表示为$A=Q\Lambda Q^T$； 接着我们学习了正定矩阵； 然 …

阅读更多

第三十四讲：左右逆和伪逆 前面我们涉及到的逆（inverse）都是指左、右乘均成立的逆矩阵，即$A^{-1}A=I=AA^{-1}$。在这种情况下，$m\times n$矩阵$A$满足$m=n=rank(A)$，也就是满秩方阵。 左逆（left inserve） 记得我们在最小二乘一讲（第十六讲）介绍过列满秩的情况，也就是列向量线性无关，但行向量通常不是线性无关的。常见的列满秩矩阵$A$满足$m>n=rank(A)$。 列满秩时，列向量线性无关，所以其零空间中只有零解，方程$Ax=b$可能有一个唯一解（$b$在$A$的列空间中，此特解就是全部解，因为通常的特解可以通过零空间中的向量扩展出一组解集，而此时零空间只有列向量），也可能无 …

阅读更多

第三十五讲：期末复习 依然是从以往的试题入手复习知识点。 已知$m\times n$矩阵$A$，有$Ax=\begin{bmatrix}1\0\0\end{bmatrix}$无解；$Ax=\begin{bmatrix}0\1\0\end{bmatrix}$仅有唯一解，求关于$m,n,rank(A)$的信息。 首先，最容易判断的是$m=3$；而根据第一个条件可知，矩阵不满秩，有$r<m$；根据第二个条件可知，零空间仅有零向量，也就是矩阵消元后没有自由变量，列向量线性无关，所以有$r=n$。 综上，有$m=3>n=r$。 根据所求写出一个矩阵$A$的特 …

阅读更多

第三十一讲：线性变换及对应矩阵 如何判断一个操作是不是线性变换？线性变换需满足以下两个要求： $$ T(v+w)=T(v)+T(w)\ T(cv)=cT(v) $$ 即变换$T$需要同时满足加法和数乘不变的性质。将两个性质合成一个式子为：$T(cv+dw)=cT(v)+dT(w)$ 例1，二维空间中的投影操作，$T: \mathbb{R}^2\to\mathbb{R}^2$，它可以将某向量投影在一条特定直线上。检查一下投影操作，如果我们将向量长度翻倍，则其投影也翻倍；两向量相加后做投影与两向量做投影再相加结果一致。所以投影操作是线性变换。 “坏”例1，二维空间的平移操作，即平面平移： 1%matplotlib inline …

阅读更多

第十八讲：行列式及其性质 本讲我们讨论出行列式（determinant）的性质： $\det{I}=1$，单位矩阵行列式值为一。 交换行行列式变号。 在给出第三个性质之前，先由前两个性质可知，对置换矩阵有$\det P=\begin{cases}1\quad &even-1\quad &odd\end{cases}$。 举例：$\begin{vmatrix}1&0\0&1\end{vmatrix}=1,\quad\begin{vmatrix}0&1\1&0\end{vmatrix}=-1$，于是我们猜想，对于二阶方阵，行列式的计算公式为$\begin{vmatrix}a&b\c&d\end{vmatrix}=ad-bc$。 a. …

阅读更多

第十二讲：图和网络 图和网络 1import networkx as nx 2import matplotlib.pyplot as plt 3%matplotlib inline 4 5dg = nx.DiGraph() 6dg.add_edges_from([(1,2), (2,3), (1,3), (1,4), (3,4)]) 7edge_labels = {(1, 2): 1, (1, 3): 3, (1, 4): 4, (2, 3): 2, (3, 4): 5} 8 9pos = nx.spring_layout(dg) …

阅读更多

第十讲 四个基本子空间 对于$m \times n$矩阵$A$，$rank(A)=r$有： 行空间$C(A^T) \in \mathbb{R}^n, dim C(A^T)=r$，基见例1。 零空间$N(A) \in \mathbb{R}^n, dim N(A)=n-r$，自由元所在的列即可组成零空间的一组基。 列空间$C(A) \in \mathbb{R}^m, dim C(A)=r$，主元所在的列即可组成列空间的一组基。 左零空间$N(A^T) \in \mathbb{R}^m, dim N(A^T)=m-r$，基见例2。 例1，对于行空间 $ A= \begin{bmatrix} 1 & 2 & 3 & 1 \ 1 & 1 & …

阅读更多

第十六讲：投影矩阵和最小二乘 上一讲中，我们知道了投影矩阵$P=A(A^TA)^{-1}A^T$，$Pb$将会把向量投影在$A$的列空间中。 举两个极端的例子： 如果$b\in C(A)$，则$Pb=b$； 如果$b\bot C(A)$，则$Pb=0$。 一般情况下，$b$将会有一个垂直于$A$的分量，有一个在$A$列空间中的分量，投影的作用就是去掉垂直分量而保留列空间中的分量。 在第一个极端情况中，如果$b\in C(A)$则有$b=Ax$。带入投影矩阵$p=Pb=A(A^TA)^{-1}A^TAx=Ax$，得证。 在第二个极端情况中，如果$b\bot C(A)$则有$b\in N(A^T)$，即$A^Tb=0$。 …

阅读更多

第十七讲：正交矩阵和Gram-Schmidt正交化法 标准正交矩阵 定义标准正交向量（orthonormal）：$q_i^Tq_j=\begin{cases}0\quad i\neq j\1\quad i=j\end{cases}$ 我们将标准正交向量放入矩阵中，有$Q=\Bigg[q_1 q_2 \cdots q_n\Bigg]$。 上一讲我们研究了$A^A$的特性，现在来观察$Q^TQ=\begin{bmatrix} & q_1^T & \ & q_2^T & \ & \vdots & \ & q_n^T & \end{bmatrix}\Bigg[q_1 q_2 \cdots q_n\Bigg]$ 根据标准正交向量的定义，计 …

阅读更多

第十三讲：复习一 令$u, v, w$是$\mathbb{R}^7$空间内的非零向量：则$u, v, w$生成的向量空间可能是$1, 2, 3$维的。 有一个$5 \times 3$矩阵$U$，该矩阵为阶梯矩阵（echelon form），有$3$个主元：则能够得到该矩阵的秩为$3$，即三列向量线性无关，不存在非零向量使得三列的线性组合为零向量，所以该矩阵的零空间应为$\begin{bmatrix}0\0\0\ \end{bmatrix}$。 接上一问，有一个$10 \times 3$矩阵$B=\begin{bmatrix}U\2U \end{bmatrix}$，则化为最简形式（阶梯矩阵）应为$\begin{bmatrix}U\0 …

阅读更多