跳转至

4 后记

4.0 祝大家学习顺利!

4.1 有趣的思考题

这些题目大概率和考试没有关系。不过如果同学们感兴趣,可以简单看看。

问题1 矩阵的运算。考虑集合\(S_n,T_n\subset M_{n\times n}(\mathbb R)\).问下面几种情况下,使得\(T_n = M_{n\times n}(\mathbb R)\)的最小的\(S_n\), 即,求\(\min(card(S_n))\).

  1. \(T_n = \\{M\in M_{n\times n}(\mathbb R)|\exists \alpha,\beta\in \mathbb{R}, A,B\in S_n,s.t.\alpha A+\beta B = M\\}\)
  2. \(T_n = \\{M\in M_{n\times n}(\mathbb R)|\exists \alpha,\beta,\gamma\in \mathbb{R}, A,B\in S_n,s.t.\alpha A+\beta B +\gamma AB= M\\}\)

问题2 神经网络与激活函数。从线性代数(线性变换的性质)的角度解释多层神经网络中激活函数的意义。提示:如果没有激活函数,多层的神经网络和什么等效?

注2.1 多层神经网络可以简单地如下建模:整个网络视为一多元向量值函数\(f: \mathbb R^n \to \mathbb R^m\), 为多个函数嵌套而成:

\[ \begin{aligned} f &= f_1\circ f_2 \circ\cdots\circ f_l\\ 其中f_i&:\mathbb{R}^{d_{i-1}}\to\mathbb{R}^{d_i}(d_0 = n,d_l=m),\\ f_i(\mathbf v)&=\varphi(\mathbf W_i\mathbf v+\mathbf b_i)\\ \end{aligned} \]

其中\(\mathbf W_i \in M_{d_{i-1}\times d_{i}}(\mathbb{R})\), \(\mathbf b_i \in \mathbb{R}^{d_i}\) ,\(\varphi()\)为非线性函数,称为激活函数。训练神经网络就是以某种算法根据训练集优化各个\(\mathbf W_i\)\(\mathbf b_i\)的值,从而使得函数\(f\) 能够更好地拟合实际需求(比如,输入图像的像素信息,输出其为各种数字的概率)等。

注2.2 本题为一常见面试题。

问题3 复数与二阶矩阵。考虑双射

\[ \begin{aligned} f: \mathbb{C} &\to M_{2\times2}(\mathbb{R})\\ z &\mapsto A\\ 其中z&=a+bi\\ A&=\begin{bmatrix} a&-b\\ b&a \end{bmatrix} \end{aligned} \]

再令集合\(S_C:=\\{A\in M_{2\times2}(\mathbb{R})|\exists z \in \mathbb{C}, f(z)=A\\}\)。求证:

  1. $\alpha f(z_1)+\beta f(z_2) = f(\alpha z_1+ \beta z_2), \alpha,\beta\in\mathbb{R} $
  2. \(f(z_1z_2) = f(z_1)f(z_2)\)
  3. 复数域的共轭运算对应\(S_C\)上的什么矩阵运算?
  4. 写出\(z=\rho e^{-i\theta}=\rho\cos\theta+\rho i\sin\theta\)对应的矩阵。结合旋转变换的表示矩阵\(R_\theta\) 的形式,从矩阵分解的角度说明为什么复数乘法可以用旋转-拉伸的形式表示?

注3.1 这里的映射\(f\)揭示了\(\mathbb{C}\)\(M_{2\times2}(\mathbb{R})\) 的一个子集的同构。即:复数和某些矩阵具有“类似的性质”。

注3.2 在机器人姿态控制中常用的四元数也可以用类似的方法同构到矩阵中,这在具身智能、机器人控制中有着重要的应用,感兴趣的同学可以自行查阅资料。

问题4 集合的势。对于n维方阵,可逆方阵与不可逆方阵哪个更多?

4.2 参考资料与杂谈

对基础概念仍然不熟的同学建议观看3b1b《线性代数的本质》这视频,十分形象地介绍了线性代数这门学科“在干什么”,笔者大一时观看过,收益良多。如果时间较为充裕,可以看MIT课程《Linear Algebra》作为补充。

学好线性代数会为后续的很多课程和方向打下坚实的数理基础。比如问题2中提到的机器学习,会用到大量的矩阵工具;同学们下个学期要上的专业课《电子电路与系统基础》中也会出现大量的矩阵计算。而在《高等微积分(2)》中,拥有好的线代直觉能够“秒杀”很多看上去计算量很大的题目,但这需要用到同学们下半学期学习的内容,因此在此从略。

笔者代数功底一般,喜欢从几何直观去理解抽象的代数知识。而笔者的一位朋友代数功底了得,他写了一篇《线性代数拾疑》可供感兴趣的同学翻看。我是一个工科学生,可能对于数学内在的严谨而深刻的美感缺乏觉察力,因此常常受到一些数学好的同学的诟病。我习惯于把知识肤浅化、直观化,可能是适合我自己的学习方法,但确实也有其局限性。春季学期,欢迎对线代/代数感兴趣的同学选修《高等线性代数选讲》、《抽象代数》等课程,这课稍微抽象些,可以满足部分比较厉害的同学的胃口。

4.3 致谢

感谢以下同学在讲义编写过程中提供了宝贵的意见和灵感(排名不分先后):

张光宇 陈思齐 范宇辰 陈峻立 郭爱伟 汤一丹 陶泓宇 夏子凯 魏天翼

感谢数学系刘余老师和《线性代数》课程组提供的课程和教学资料。

最后,感谢我的家人和朋友,以及全部来听课的同学。初次亮相,你们的鼓励与支持是我最大的动力。

评论