人工智能思维导图系列（一）线性代数

思维导图是个好东西，对于一门新技术，如果你是个初学者，一张完整的思维导图能让你明白未来数月你将面对什么；即使你已经熟悉了这门技术，思维导图也是你复习的好工具，毕竟人的记忆是容易消退的。

我一直想把人工智能背后的数学原理弄明白，这也是我写公众号的原因，本系列文章当然也离不开这个主题，花了好长时间整理了线性代数，概率与统计，人工智能，机器学习，深度学习，计算机视觉等六个方向的的思维导图。但每一门知识延伸开来是无穷尽的，再加上个人能力有限，所以思维导图难免有缺漏和错误，希望大家能和我一起来完善修改，一起建立知识体系，一起成长。

所有思维导图，关注微信公众号：人工智能大讲堂，后台回复【mds】获取下载链接，后续更新也同样放到这个位置。

今天我们来看一下线性代数这张图。

关于如何学习线性代数，还是要啰嗦几句，学习线性代数不能过于严肃，也就是不能只看教材，最好是能以应用入手，例如，看看线性代数是如何应用于计算机图形学，如何压缩图像，如何做推荐算法。关于线性代数的应用，我在前面线性代数本质系列中已经写过不少文章了，这里就不再赘述了。

除了应用以外，另一个不太正经但对我来说比较奏效的方法是做类比，把它想象成生活中的，你熟悉的事物，即使是生搬硬凑，只要有助于理解和记忆就好。

线性代数有两大主角：向量，矩阵。

向量就是一堆数字的组合而已，这在现实生活中太常见了，以人为例，人有身高，体重，血压，成绩，学历，财产，职位等各种各样的标签。在不同的地方关注不同的标签而已，在医院，关注的是与健康有关的标签，在学校，则关注与学业有关的标签。这里不同的地方就是不同的向量空间，向量空间就是具有相似标签向量的集合，例如，医院里都是病人，学校里都是学生，你生活的城市，都是家乡人，我们伟大的国家，都是同胞，人类赖以生存的地球，都是人类，太阳系，宇宙，只要你喜欢，你可以把任何由个体组成的群体看作是一个向量空间。

向量空间有两个特性，两个向量的和也属于该向量空间，这就好比，两个优秀的父母养育的孩子也会很优秀一样。标量与向量的乘积也属于该向量空间，这个我还没找到合理的比喻。或者说是与现实相悖的，按理讲，标量值越大，代表的能量越大，火箭在这种能量的加持下都逃离地球的引力飞往太空。在这里我只能说，虽然标量值很大，但向量的维度没变，也就还是在原来的向量空间中。

向量不是孤立存在的，通过向量的比较，我们就可以完成不同的任务，机器学习通过比较标签与模型输出来估计模型参数，这在我们的生活中也很常见，我们上学时，会比较分数，成人后，比较个人成就，国与国之间比较经济军事实力。通过比较来不断进行自我完善。

当矩阵与向量相乘时，我们把矩阵看作是一种对向量的变换，如果是方阵，则结果向量维度不变，否则，维度变化，熵增定律告诉我们，如果我们乐于安逸，则我们的生活会越来越混乱，前面我们提到了向量空间的概念，空间就像这个社会的阶层一样，可能也是分等级的，我们如何向更高的空间迈进？一种方法是个人努力，但如果没有好的方法，个人努力可能达不到质变的效果，也就是我们仍然无法突破现有空间，此时，个人努力就好比方阵，但如果遇到贵人相助，则可能会立竿见影，此时的贵人就好比一个非方阵，让你从低维空间跃迁到高维空间。

当我们努力后没有产生变化时，此时的努力就像一个单位方阵一样，作用于向量后没有发生任何变化。同样，贵人的帮助也可能有不同的形式，我们要分析最有效的帮扶，也就是矩阵的特征向量分解。或者更一般地讲是奇异值分解。

最后还要说明一下，大家对于思维导图中有些概念的摆放位置可能会有疑惑，例如，矩阵的逆和逆矩阵，前者听着像动词，后者则更像名词，如果把它看作是名词则可以放到矩阵的属性，或者特殊矩阵分支中，如果看作动词，则可以放到矩阵的操作分支中。