0.绪论

本方案适用于cser，对于人工智能，深入学习，这也是up自学完机器学习后的一些心得。会随着up学习，不断改良此方案

1.机器学习的数学基础

机器学习用到的数学知识相当广泛，以西瓜书为例，介绍每章所需要的数学知识，没有数学寸步难行...

• 第二章：期望、方差，最难的就是假设检验了，不会假设检验，就会看的头大，正态分布，两个重要极限

• 第三章：矩阵求导，无约束的条件极值，矩阵的秩，极大似然估计，凸优化的牛顿法，二范数

• 第四章：信息论中的信息熵

• 第五章：矩阵乘法，凸优化的梯度下降法，偏导数以及复合函数偏导数

• 第六章：拉格朗日对偶，拉格朗日乘子

• 第七章：贝叶斯方法、极大似然估计、统计推断

• 第八章：相关性。                        

1.1高等数学

单从机器学习来看，多元微积分更重要一些，但一元的求导，求极限也需要。至于微分方程和无穷级数、曲线曲面积分，反而没那么重要了。需要重点学最小二乘法，条件极值，拉格朗日乘子法，方向导数，梯度，几何，雅可比行列式

从高等数学角度理解最小二乘法

高等数学-上交-乐经良

重点学一元微积分和多元微积分，微分方程和曲线积分，级数，微分方程不需要学

数学分析-陈纪修

重点学习他的插值和泰勒公式。

书籍：

《同济七版高等数学》，我觉得这本高数书非常好，在国内教材中，少见好教材，无论是证明还是课后的习题。

1.2线性代数/高等代数

需要重点学矩阵，QR分解，奇异值(svd)分解,范数，，向量空间，线性映射

从矩阵角度理解一元线性回归，即最小二乘问题

线性代数-MIT

国内好的线代课不多，我当时学只有一个学期，课时很少，学了个皮毛，后面考研又深入学了学，这门课对以后的机器学习非常重要。机器学习很多公式推导都需要它。

线性代数本质极力推荐，没有几何，代数学的就很吃力。

【手推机器学习】矩阵求导--合集哔哩哔哩bilibili

矩阵求导在大部分高等代数/线性代数课里面讲的都不是很深入

矩阵分析

需要补充范数和svd分解，qr分解，范数，线性映射，线性空间

书籍：

《线性代数及其应用》David C. Lay，从应用角度比同济的要好，写的也很棒

1.3概率论与数理统计

概率统计在机器学习中非常重要尤其是模型评估和选择、和贝叶斯分类器。重点学参数估计，尤其是最大似然和贝叶斯估计，假设检验，贝叶斯方法，一元线性回归

从概率统计角度理解一元线性回归

数理统计-缪柏其讲的很透彻，首推

Python统计与数据分析实战结合python讲统计学，学完这门课对于python也会有一定帮助

书籍推荐

• 概率论与数理统计，陈希儒，这本书写的相当好，个人认为好于浙大版本的数理统计。对于很多东西讲的很透彻，与之相比，反而浙大那个更像是应付考试出的书了。

• 概率论与数理统计教程茆诗松，更全一些，一些统计学考研会用到教材

1.4凸优化

SVM需要用到它的拉格朗日对偶、拉格朗日乘子法、凸优化，梯度下降法、牛顿法

最优化理论-上交大

书籍：

凸优化Stephen Boyd / 王书宁 ，讲的很全面了，书也很厚

信息论：信息熵

补充：

机器学习数学基础（基于python）

数学结合pyhon讲授

2.Python相关

以下四个教程均来自同一个up讲的很不错，学习机器学习必看，python学习也相对简单

python基础

题库

牛客网 python入门or CS61A题库

学完后做一些oj题目，对于熟悉语法有些帮助

numpy基础

牛客网python数据分析

pandas基础

mataplot可视化基础

3.机器学习理论

北邮机器学习

理论基本看一遍西瓜书+视频讲解就可

机器学习推导及代码实现

手把手教会机器学习与数据挖掘理论

相对通俗易懂

西瓜书+统计机器学习

4.机器学习公式

白板推导

机器学习需要手推公式，非常不错，看之前应该过一遍数学基础哦

5.机器学习实践

机器学习算法基础

总之初学者先学会调包吧。实际上大部分工作集中在预处理上了(