机器之心整理
参与:思源、一鸣
没有微积分,机器学习也就没有了「学习」。
在机器学习的数学基础中,概率论与线性代数起到了核心作用,但是我们常忽略另一个非常重要的领域:微积分。似乎我们只要了解简单的多元微分,那么也就能学习机器学习了。但这只是一个错觉,我们不论想要具体了解最优化方法,还是希望窥探反向传播的法则,微积分是不可或缺的部分。
此外,整个微积分对于很多学科而言都是最基础的内容,不了解它的思想与做法,有时很难理解当前的研究。例如最近比较受关注的神经微分方程,它就是将残差网络视为一个微分方程,然后该微分方程的解法就相当于整个神经网络的传播结果。
既然微积分这么重要,那我们还需要回去再啃一遍高数上下册?当然能这样是最好的,但这需要花很多时间,我们最好还是通读一些介绍性的教程,做到心中「有数」就可以了。因为目前来看,确实还有很多内容不太能用在机器学习上,例如复杂的多重积分学、三维曲线方程和微分中值定理等等。
本文介绍的就是 MIT 应用数学教授 Daniel Kleitman 写的一本微积分入门书籍,它完全是用英文写的,读者在学数学的过程中还能学学英语的表达呀。
书籍地址:http://www-math.mit.edu/~djk/calculus_beginners/
这个课程里有什么?
课程涵盖了微积分的各个方面,从介绍微积分的意义开始,逐渐深入。课程最后还提供了一些数学工具,帮助读者了解使用。
以第三章的「线性函数」为例:
该章节分为三部分:
- 函数的定义
- 线性函数定义和举例
- 线性本身的概念
如图所示:
使用案例介绍方程的定义
介绍什么是线性和非线性
课程目录
- Chapter 0: Why Study Calculus?
- Chapter 1: Numbers
- Chapter 2: Using a Spreadsheet
- Chapter 3: Linear Functions
- Chapter 4: Quadratics and Derivatives of Functions
- Chapter 5: Rational Functions and the Calculation of Derivatives
- Chapter 6: Exponential Functions, Substitution and the Chain Rule
- Chapter 7: Trigonometric Functions and their Derivatives
- Chapter 8: Inverse Functions and their Derivatives
- Chapter 9: Numerical Differentiation, and Non-Differentiable Functions
- Chapter 10: Review of Differentiation
- Chapter 11: Application of Differentiation to Solving Equations
- Chapter 12: The Anti-Derivative
- Chapter 13: Area under a Curve; Definite Integrals
- Chapter 14: Numerical Integration
- Chapter 15: Areas and Volumes of Parallel Sided Figures; Determinants
- Chapter 16: Some Pure Mathematics
- Chapter 17: Modeling Applications to Physics
- Chapter 18: Predator Prey Models
- Chapter 19: Solving Differential Equations
- Tools
- Glossary of Notations
- Index
还有其他入门材料吗?
数理基础对需要入门机器学习的初学者,以及需要加深理解的从业者来说都十分重要。因此,机器之心也为读者整理了一些受到关注和好评的入门级数学课程,帮助大家更好的夯实基础,加深对机器学习的理解,并更好的使用机器学习工具。
其他微积分课程
1. 可汗学院的「微积分预备」课程:这是一个为没有任何数学基础的人准备的微积分预备课程,提供了很多用于学习微积分的预备知识,如极限的相关知识、二项式定理等。
课程地址:https://www.bilibili.com/video/av14223492
2. 3Blue1Brown 的「微积分的本质」课程:本课程以最为简单易懂的方式介绍了微积分的本质原理,没有太多数学公式和枯燥无味的证明。
课程地址:https://www.bilibili.com/video/av24325548
其他线性代数课程
1. 3Blue1Brown 的「线性代数的本质」课程:还是这位大神,强烈推荐!本教程用最简单的方式介绍线性代数的知识。耐心看下去,没有不懂的。
课程地址:https://www.bilibili.com/video/av5987715
2. MIT 的线性代数课程:这是一个极其全面的线性代数课程,从几何空间入手介绍线性代数的原理。Gillbert Strang 老爷子非常有激情,几个小时大课听下来都不觉得很累很难。当然,画质较老,需要适应。
课程地址:https://www.bilibili.com/video/av36568126
,