机器之心整理

参与:思源、一鸣

没有微积分,机器学习也就没有了「学习」。

在机器学习的数学基础中,概率论与线性代数起到了核心作用,但是我们常忽略另一个非常重要的领域:微积分。似乎我们只要了解简单的多元微分,那么也就能学习机器学习了。但这只是一个错觉,我们不论想要具体了解最优化方法,还是希望窥探反向传播的法则,微积分是不可或缺的部分。

此外,整个微积分对于很多学科而言都是最基础的内容,不了解它的思想与做法,有时很难理解当前的研究。例如最近比较受关注的神经微分方程,它就是将残差网络视为一个微分方程,然后该微分方程的解法就相当于整个神经网络的传播结果。

既然微积分这么重要,那我们还需要回去再啃一遍高数上下册?当然能这样是最好的,但这需要花很多时间,我们最好还是通读一些介绍性的教程,做到心中「有数」就可以了。因为目前来看,确实还有很多内容不太能用在机器学习上,例如复杂的多重积分学、三维曲线方程和微分中值定理等等。

本文介绍的就是 MIT 应用数学教授 Daniel Kleitman 写的一本微积分入门书籍,它完全是用英文写的,读者在学数学的过程中还能学学英语的表达呀。

书籍地址:http://www-math.mit.edu/~djk/calculus_beginners/

这个课程里有什么?

课程涵盖了微积分的各个方面,从介绍微积分的意义开始,逐渐深入。课程最后还提供了一些数学工具,帮助读者了解使用。

以第三章的「线性函数」为例:

该章节分为三部分:

  • 函数的定义
  • 线性函数定义和举例
  • 线性本身的概念

如图所示:

微积分怎么研究(MITKleitman教授)(1)

使用案例介绍方程的定义

微积分怎么研究(MITKleitman教授)(2)

介绍什么是线性和非线性

课程目录

  • Chapter 0: Why Study Calculus?
  • Chapter 1: Numbers
  • Chapter 2: Using a Spreadsheet
  • Chapter 3: Linear Functions
  • Chapter 4: Quadratics and Derivatives of Functions
  • Chapter 5: Rational Functions and the Calculation of Derivatives
  • Chapter 6: Exponential Functions, Substitution and the Chain Rule
  • Chapter 7: Trigonometric Functions and their Derivatives
  • Chapter 8: Inverse Functions and their Derivatives
  • Chapter 9: Numerical Differentiation, and Non-Differentiable Functions
  • Chapter 10: Review of Differentiation
  • Chapter 11: Application of Differentiation to Solving Equations
  • Chapter 12: The Anti-Derivative
  • Chapter 13: Area under a Curve; Definite Integrals
  • Chapter 14: Numerical Integration
  • Chapter 15: Areas and Volumes of Parallel Sided Figures; Determinants
  • Chapter 16: Some Pure Mathematics
  • Chapter 17: Modeling Applications to Physics
  • Chapter 18: Predator Prey Models
  • Chapter 19: Solving Differential Equations
  • Tools
  • Glossary of Notations
  • Index

还有其他入门材料吗?

数理基础对需要入门机器学习的初学者,以及需要加深理解的从业者来说都十分重要。因此,机器之心也为读者整理了一些受到关注和好评的入门级数学课程,帮助大家更好的夯实基础,加深对机器学习的理解,并更好的使用机器学习工具。

其他微积分课程

1. 可汗学院的「微积分预备」课程:这是一个为没有任何数学基础的人准备的微积分预备课程,提供了很多用于学习微积分的预备知识,如极限的相关知识、二项式定理等。

微积分怎么研究(MITKleitman教授)(3)

课程地址:https://www.bilibili.com/video/av14223492

2. 3Blue1Brown 的「微积分的本质」课程:本课程以最为简单易懂的方式介绍了微积分的本质原理,没有太多数学公式和枯燥无味的证明。

微积分怎么研究(MITKleitman教授)(4)

课程地址:https://www.bilibili.com/video/av24325548

其他线性代数课程

1. 3Blue1Brown 的「线性代数的本质」课程:还是这位大神,强烈推荐!本教程用最简单的方式介绍线性代数的知识。耐心看下去,没有不懂的。

微积分怎么研究(MITKleitman教授)(5)

课程地址:https://www.bilibili.com/video/av5987715

2. MIT 的线性代数课程:这是一个极其全面的线性代数课程,从几何空间入手介绍线性代数的原理。Gillbert Strang 老爷子非常有激情,几个小时大课听下来都不觉得很累很难。当然,画质较老,需要适应。

微积分怎么研究(MITKleitman教授)(6)

课程地址:https://www.bilibili.com/video/av36568126

,