高数基础知识

📝 泰勒展开和傅立叶变换的概念以及他们在计算机领域中的应用 ★

1、泰勒展开

在实际应用中对于具有复杂形式的函数我们常常希望用较为简单的函数形式表示他，而多项式就是这种简单的形式。比如对于指数函数、三角函数，我们可以使用多项式来逼近。简单来说泰勒展开就是将复杂形式的函数展开为多项式相加的形式。

泰勒展开在机器学习领域也有一定的应用，比如SVM可以选用高斯核函数来将低维映射到高维，将泰勒展开带入到高斯核函数的公式中就可以得到无穷维度的映射

2、傅里叶变换

傅里叶变换是一种线性积分变换，用于信号在时域和频域之间的变换。任何一个信号都可以被分解为多个正弦波信号的叠加。但是傅里叶变换的时间复杂度非常的高，后续又有快速傅里叶变换来对其的时间复杂度进行优化。其优化思路是把原始的N点序列，依次分解成一系列的短序列，利用DFT计算式中指数因子所具有的对称性质和周期性质，进而求出这些短序列相应的DFT并进行适当组合，达到删除重复计算的目的。

傅里叶变换在图像处理领域有非常广泛的应用，比如说JPEG压缩就利用了人眼对高频信号感知性不强的特点，通过将图像的高频信号去除来达到图像压缩的效果。人们可以使用傅里叶变换来将图像转化为频域图，在去除了高频信号后再转化回时域图。

📝 傅里叶变换和傅里叶级数的区别

傅里叶级数适用于周期信号中，傅里叶变化适用于非周期信号

📝 单射满射和双射的概念？★

假设现在有两个集合X和Y，单射表示每个x都有唯一的元素y与之对应。满射表示每个y都至少有一个x与之对应。双射，每个x都有对应的y，每个y也都有对应的x

📝 欧氏距离及常见距离公式？★

欧式距离就是常见的两点之间距离，是坐标差的平方和，常见的距离公式还有曼哈顿距离是坐标差的绝对值之和还有余弦距离，用两个向量之间的夹角余弦来衡量距离

欧式距离由于每个坐标对欧氏距离的贡献是同等的。当坐标表示测量值时，它们往往带有大小不等的随机波动

📝 最大似然估计是什么？★

最大似然估计的思想在于, 对于给定的观测数据 $x$, 我们希望能从所有的参数 $\theta_{1}, \theta_{2}, \cdots, \theta_{n}$ 中找出能最大概率生成观测数据的参数 $\theta^{*}$ 作为估计结果。

📝 梯度方向导数与梯度下降？★

梯度方向导数指的是某个方向上的导数。梯度下降是用来求解函数的最小值的，按照梯度的反方向对参数进行更新直到函数达到最小值

📝 导数和偏导数的区别？

导数和偏导数没有本质上的区别，都是当自变量的变化量趋于0时，函数值的变化量与自变量比值的极限（如果极限存在的话）。

📝 可导、可微、连续、可积之间的关系（一元函数+二元函数）★

1） 可导一定连续，连续不一定可导

2） 连续则极限存在，极限存在不一定连续

3） 连续一定可积，可积不一定连续

4） 连续一定有界，可积一定有界，可导可微等价

📝 三个中值定理的区别、联系和物理意义（罗尔、拉格朗日、柯西）★

1、罗尔中值定理

在满足f(x)在闭区间 [a, b] 上连续, f(x0 在开区间(a, b)上可导, f(a) = f(b)的条件下， 存在$\xi \in(a, b)$, 使得 $f^{\prime}(\xi)=0$

2、 拉格朗日中值定理

满足$f(x)$ 在闭区间 $[a, b]$ 上连续， $f(x)$ 在开区间 $(a, b)$ 上可导 则存在 $\xi \in(a, b)$, 使得 $f^{\prime}(\xi)=\frac{f(b)-f(a)}{b-a}$

3、 柯西中值定理

$f(x), g(x)$ 在闭区间 $[a, b]$ 上连续， $f(x), g(x)$ 在开区间 $(a, b)$ 上可导

$\forall x \in(a, b)$ 有: $g^{\prime}(x) \neq 0$ 则存在 $\xi \in(a, b)$ ，使下式成立：

$$\frac{f(b)-f(a)}{g(b)-g(a)}=\frac{f^{\prime}(\xi)}{g^{\prime}(\xi)}$$

当 g(x) 为 x 的时候柯西中值定理就变成了拉格朗日中值定理