一、函数空间及其基

1. 函数空间的定义

定义 $\R$ 上实值函数 $f: \R \to \R$ 的全体构成的集合（下称 ${\mathbb F}$），为其定义加法 $(f+g)(x) = f(x)+g(x)$ 和数乘 $(kf)(x) = k \cdot f(x)$，可证明加法封闭性、乘法封闭性和八条运算规律。因而 ${\mathbb F}$ 为实线性空间，称为函数空间， $\R$ 上实值函数可称为函数向量。

2. 理解函数空间的基

如果降低难度，让函数定义在有限可数定义域上（相当于对是实自变量做范围限制和采样，让函数成为一个「采样后图像」），当然就可以像找到有限个函数作为其基，其中每个函数是在对应的采样点上产生一个值为 1 的冲激。

但显然函数空间定义域 $\R$ 是无限的，因而一般需要采取其它的拟合方法，如泰勒展开和傅里叶变换。

3. 多项式基的函数空间

能对函数 $f(x): \R \to \R$ 在 $x=x_0$ 处作泰勒展开的条件：

  1. 任意阶可导：$f(x)$ 在 $(x_0-\epsilon, x_0+\epsilon)$ 范围内有任意阶导数。
  2. 拉格朗日余项趋于 0：$\lim_{n \to \infin} R_n(x) = \lim_{n \to \infin} \frac{(x-x_0)^{n+1} f^{(n+1)} (\xi)}{(n+1)!}$（$\xi$ 介于 $x_0$ 与 $x$ 之间）。

对函数 $f: \R \to \R$ 在 $x=x_0$ 处作泰勒展开的公式：

$$ f(x) = f(x_0) + (x-x_0)f'(x_0) + \frac{(x-x_0)^2}{2!} f''(x_0) + \cdots + \frac{(x-x_0)^n}{n!}f^{(n)}(x_0) $$

因而说 $f(x)$ 能被幂级数拟合。例如，拟合 $\sin$ 和 $\arcsin$ 用的是：

$$ \begin{align*}

\sin x &= x - \frac{x^3}{3!} + \frac{x^5}{5!} - \frac{x^7}{7!} + \cdots + (-1)^n \frac{x^{2n+1}}{(2n+1)!} \\

\arcsin x &= x

\end{align*} $$

总之函数可以被多项式进行拟合，如果用无限维表示，函数的多项式基为 $1, x, x^2, \cdots, x^n, \cdots$，记为 $\boldsymbol p_0, \boldsymbol p_1, \boldsymbol p_2, \cdots, \boldsymbol p_n, \cdots$（多项式基 $P$）。它们线性无关。比如函数 $\sin x$ 及其在基 $P$ 下的坐标：

$$ \sin x \ \leftrightarrow \ (1, 0, -\frac{1}{6}, 0, +\frac{1}{120}, 0, -\frac{1}{5040}, 0, \cdots) $$

可惜此空间中缺乏对正交的描述。如果定义内积为 $(f, g) = \int_{0}^{1} f(x)g(x) {\rm d} x$，上述基并不是相互正交的，用斯密特正交化再标准化，得到的标准正交基是 $1, \ 2\sqrt{3} (x - \frac 12), \ 6\sqrt 5 (x^2 - x + \frac 16), \ \cdots$。

如果定义内积为 $(f, g) = \int_{-1}^{1} f(x)g(x) {\rm d} x$， 一组正交基被称为勒让德多项式：$1, \ x, \ \frac 12 (3 x^2 - 1), \ \frac 12 (5x^3 - 3x), \frac 1 8 (35 x^4 - 30 x^2 + 3) \ \cdots$。

4a. 傅里叶基的函数空间

能对函数 $f(t): \R \to \R$ 作傅里叶展开的条件（狄利克雷条件）：

  1. $f$ 为周期函数，称其周期为 $T$，$\omega_0 = \frac{2\pi}{T}$。
  2. $f$ 在一周期内绝对可积：$-\infin < \int_{t_0}^{t_0 + T} |f(t)| {\rm d}t < +\infin$。
  3. $f$ 在一周期内的间断点（不连续点）应是有限个。
  4. $f$ 在一周期内极大值和极小值应是有限个。