欧式空间:定义了内积运算的实线性空间称为欧式空间(实内积空间),其具有几何度量性质。
酉空间:定义了内积运算的复线性空间称为酉空间(复内积空间)。
在实线性空间 $V$ 中,给出一种操作 $(\boldsymbol \alpha, \boldsymbol \beta)$,如果对于任意 $\boldsymbol \alpha, \boldsymbol \beta \in V$,总有唯一的实数与之对应,而且满足:
对称性:$\forall \ \boldsymbol \alpha, \boldsymbol \beta \in V, \ (\boldsymbol \alpha, \boldsymbol \beta) = (\boldsymbol \beta, \boldsymbol \alpha)$。
复线性空间中,定义对称性为 $\forall \ \boldsymbol u, \boldsymbol v \in V, \ (\boldsymbol u, \boldsymbol v) = \overline {(\boldsymbol v, \boldsymbol u)}$。
线性不变性:
正定性:
那么称 $(\boldsymbol \alpha, \boldsymbol \beta)$ 为一种内积运算(内积运算不是唯一的)。$V$ 即为在此内积定义下的欧式空间。
例如:
$\R^n$ 的标准内积为 $(\boldsymbol \alpha, \boldsymbol \beta) = \boldsymbol \alpha^{\rm T} \boldsymbol \beta = \boldsymbol \beta^{\rm T} \boldsymbol \alpha = \sum_{i=1}^{N} \alpha_i \beta_i$。
${\mathbb C}^n$ 的标准内积为 $(\boldsymbol u, \boldsymbol v) = \boldsymbol v^{\rm H} \boldsymbol u = \boldsymbol u^{\rm T} \overline{\boldsymbol v} = \sum_{i=1}^{N} u_i \overline{v_i}$,其中 $\boldsymbol v^{\rm H} = (\overline{\boldsymbol v})^{\rm T}$(注意写成带 ${\rm H}$ 的形式时 $\boldsymbol v$ 在前面!!!)。结果也一定是个实数。
- 请留意对于 $z \in {\mathbb C}$ 有 $| z |^2 = z {\overline z}$,因而 $(\boldsymbol u, \boldsymbol u) = \boldsymbol u^{\rm H} \boldsymbol u = \sum_{i=1}^{N} u_i \overline{u_i}$。
- 后面也会留意到,一些在实数域被定义为 $x^2$(尤其是期望其拥有正定性时)的东西,比如内积,在复数中会被写作 $z {\overline z}$(就是因为它才是 $| z |^2$,$z^2$ 则可能是负数,如 $j^2$)。
$\R^n$ 中,对于任意 $n$ 阶正定矩阵 $\boldsymbol A$,$(\boldsymbol \alpha, \boldsymbol \beta) = \boldsymbol \alpha^{\rm T} \boldsymbol A\boldsymbol \beta$ 也是一种内积运算。
$\R^{n \times m}$ 中,$(\boldsymbol A, \boldsymbol B) = {\rm tr (}\boldsymbol A^{\rm T} \boldsymbol B)$ 为一种内积运算。
$\R^n[x]$ 中,$(P[x], Q[x]) = \int_{-1}^{1} P[x]Q[x] {\rm d} x$ 为一种内积运算。
$(k \boldsymbol \alpha + l \boldsymbol \beta, \boldsymbol \gamma) = k (\boldsymbol \alpha, \boldsymbol \gamma)+ l (\boldsymbol \beta, \boldsymbol \gamma)$。
酉空间下的版本是:$\left( \sum_{i=1}^K k_i \boldsymbol u_i, \ \sum_{j=1}^L l_j \boldsymbol v_j \right) = \sum_{i=1}^K \sum_{j=1}^L \left( k_i \overline{l_j} (\boldsymbol u_i, \boldsymbol v_j) \right)$。
也就是说,在欧式空间中 $(\boldsymbol x, k \boldsymbol y) = k(\boldsymbol x, \boldsymbol y)$,但在酉空间中 $(\boldsymbol x, k \boldsymbol y) = \overline k(\boldsymbol x, \boldsymbol y)$。
$(\boldsymbol x , \boldsymbol 0) = 0$。
柯西-施瓦茨(Cauchy-Schwarz)定理:$(\boldsymbol x, \boldsymbol y)^2 \le (\boldsymbol x, \boldsymbol x)(\boldsymbol y, \boldsymbol y)$,当且仅当 $\boldsymbol x$ 与 $\boldsymbol y$ 线性相关时成立。【可以先知道自内积是模长的平方,就也表达为 $|(\boldsymbol x, \boldsymbol y)| \le \| \boldsymbol x \| \| \boldsymbol y \|$】。
证明
$(\boldsymbol x + t \boldsymbol y, \boldsymbol x + t \boldsymbol y)= t^2(\boldsymbol y, \boldsymbol y) + 2t (\boldsymbol x, \boldsymbol y) + (\boldsymbol x, \boldsymbol x) \ge 0$
$\Rightarrow \ \Delta = (2(\boldsymbol x, \boldsymbol y))^2 - 4 (\boldsymbol x, \boldsymbol x)(\boldsymbol y, \boldsymbol y) \ge 0$
$\Rightarrow \ (\boldsymbol x, \boldsymbol y)^2 \ge (\boldsymbol x, \boldsymbol x)(\boldsymbol y, \boldsymbol y)$。
等号成立的充要条件,根据内积的正定性得知为 $\boldsymbol x + t \boldsymbol y=0$ 即 $\boldsymbol x$ 与 $\boldsymbol y$ 线性相关。
柯西-施瓦茨定理在酉空间中表达为 $(\boldsymbol u, \boldsymbol v)(\boldsymbol v, \boldsymbol u) \le (\boldsymbol u, \boldsymbol u)(\boldsymbol v, \boldsymbol v)$。
一般在酉空间中,类似 $(\boldsymbol \alpha, \boldsymbol \beta)^2$ 的概念被延伸为 $(\boldsymbol u, \boldsymbol v)(\boldsymbol v, \boldsymbol u)$(也即 $| (\boldsymbol u, \boldsymbol v) |^2$)。
此定理可以在 $\R^n$ 和 $C[a, b]$ 的欧式空间中推导出著名公式:
$$ \left| \sum_{i=1}^n x_i y_i \right| \le \sqrt{\sum_{i=1}^n x_i^2} \sqrt{\sum_{i=1}^n y_i^2}
\\
\left| \int_a^b f(x)g(x) {\rm d} x \right| \le \sqrt{\int_a^b f^2(x) {\rm d} x} \sqrt{\int_a^b g^2(x) {\rm d} x} $$
$n$ 维欧式空间 $V$ 中确定了一组基 $\Phi$,作:
$$ \boldsymbol M = \begin{bmatrix}
(\boldsymbol \phi_1, \boldsymbol \phi_1) & (\boldsymbol \phi_1, \boldsymbol \phi_2) & \cdots & (\boldsymbol \phi_1, \boldsymbol \phi_n) \\
(\boldsymbol \phi_2, \boldsymbol \phi_1) & (\boldsymbol \phi_2, \boldsymbol \phi_2) & \cdots & (\boldsymbol \phi_2, \boldsymbol \phi_n) \\
\vdots & \vdots & \ddots & \vdots \\
(\boldsymbol \phi_n, \boldsymbol \phi_1) & (\boldsymbol \phi_n, \boldsymbol \phi_2) & \cdots & (\boldsymbol \phi_n, \boldsymbol \phi_n) \\
\end{bmatrix} $$
称 $\boldsymbol M$ 为欧式空间 $V$ 在基 $\Phi$ 下的度量矩阵(格拉姆矩阵)。它一定是对称正定矩阵。
度量矩阵拥有如下性质(证略):
$$ (\boldsymbol \alpha, \boldsymbol \beta) \leftrightarrow \boldsymbol x^{\rm T} \boldsymbol M \boldsymbol y $$
转移表达:假设在基 $\Phi, \Psi$ 下度量矩阵分别为 $\boldsymbol M, \boldsymbol N$,过渡矩阵为 $\boldsymbol P$,则
$$ \boldsymbol N = \boldsymbol P^{\rm T} \boldsymbol M \boldsymbol P $$
因而说,不同基下的度量矩阵一定是合同的。
i. 模长的定义:定义了内积之后即有模长的定义:
$$ \| \boldsymbol \alpha \| = \sqrt{(\boldsymbol \alpha, \boldsymbol \alpha)} $$
酉空间中的模长仍定义为 $\| \boldsymbol \alpha \| = \sqrt{(\boldsymbol \alpha, \boldsymbol \alpha)}$。