梯度流是个什么玩意儿

Posted 2022-01-21 陆嵩

梯度流是个什么玩意儿

举个最最最最简单的例子。

考虑一个经典的极小化问题：
$$\underset{\mathbf{x}}{\min }f(\mathbf{x})$$
其中 $\mathrm{x}\in {\mathbb{R}}^n,f:{\mathbb{R}}^n\to \mathbb{R}$ 是一个二次可微的函数。${\mathrm{x}}^{\ast }$ 是上述问题的解的必要条件是
$$\nabla f\left({\mathrm{x}}^{\ast }\right)=0$$
其中 $\nabla$ 表示梯度。上述公式是一个具有 $n$ 个末知量和 $n$ 个方程的非线性系统.。求解该系统的一个熟知的方法是梯度流方法，即求解如下常微分方程：
$$\frac{\mathrm{d}\mathbf{x}(t)}{\mathrm{d}t}=-\nabla f(\mathbf{x}),\mathbf{x}(0)={\mathbf{x}}_0$$
当该方程达到稳态解，即
$$\frac{\mathrm{d}\mathbf{x}(t)}{\mathrm{d}t}=0$$
便得到
$$\nabla f\left({\mathbf{x}}^{\ast }\right)=0$$
对于一个关于 $\mathrm{x}:\Omega \to {\mathbb{R}}^n$ Fréchet 可微的能量泛函 $E(\mathrm{x})$，它在度量 $g$ 下的梯 度 ${\nabla }_{g}E(x)$ 由下式确定
$${⟨{\nabla }_{g}E(\mathbf{x}),\varphi ⟩}_g=\delta (E(\mathbf{x}),\varphi ),\forall \varphi \in C_0^{\infty }\left(\Omega ;{\mathbb{R}}^n\right)$$
其中 $\delta (E(\mathrm{x}),\varphi ):={\frac{\mathrm{d}E(\mathrm{x}+\epsilon \varphi )}{\mathrm{d}\epsilon }|}_{\epsilon =0}$ 是能量泛函 $E(\mathrm{x})$ 的一阶变分。对于同一个能量泛函，选取不同的度量 $g$ 将会得到不同的梯度流。如果选取 $L^2$ 意义下的内积作为 度量， 则有
$${⟨{\nabla }_{L^2}E(\mathrm{x}),\varphi ⟩}_{L^2}=\delta (E(\mathrm{x}),\varphi )$$
从而得到 $L^2$ 梯度流
$$\frac{\partial \mathbf{x}}{\partial t}=-{\nabla }_{L^2}E(\mathbf{x})$$
或弱形式的 $L^2$ 梯度流
$$⟨\frac{\partial \mathbf{x}}{\partial t},\varphi ⟩=-{⟨{\nabla }_{L^2}E(\mathbf{x}),\varphi ⟩}_{L^2},\forall \varphi \in C_0^{\infty }\left(\Omega ;{\mathbb{R}}^n\right).$$

参考文献¹

梯度流就是这么简单，就这玩意儿，我上了一学期讨论班。哭……

---

1. Ambrosio L, Gigli N, Savaré G. Gradient flows: in metric spaces and in the space of probability measures[M]. Springer Science & Business Media, 2008. ↩︎