GAN

原始GAN中判别器要最小化如下损失函数，尽可能把真实样本分为正例，生成样本分为负例：

其中 P_r 是真实样本分布， P_g 是由生成器产生的样本分布。

第一个式子我们不看梯度符号的话即为判别器的损失函数，logD(xi)为判别器将真实数据判定为真实数据的概率，log(1-D(G(zi)))为判别器将生成器生成的虚假数据判定为真实数据的对立面即将虚假数据仍判定为虚假数据的概率。判别器就相当于警察，在鉴别真伪时，必须要保证鉴别的结果真的就是真的，假的就是假的，所以判别器的总损失即为二者之和，应当最大化该损失。由于判别器（警察）鉴别真伪的能力随着训练次数的增加越来越高，生成器就要与之“对抗”，生成器就要相应地提高“造假”技术，来迷惑判别器。第二个式子为第一个式子的第二项，含义相同，只不过对于生成器应当最小化该项，生成器当然希望辨别器将虚假数据仍判定为虚假数据的概率越低越好，即将虚假数据误判定为真实数据的概率越大越好，即最大化log(D(G(zi)))损失函数。所以二者相互提高或者减小自身的损失，以不断互相对抗。

从公式1可以得到，在生成器G固定参数时最优的判别器D应该是什么。对于一个具体的样本，它可能来自真实分布也可能来自生成分布，它对公式1损失函数的贡献是

令其关于 D(x) 的导数为0，得

$- \frac{P_r(x)}{D(x)} + \frac{P_g(x)}{1 - D(x)} = 0$

化简得最优判别器为：

$D^*(x) = \frac{P_r(x)}{P_r(x) + P_g(x)}$ （公式4）

看一个样本来自真实分布和生成分布的可能性的相对比例。如果 P_r(x) = 0 且 $P_g(x) \neq 0$ ，最优判别器就应该非常自信地给出概率0；如果 P_r(x) = P_g(x) ，说明该样本是真是假的可能性刚好一半一半，此时最优判别器也应该给出概率0.5。

$\mathbb{E}_{x\sim P_g}[\log(1-D(x))]$ （公式2）

GAN训练的问题之一，就是别把判别器训练得太好，否则在实验中生成器会完全学不动（loss降不下去），为了探究背后的原因，我们就可以看看在极端情况——判别器最优时，生成器的损失函数变成什么。给公式2加上一个不依赖于生成器的项，使之变成

$\mathbb{E}_{x\sim P_r}[\log D(x)] + \mathbb{E}_{x\sim P_g}[\log(1-D(x))]$

最小化这个损失函数等价于最小化公式2，而且它刚好是判别器损失函数的相反数。代入最优判别器即公式4，再进行简单的变换可以得到

$\mathbb{E}_{x \sim P_r} \log \frac{P_r(x)}{\frac{1}{2}[P_r(x) + P_g(x)]} + \mathbb{E}_{x \sim P_g} \log \frac{P_g(x)}{\frac{1}{2}[P_r(x) + P_g(x)]} - 2\log 2$ （公式5)

从而可以得到KL散度和JS散度（衡量量两个分布的差异区别）

于是公式5就可以继续写成

$2JS(P_r || P_g) - 2\log 2$ （公式8）

目前得到的结论：根据原始GAN定义的判别器loss，我们可以得到最优判别器的形式；而在最优判别器的下，我们可以把原始GAN定义的生成器loss等价变换为最小化真实分布与生成分布之间的JS散度。我们越训练判别器，它就越接近最优，最小化生成器的loss也就会越近似于最小化和之间的JS散度。

问题就出在这个JS散度上。我们会希望如果两个分布之间越接近它们的JS散度越小，我们通过优化JS散度就能将“拉向”，最终以假乱真。这个希望在两个分布有所重叠的时候是成立的，但是如果两个分布完全没有重叠的部分，或者它们重叠的部分可忽略（下面解释什么叫可忽略），它们的JS散度是多少呢？

答案是 $\log 2$ ，因为对于任意一个x只有四种可能：

P_1(x) = 0 且 P_2(x) = 0

$P_1(x) \neq 0$ 且 $P_2(x) \neq 0$

P_1(x) = 0 且 $P_2(x) \neq 0$

$P_1(x) \neq 0$ 且 P_2(x) = 0

第一种对计算JS散度无贡献，第二种情况由于重叠部分可忽略所以贡献也为0，第三种情况对公式7右边第一个项的贡献是 $\log \frac{P_2}{\frac{1}{2}(P_2 + 0)} = \log 2$ ，第四种情况与之类似，所以最终 $JS(P_1||P_2) = \log 2$ 。

换句话说，无论 P_r 跟 P_g 是远在天边，还是近在眼前，只要它们俩没有一点重叠或者重叠部分可忽略，JS散度就固定是常数 $\log 2$ ，而这对于梯度下降方法意味着——梯度为0！此时对于最优判别器来说，生成器肯定是得不到一丁点梯度信息的；即使对于接近最优的判别器来说，生成器也有很大机会面临梯度消失的问题。

但是 P_r 与 P_g 不重叠或重叠部分可忽略的可能性有多大？不严谨的答案是：非常大。比较严谨的答案是：当与的支撑集（support）是高维空间中的低维流形（manifold）时，与重叠部分测度（measure）为0的概率为1。

支撑集（support）其实就是函数的非零部分子集，比如ReLU函数的支撑集就是 $(0, +\infty)$ ，一个概率分布的支撑集就是所有概率密度非零部分的集合。
流形（manifold）是高维空间中曲线、曲面概念的拓广，我们可以在低维上直观理解这个概念，比如我们说三维空间中的一个曲面是一个二维流形，因为它的本质维度（intrinsic dimension）只有2，一个点在这个二维流形上移动只有两个方向的*度。同理，三维空间或者二维空间中的一条曲线都是一个一维流形。
测度（measure）是高维空间中长度、面积、体积概念的拓广，可以理解为“超体积”。

在（近似）最优判别器下，最小化生成器的loss等价于最小化与之间的JS散度，而由于与几乎不可能有不可忽略的重叠，所以无论它们相距多远JS散度都是常数 $\log 2$ ，最终导致生成器的梯度（近似）为0，梯度消失。

首先，与之间几乎不可能有不可忽略的重叠，所以无论它们之间的“缝隙”多狭小，都肯定存在一个最优分割曲面把它们隔开，最多就是在那些可忽略的重叠处隔不开而已。
由于判别器作为一个神经网络可以无限拟合这个分隔曲面，所以存在一个最优判别器，对几乎所有真实样本给出概率1，对几乎所有生成样本给出概率0，而那些隔不开的部分就是难以被最优判别器分类的样本，但是它们的测度为0，可忽略。
最优判别器在真实分布和生成分布的支撑集上给出的概率都是常数（1和0），导致生成器的loss梯度为0，梯度消失。

有了这些理论分析，原始GAN不稳定的原因就彻底清楚了：判别器训练得太好，生成器梯度消失，生成器loss降不下去；判别器训练得不好，生成器梯度不准，四处乱跑。只有判别器训练得不好不坏才行，但是这个火候又很难把握，甚至在同一轮训练的前后不同阶段这个火候都可能不一样，所以GAN才那么难训练。

WGAN

引入Wasserstein距离

希望建立一个平滑的，处处可导的cost function。在图中，蓝色为真实分布，绿色为生成数据的分布。红色为discriminator的cost function，我们发现虽然discriminator有效的区分了两个分布，但是当蓝绿两个分布没有交集时，在大量的点上的cost function为常数值，梯度为0，generator 不能更新了。这时看一下wasserstein 距离，它体现为那个草绿色的线，它平滑，可导这就是我们要寻找的cost function。

数学定义如下：

$W(P_r, P_g) = \inf_{\gamma \sim \Pi (P_r, P_g)} \mathbb{E}_{(x, y) \sim \gamma} [||x - y||]$ （公式12）

解释如下： $\Pi (P_r, P_g)$ 是 P_r 和 P_g 组合起来的所有可能的联合分布的集合，反过来说， $\Pi (P_r, P_g)$ 中每一个分布的边缘分布都是 P_r 和 P_g 。对于每一个可能的联合分布 $\gamma$ 而言，可以从中采样 $(x, y) \sim \gamma$ 得到一个真实样本和一个生成样本，并算出这对样本的距离 ||x-y|| ，所以可以计算该联合分布 $\gamma$ 下样本对距离的期望值 $\mathbb{E}_{(x, y) \sim \gamma} [||x - y||]$ 。在所有可能的联合分布中能够对这个期望值取到的下界 $\inf_{\gamma \sim \Pi (P_r, P_g)} \mathbb{E}_{(x, y) \sim \gamma} [||x - y||]$ ，就定义为Wasserstein距离。

Wasserstein距离相比KL散度、JS散度的优越性在于，即便两个分布没有重叠，Wasserstein距离仍然能够反映它们的远近。

但是

因为Wasserstein距离定义（公式12）中的 $\inf_{\gamma \sim \Pi (P_r, P_g)}$ 没法直接求解，不过没关系，作者用了一个已有的定理把它变换为如下形式

$W(P_r, P_g) = \frac{1}{K} \sup_{||f||_L \leq K} \mathbb{E}_{x \sim P_r} [f(x)] - \mathbb{E}_{x \sim P_g} [f(x)]$ （公式13）

Lipschitz连续。它其实就是在一个连续函数上面额外施加了一个限制，的导函数绝对值不超过。限制了一个连续函数的最大局部变动幅度。

公式13的意思就是在要求函数的Lipschitz常数 ||f||_L 不超过的条件下，对所有可能满足条件的取到 $\mathbb{E}_{x \sim P_r} [f(x)] - \mathbb{E}_{x \sim P_g} [f(x)]$ 的上界，然后再除以。特别地，我们可以用一组参数来定义一系列可能的函数 f_w ，此时求解公式13可以近似变成求解如下形式

$K \cdot W(P_r, P_g) \approx \max_{w: |f_w|_L \leq K} \mathbb{E}_{x \sim P_r} [f_w(x)] - \mathbb{E}_{x \sim P_g} [f_w(x)]$ （公式14）

再用上我们搞深度学习的人最熟悉的那一套，不就可以把用一个带参数的神经网络来表示嘛！由于神经网络的拟合能力足够强大，我们有理由相信，这样定义出来的一系列 f_w 虽然无法囊括所有可能，但是也足以高度近似公式13要求的那个 $sup_{||f||_L \leq K}$ 了。

最后，还不能忘了满足公式14中 $||f_w||_L \leq K$ 这个限制。我们其实不关心具体的K是多少，只要它不是正无穷就行，因为它只是会使得梯度变大倍，并不会影响梯度的方向。所以作者采取了一个非常简单的做法，就是限制神经网络 $f_\theta$ 的所有参数 w_i 的不超过某个范围 [-c, c] ，比如 $w_i \in [- 0.01, 0.01]$ ，此时关于输入样本的导数 $\frac{\partial f_w}{\partial x}$ 也不会超过某个范围，所以一定存在某个不知道的常数使得 f_w 的局部变动幅度不会超过它，Lipschitz连续条件得以满足。具体在算法实现中，只需要每次更新完后把它clip回这个范围就可以了。