生成对抗网络论文

楼主去了解一下RGAN（RaGAN），该文章具体讲了关于GAN对真实和伪造数据判别的概率违背了先验知识的问题

解决问题： 解决传统 GAN 生成图片质量不高，训练不稳定的问题。

做法： 将传统 GAN 的 交叉熵损失函数 换成 最小二乘损失函数

本篇主要通过GAN对比来学习LSGAN

通过例子介绍：

使用 位于决策边界正确侧 但仍然 远离真实数据的假样本 更新生成器时，交叉熵损失函数将导致梯度消失的问题。 如图 (b)所示，当我们使用 假样本 (品红色)通过使鉴别器相信它们来自真实数据来更新生成器时，它 几乎不会引起错误 ，因为它们在正确的一侧，既决策边界的真实数据面。 然而，这些样本 仍然离真实数据很远 ，我们想把它们拉得接近真实数据。

问题总结：在交叉熵损失函数情况下，判别器判定真实面的假数据距离真实数据较远，效果不足。

基于这一观察，我们提出了最小二乘生成对抗网络，它采用 最小二乘损失函数作为鉴别器 。 最小二乘损失函数能够 将伪样本移向决策边界 ， 因为最小二乘损失函数会 惩罚位于决策边界正确一侧很远的样本 。 如图 (c)所示，最小二乘损失函数将惩罚假样本(品红色)，并 将它们拉向决策边界 ，使它们被正确分类。

基于这一特性，最小二乘能够生成更接近真实数据的样本

总结概括 最小二乘： 最小二乘损失与交叉熵损失相比，优势在于生成样本在欺判别器的前提下同时让生成器把 距离决策边界比较远 的生成图片拉向 决策边界 ，这样保证了生成高质量的样本。

交叉熵： 以交叉熵作为损失，会使得生成器 不会再优化那些被判别器识别为真实图片的生成图片 ，即使这些生成图片距离判别器的决策边界仍然很远，也就是距离真实数据比较远，因为此时的交叉熵损失已经很小，生成器完成了为它设计的目标。

LSGAN的缺陷： 在于它并 没有解决当判别器足够优秀时生成器发生梯度弥散的问题

梯度弥散: 使用反向传播算法传播梯度的时候，随着传播深度的增加， 梯度的幅度会急剧减小，会导致浅层神经元的权重更新非常缓慢 ，不能有效学习。 这样一来，深层模型也就变成了前几层相对固定，只能改变最后几层的浅层模型。

GANs 的损失函数：

LSGANs的损失函数： 最小二乘

公式注释： 鉴别器 D 生成器 G G 的目标是学习数据 x 上的分布 pg。 G 服从均匀或高斯分布 pz(z)对输入变量 z 进行采样开始，然后将输入变量 z 映射到数据空间 G(z； θg)。 D 是分类器 D(x； θd)，其目的是识别图像是来自训练数据还是来自g。 z 为噪音，它可以服从归一化或者高斯分布，为真实数据 x 服从的概率分布，为 z 服从的概率分布。为期望值，同为期望值。

假设我们对鉴别器使用 a-b 编码方案 ，其中a 和b 分别是假数据和真实数据的标签。

c 表示 G 预测的D 相信的假数据的值。

最小二乘法的具体优点： 1.决策边界固定（鉴别器参数固定），生成样本靠近决策边界，更接近真实数据。 2.惩罚远离决策边界的样本时，可以在更新生成器时生成更多的梯度，这反过来缓解了梯度消失的问题（梯度消失：前面隐藏层的学习速率低于后面隐藏层的学习速率，即随着隐藏层数目的增加，分类准确率反而下降）

GAN中：最小化等式 1 产生最小化詹森-香农散度:

LSGAN：探讨LSGAN与f散度的关系

公式解释：（下文关于a-b编码证明a,b,c条件） 将

加入到

并不会改变最佳值，因为并没有引入含有G的参数

从而我们可以推出G固定情况下的最佳鉴别器：

使用 pd 来表示 pdata，来重新表示4式

此处不详细证明 化简为：

如果： b-c = 1， b-a = 2，则

是皮尔逊散度，总之可证，当 a,b,c满足b-c = 1 和 b-a = 2的条件，则最小化等式 4 会使 pd + pg 和 2pg 之间的皮尔逊 χ2 散度最小化。

采用 a-b编码方案：

由上述证明可设a = 1， b = 1， c = 0

采用 0-1二进制编码方案 ：

两式接近，但此处，论文作者采用a-b编码方式，来实现实验：

带上其中一个实验：

参考论文：Mao X D, Li Q, Xie H R, et al. Least squares generative adversarial networks[C]//Proceedings of the 2017 IEEE International Conference on Computer Vision, Venice, Oct 22- 29, 2017. Washington: IEEE Computer Society, 2017: 2813-2821.

...摘要生成式对抗网络GAN（Generative adversarial networks）目前已经成为人工智能学界一个热门的研究方向.GAN的基本思想源自博弈论的二人零和博弈，由一个生成器和一个判别器构成，通过对抗学习的方式来训练.目的是估测数据样本的潜在分布并生成新的数据样本.在图像和视觉计算、语音和语言处理、信息安全、棋类比赛等领域，GAN正在被广泛研究，具有巨大的应用前景.本文概括了GAN的研究进展，并进行展望.在总结了GAN的背景、理论与实现模型、应用领域、优缺点及发展趋势之后，本文还讨论了GAN与平行智能的关系，认为GAN可以深化平行系统的虚实互动、交互一体的理念，特别是计算实验的思想，为ACP（Artificial societies，computational experiments，and parallel execution）理论提供了十分具体和丰富的算法支持.更多出版源《自动化学报》 , 2017 , 43 (3) :321-332

上面这张图很好的很好的阐述了生成式对抗网络的结构~~ 博弈论

此图给出了生成性对抗网络的概述。目前最重要的是要理解GAN是使两个网络协同工作的一种方式 - 而Generator和Discriminator都有自己的架构。为了更好地理解这个想法的来源，我们需要回忆一些基本的代数并问自己 - 我们怎么能欺一个比大多数人更好地分类图像的神经网络？

在我们详细描述GAN之前，让我们看一下类似的主题。给定一个训练有素的分类器，我们可以生成一个欺网络的样本吗？如果我们这样做，它会是什么样子？

事实证明，我们可以。

甚至更多 - 对于几乎任何给定的图像分类器，可以将图像变换为另一个图像，这将被高度置信地错误分类，同时在视觉上与原始图像无法区分！这种过程称为对抗性攻击，生成方法的简单性解释了很多关于GAN的内容。 精心计算的示例中的对抗性示例，其目的是错误分类。以下是此过程的说明。左边的熊猫与右边的熊猫无法区分 - 但它被归类为长臂猿。

图像分类器本质上是高维空间中的复杂决策边界。当然，在对图像进行分类时，我们无法绘制这个边界。但我们可以安全地假设，当训练结束时，网络并不是针对所有图像进行推广的 - 仅针对我们在训练集中的那些图像。这种概括可能不是现实生活的良好近似。换句话说，它适用于我们的数据 - 我们将利用它。

让我们开始为图像添加随机噪声并使其非常接近零。我们可以通过控制噪声的L2范数来实现这一点。数学符号不应该让您担心 - 出于所有实际目的，您可以将L2范数视为向量的长度。这里的诀窍是你在图像中拥有的像素越多 - 它的平均L2范数就越大。因此，如果噪声的范数足够低，您可以预期它在视觉上难以察觉，而损坏的图像将远离矢量空间中的原始图像。

为什么？

好吧，如果HxW图像是矢量，那么我们添加到它的HxW噪声也是矢量。原始图像具有相当密集的各种颜色 - 这增加了L2规范。另一方面，噪声是一组视觉上混乱的相当苍白的像素 - 一个小范数的矢量。最后，我们将它们添加到一起，为损坏的图像获取新的矢量，这与原始图像相对接近 - 但却错误分类！

现在，如果原始类 Dog 的决策边界不是那么远（就L2范数而言），这种加性噪声将新图像置于决策边界之外。

您不需要成为世界级拓扑学家来理解某些类别的流形或决策边界。由于每个图像只是高维空间中的矢量，因此在其上训练的分类器将“所有猴子”定义为“由隐藏参数描述的该高维斑点中的所有图像矢量”。我们将该blob称为该类的决策边界。

好的，所以，你说我们可以通过添加随机噪声轻松欺网络。它与生成新图像有什么关系？

现在我们假设有两个结构模型，相当于两个神经网络：

这是关于判别网络D和生成网络G的价值函数（Value Function），训练网络D使得最大概率地分对训练样本的标签（最大化log D(x)），训练网络G最小化log(1 – D(G(z)))，即最大化D的损失。训练过程中固定一方，更新另一个网络的参数，交替迭代，使得对方的错误最大化，最终，G 能估测出样本数据的分布。生成模型G隐式地定义了一个概率分布Pg，我们希望Pg 收敛到数据真实分布Pdata。论文证明了这个极小化极大博弈当且仅当Pg = Pdata时存在最优解，即达到纳什均衡，此时生成模型G恢复了训练数据的分布，判别模型D的准确率等于50%。

接着上面最后一个问题：怎么才能生成我指定的图像呢？

指定标签去训练

顾名思义就是把标签也带进公式，得到有条件的公式：

具体怎么让CGAN更好的优化，这里不解释，就是平常的优化网络了。

参考文章：

本文大部分翻译此外文

通俗易懂

小博客的总结

唐宇迪大神