人工神经网络理论与应用 第10章 生成式对抗网络
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
• 一个生成式对抗网络模型至少包含一个判别器和一个生成
3
器。其中 ，判别器是指对已经观测到的数据x与未观测到 的数据y之间的关系进行建模，就是对条件概率
建模。而深度学习的主要研究成果基本都属于判别器模型， 特别是反向传播算法和Dropout算法的出现，使判别器的 研究得到飞速发展。
• 生成器的全称为概率生成器，是一种用于随机生成可观测 数据的模型。相比于判别器 ，会涉及最大似然估计、近百度文库似法等复杂计算，所以生成器的发展较慢，直到生成式对 抗网络的出现，才使生成器得到了广泛应用和发展。
7
• 当GAN输入一个噪声变量z，网络首先将噪声z在生成器G 的多层感知器或者神经网络当中映射到，得到一个新的数 据G(z)，然后把真实数据x和生成的数据G(z)送入判别器D 当中。判别器D会根据实际输入的数据x与生成的数据G(z) 进行判别，从而输出判别真假的概率值。假如判别器的输 出和设定的答案方向不相同，即实际的输入概率值趋近于 0，生成数据的概率趋近于100%，则可以反映出生别器的 准确度很高。
2
使两个团队不断改进他们的方法，直到假冒伪劣品与真品 无法区分。该算法是对抗训练机制进行训练，并使用随机 梯度下降法实现极值搜索。由于不需分辨下限也不需近 似推断，所以避免了传统上反复应用马尔可夫链学习机制 带来的配分函数计算问题，提高了网络效率。
• 生成式对抗网络的核心思想是博弈论中的二元论和博弈， 而这种博弈思想最早起源于 奥地利小说家斯蒂芬•茨威格 1941年写的小说《象棋的故事》中。被囚禁在纳粹集中营 中小说的主人公意外得到一本国际象棋棋谱，他用牢房里 的面包做成了国际象棋，然后自己与自己下棋，经过一盘 盘的左右手互相博弈之后，他的下棋水平有了很大的提高， 最后 他轻松地击败了当时的世界象棋冠军。
6
10.2生成式对抗网络的结构
•一个 GAN主要包括一个生成器G 和一个判别器D ，其结 构如10-1所示。其中 ，生成器 G是一个生成图片的网络 ， 它接收一个随机的噪声z，并通过这个噪声生成图片 G(z)； 判别器 D是一个判别网络，用来判别一张图片是不是“真 实的”。它的输入参数是真实数据 x ，输出D (x )代表 x 为 真实图片的概率，如果为1，就代表100 %是真实的图片， 而输出为 0 , 就代表不可能是真实的图片，即为假的图片。
8
9
10.3生成式对抗网络算法
•为了了解生成器G 对数据x上的分布pg第一 ，这里定义一
个先验输入噪声变量 pz(z ) ，数据空间的映射为
。
其中 ，生成器 G 是由具有参数 的多层感 知器表示的微
分函数。第二个是输出单个标量的多层知器
•从人工智能角度看，GAN使用神经网络来指导神经网络 ， 思想非常奇特。仿佛两个武术初学者，从零基础开始，互 相对决、相互讨论、共同进步，最后一同达到武学顶峰的 励志故事。这不仅是机器学习想达到的理想结果，也是人 类想要达到的最终结果。
5
• 另外 ，研究者为了提高GAN的性能，目前已经提出了D CGAN 、 SGAN 、 InfoGAN 、 CGAN 、 AC-GAN 等 多 种 GAN改进版本，并且在计算机视觉、语音 、图像处理等 领域得到了广泛的关注和应用。美国《麻省理工科技评论》 评选的2018年“全球十大突破性技术”中，生成式对抗网 络与人工智能、人造胚胎、传感城市、量子材料、3D 金 属打印等热门技 术榜上有名。
• 在GAN 训练过程中，生成器 G的目标就是用生成的真实 的图片去欺骗判别器D ，而判别器D的目标就是尽量把生 成器G生成的图片和真实的图片分别开来。这样，生成器
7
G和判别器D 就形成了一个动态的“对抗或博弈”过程 ， 对抗原理如图 10-2所示 。 •具体来说，生成式对抗网络学习的过程就是生成器G 和判 别器 D 的极大极小博弈的过程。判别器 D 是为了更准确地 区分G (z)和 x，并且识别出生成数据和真实数据，把判别 后的输出概率二分化，就是让判别器输出的真实数据D (x ) 的概率尽可能最大，而判别器输出的生成数据D (G (z ))的 概率尽可能最小。生成器 G 的作用就是使自己生成的数据 尽 可能与真实数据一致，让判别器 D 无法区分。因此判别 模型和生成模型的性能在它们互相竞 争 、互相对抗的过程 中不断提高，最理想的结果就是D (G (z ))与真实数据的表 现D (x )相同 ，此时G和D到最优。
人工神经网络及应用
主讲人： 单 位：
第10章 生成式对抗网络
1
10.1 概述
• 在人工神经网络中建模的好坏会直接影响生成式模型的性 能，但是对实际案例进行建 模时需要大量先验知识。另 外，由于实际数据非常复杂，模型建立所需计算量也非常 大， 因此对计算资源和硬件的要求也很高。
• 针对这些问题，2014年10月蒙特利尔大学的Goodfellow 等人提出了一种基于生成式 的对抗网络—— 生成式对抗 网络（Generative Adversarial Networks，GAN)。在提出 的对 抗性网络框架中，网络的工作机理类似于一队试图 制造假币和使用它而不想被发现的造假者之间的对抗和博 弈。生成模型类似于试图制造假币的一队，而判别模型类 似于警察，试图检测这些假币，用于判断和确定样本是来 自生成模型还是真实数据。在这个游戏中的对抗竞争促
• 目前，GAN最主要的应用是图像生成和数据增强，就是 通过对真实数据建模然后生 成与真实图像、数据分布一 样的样本。同时，GAN还可以用于图像和视频的生成， 如图像修复、图像的超分辨率、人脸图像编辑、图像上色
4
等。图像的修复已经研究很多年了，一直都达不到理想的 效果，直到GAN的出现，才可以用缺失部分周边元素的图 像作为训练对象 ，生成完整的图像，并经过判别器对真实 图片和生成图片进行判别，达到最理想的效果。也可将原 本分辨率较低的模糊图片经过一系列GAN的变换生成一张 高分辨率的清晰图像。另外，GAN与目前研究较热的强化 学习、模仿学习等技术巧妙结合，从而可以有力地推动人 工智能的发展。
3
器。其中 ，判别器是指对已经观测到的数据x与未观测到 的数据y之间的关系进行建模，就是对条件概率
建模。而深度学习的主要研究成果基本都属于判别器模型， 特别是反向传播算法和Dropout算法的出现，使判别器的 研究得到飞速发展。
• 生成器的全称为概率生成器，是一种用于随机生成可观测 数据的模型。相比于判别器 ，会涉及最大似然估计、近百度文库似法等复杂计算，所以生成器的发展较慢，直到生成式对 抗网络的出现，才使生成器得到了广泛应用和发展。
7
• 当GAN输入一个噪声变量z，网络首先将噪声z在生成器G 的多层感知器或者神经网络当中映射到，得到一个新的数 据G(z)，然后把真实数据x和生成的数据G(z)送入判别器D 当中。判别器D会根据实际输入的数据x与生成的数据G(z) 进行判别，从而输出判别真假的概率值。假如判别器的输 出和设定的答案方向不相同，即实际的输入概率值趋近于 0，生成数据的概率趋近于100%，则可以反映出生别器的 准确度很高。
2
使两个团队不断改进他们的方法，直到假冒伪劣品与真品 无法区分。该算法是对抗训练机制进行训练，并使用随机 梯度下降法实现极值搜索。由于不需分辨下限也不需近 似推断，所以避免了传统上反复应用马尔可夫链学习机制 带来的配分函数计算问题，提高了网络效率。
• 生成式对抗网络的核心思想是博弈论中的二元论和博弈， 而这种博弈思想最早起源于 奥地利小说家斯蒂芬•茨威格 1941年写的小说《象棋的故事》中。被囚禁在纳粹集中营 中小说的主人公意外得到一本国际象棋棋谱，他用牢房里 的面包做成了国际象棋，然后自己与自己下棋，经过一盘 盘的左右手互相博弈之后，他的下棋水平有了很大的提高， 最后 他轻松地击败了当时的世界象棋冠军。
6
10.2生成式对抗网络的结构
•一个 GAN主要包括一个生成器G 和一个判别器D ，其结 构如10-1所示。其中 ，生成器 G是一个生成图片的网络 ， 它接收一个随机的噪声z，并通过这个噪声生成图片 G(z)； 判别器 D是一个判别网络，用来判别一张图片是不是“真 实的”。它的输入参数是真实数据 x ，输出D (x )代表 x 为 真实图片的概率，如果为1，就代表100 %是真实的图片， 而输出为 0 , 就代表不可能是真实的图片，即为假的图片。
8
9
10.3生成式对抗网络算法
•为了了解生成器G 对数据x上的分布pg第一 ，这里定义一
个先验输入噪声变量 pz(z ) ，数据空间的映射为
。
其中 ，生成器 G 是由具有参数 的多层感 知器表示的微
分函数。第二个是输出单个标量的多层知器
•从人工智能角度看，GAN使用神经网络来指导神经网络 ， 思想非常奇特。仿佛两个武术初学者，从零基础开始，互 相对决、相互讨论、共同进步，最后一同达到武学顶峰的 励志故事。这不仅是机器学习想达到的理想结果，也是人 类想要达到的最终结果。
5
• 另外 ，研究者为了提高GAN的性能，目前已经提出了D CGAN 、 SGAN 、 InfoGAN 、 CGAN 、 AC-GAN 等 多 种 GAN改进版本，并且在计算机视觉、语音 、图像处理等 领域得到了广泛的关注和应用。美国《麻省理工科技评论》 评选的2018年“全球十大突破性技术”中，生成式对抗网 络与人工智能、人造胚胎、传感城市、量子材料、3D 金 属打印等热门技 术榜上有名。
• 在GAN 训练过程中，生成器 G的目标就是用生成的真实 的图片去欺骗判别器D ，而判别器D的目标就是尽量把生 成器G生成的图片和真实的图片分别开来。这样，生成器
7
G和判别器D 就形成了一个动态的“对抗或博弈”过程 ， 对抗原理如图 10-2所示 。 •具体来说，生成式对抗网络学习的过程就是生成器G 和判 别器 D 的极大极小博弈的过程。判别器 D 是为了更准确地 区分G (z)和 x，并且识别出生成数据和真实数据，把判别 后的输出概率二分化，就是让判别器输出的真实数据D (x ) 的概率尽可能最大，而判别器输出的生成数据D (G (z ))的 概率尽可能最小。生成器 G 的作用就是使自己生成的数据 尽 可能与真实数据一致，让判别器 D 无法区分。因此判别 模型和生成模型的性能在它们互相竞 争 、互相对抗的过程 中不断提高，最理想的结果就是D (G (z ))与真实数据的表 现D (x )相同 ，此时G和D到最优。
人工神经网络及应用
主讲人： 单 位：
第10章 生成式对抗网络
1
10.1 概述
• 在人工神经网络中建模的好坏会直接影响生成式模型的性 能，但是对实际案例进行建 模时需要大量先验知识。另 外，由于实际数据非常复杂，模型建立所需计算量也非常 大， 因此对计算资源和硬件的要求也很高。
• 针对这些问题，2014年10月蒙特利尔大学的Goodfellow 等人提出了一种基于生成式 的对抗网络—— 生成式对抗 网络（Generative Adversarial Networks，GAN)。在提出 的对 抗性网络框架中，网络的工作机理类似于一队试图 制造假币和使用它而不想被发现的造假者之间的对抗和博 弈。生成模型类似于试图制造假币的一队，而判别模型类 似于警察，试图检测这些假币，用于判断和确定样本是来 自生成模型还是真实数据。在这个游戏中的对抗竞争促
• 目前，GAN最主要的应用是图像生成和数据增强，就是 通过对真实数据建模然后生 成与真实图像、数据分布一 样的样本。同时，GAN还可以用于图像和视频的生成， 如图像修复、图像的超分辨率、人脸图像编辑、图像上色
4
等。图像的修复已经研究很多年了，一直都达不到理想的 效果，直到GAN的出现，才可以用缺失部分周边元素的图 像作为训练对象 ，生成完整的图像，并经过判别器对真实 图片和生成图片进行判别，达到最理想的效果。也可将原 本分辨率较低的模糊图片经过一系列GAN的变换生成一张 高分辨率的清晰图像。另外，GAN与目前研究较热的强化 学习、模仿学习等技术巧妙结合，从而可以有力地推动人 工智能的发展。