Doi技术团队

这个专栏是深度学习框架 PaddlePaddle Fluid 版本的教程，开发环境主要是 PaddlePaddle 1.6.0 和 Python 3.5。内容涉及了 PaddlePaddle 的安装，并从简单执行 1+1 运算例子入门 PaddlePaddle，借助各个实例一步步入手 PaddlePaddle，通过本系列教程你可以学到如何使用 PaddlePaddle 搭建卷积神经网络，循环神经网络，并能够训练自定义数据集，最后还可以部署到自己的实际项目中。

这个专栏是深度学习框架 PaddlePaddle V2 版本的教程，开发环境主要是 PaddlePaddle 0.11.0 和 Python 2.7。内容涉及了 PaddlePaddle 的安装，并从手写数据集识别入手，借助实例一步步入手 PaddlePaddle，通过实例掌握 PaddlePaddle 的使用，从零进入人工智能领域。

在深度学习中，我们经常会使用到 sigmoid 函数作为我们的激活函数，特别是在二分类上，sigmoid 函数是比较好的一个选择，以下就是 sigmoid 函数的公式：

现在越来越多的手机要使用到深度学习了，比如一些图像分类，目标检测，风格迁移等等，之前都是把数据提交给服务器完成的。但是提交给服务器有几点不好，首先是速度问题，图片上传到服务器需要时间，客户端接收结果也需要时间，这一来回就占用了一大半的时间，会使得整体的预测

如果读者使用过百度等的一些图像识别的接口，比如百度的细粒度图像识别接口，应该了解这个过程，省略其他的安全方面的考虑。这个接口大体的流程是，我们把图像上传到百度的网站上，然后服务器把这些图像转换成功矢量数据，最后就是拿这些数据传给深度学习的预测接口，比如是

我们在第六章介绍了生成对抗网络，并使用生成对抗网络训练 mnist 数据集，生成手写数字图片。那么本章我们将使用对抗生成网络训练我们自己的图片数据集，并生成图片。在第六章中我们使用的黑白的单通道图片，在这一章中，我们使用的是 3 通道的彩色图。

我们在第五章学习了循环神经网络，在第五章中我们使用循环神经网络实现了一个文本分类的模型，不过使用的数据集是 PaddlePaddle 自带的一个数据集，我们并没有了解到 PaddlePaddle 是如何使用读取文本数据集的，那么本章我们就来学习一下如何使用 PaddlePaddle 训练自己的文本数据集。我

本章将介绍如何使用 PaddlePaddle 训练自己的图片数据集，在之前的图像数据集中，我们都是使用 PaddlePaddle 自带的数据集，本章我们就来学习如何让 PaddlePaddle 训练我们自己的图片数据集。

VisualDL 是一个面向深度学习任务设计的可视化工具，包含了 scalar、参数分布、模型结构、图像可视化等功能。可以这样说：“所见即所得”。我们可以借助 VisualDL 来观察我们训练的情况，方便我们对训练的模型进行分析，改善模型的收敛情况。

在深度学习训练中，例如图像识别训练，每次从零开始训练都要消耗大量的时间和资源。而且当数据集比较少时，模型也难以拟合的情况。基于这种情况下，就出现了迁移学习，通过使用已经训练好的模型来初始化即将训练的网络，可以加快模型的收敛速度，而且还能提高模型的准确率。这

本系列教程中，前面介绍的都没有保存模型，训练之后也就结束了。那么本章就介绍如果在训练过程中保存模型，用于之后预测或者恢复训练，又或者由于其他数据集的预训练模型。本章会介绍三种保存模型和使用模型的方式。

本章介绍使用 PaddlePaddle 实现强化学习，通过自我学习，完成一个经典控制类的游戏，相关游戏介绍可以在 Gym 官网上了解。我们这次玩的是一个 CartPole-v1 游戏，操作就是通过控制滑块的左右移动，不让竖着的

我们上一章使用 MNIST 数据集进行训练，获得一个可以分类手写字体的模型。如果我们数据集的数量不够，不足于让模型收敛，最直接的是增加数据集。但是我们收集数据并进行标注是非常消耗时间了，而最近非常火的生成对抗网络就非常方便我们数据的收集。对抗生成网络可以根据之前的

除了卷积神经网络，深度学习中还有循环神经网络也是很常用的，循环神经网络更常用于自然语言处理任务上。我们在这一章中，我们就来学习如何使用 PaddlePaddle 来实现一个循环神经网络，并使用该网络完成情感分析的模型训练。

上一章我们通过学习线性回归例子入门了深度学习，同时也熟悉了 PaddlePaddle 的使用方式，那么我们在本章学习更有趣的知识点卷积神经网络。深度学习之所以那么流行，很大程度上是得益于它在计算机视觉上得到非常好的效果，而在深度学习上几乎是使用卷积神经网络来提取图像的特征

在第二章，我们已经学习了如何使用 PaddlePaddle 来进行加法计算，从这个小小的例子中，我们掌握了 PaddlePaddle 的使用方式。在本章中，我们将介绍使用 PaddlePaddle 完成一个深度学习非常常见的入门例子——线性回归，我们将分别使用自定义数据集和使用 PaddlePaddle 提供的数据集接口来训练一个线性回归模型。

在第一章介绍了 PaddlePaddle 的安装，接下来我们将介绍如何使用 PaddlePaddle。PaddlePaddle 是百度在 2016 年 9 月 27 日开源的一个深度学习框架，也是目前国内唯一一个开源的深度学习框架。PaddlePaddle 在 0.11.0 版本之后，开始推出 Fluid 版本，Fluid 版本相对之前的 V2 版本，Fluid 的代码结构

这一章我们介绍如何安装新版本的 PaddlePaddle，这里说的新版本主要是说 Fluid 版本。Fluid 是设计用来让用户像 Pytorch 和 Tensorflow Eager Execution 一样执行程序。在这些系统中，不再有模型这个概念，应用也不再包含一个用于描述 Operator 图或者一系列层的符号描述，而是像通用程

问题：计算每层网络结构和输入输出尺寸和参数个数。不加 BN？更深？每层的尺寸变化？更多结构？

• 代表一组数据在分布上的集中趋势和总体上的平均水平。
• 常说的中心化（Zero-Centered）或者零均值化（Mean-subtraction），就是把每个数值都减去均值。