深度学习电子书

内容提要

编委会

序一拥抱万亿智能互联未来

序二

前言

01 绪论

1.1 机器学习与深度学习

1.2 机器学习方法类型

1.3 机器学习常见算法

1.4 深度学习的前世今生

1.5 深度学习的应用

1.6 深度学习开源工具简介

1.6.1 TensorFlow

1.6.2 PyTorch

1.6.3 CNTK

1.6.4 Keras

1.6.5 MXNet

1.6.6 Caffe

1.6.7 OpenAI Gym

1.7 本书主要学习内容

1.8 本章小结

1.9 习题

02 神经网络与深度神经网络

2.1 神经元与感知器

2.1.1 生物神经元与神经元模型

2.1.2 感知器

2.2 反向传播算法

2.2.1 前馈计算

2.2.2 反向传播

2.3 神经网络的连接

2.3.1 前馈神经网络

2.3.2 反馈神经网络

2.3.3 全局逼近网络和局部逼近网络

2.3.4 自组织特征映射网络

2.3.5 自适应共振理论ART模型

2.4 深度神经网络与深度学习

2.5 常用的函数模型

2.5.1 激活函数

2.5.2 损失函数

2.6 本章小结

2.7 习题

03 卷神经网络积

3.1 大脑视觉皮层的信息分层处理机制

3.2 感受野与权值共享

3.3 卷积神经网络的层级结构和组成

3.3.1 卷积层

3.3.2 池化层

3.3.3 全连接层

3.4 卷积神经网络算法

3.4.1 算法的训练

3.4.2 LeNet-5模型

3.5 网络的卷积层设计

3.5.1 跨步卷积（Stride Convolution）

3.5.2 零填充（Zero Padding）

3.5.3 非共享卷积（Unshared Convolution）

3.5.4 平铺卷积（Tiled Convolution）

3.6 CNN的经典网络结构

3.6.1 AlexNet

3.6.2 VGGNet

3.6.3 GoogLeNet

3.6.4 ResNet

3.6.5 DenseNet

3.7 CNN用于人脸表情分类

3.7.1 图像的预处理

3.7.2 用于分类的CNN网络设计

3.7.3 实验结果

3.8 本章小结

3.9 习题

04 循神经环网络

4.1 循环神经网络

4.1.1 循环神经元展开

4.1.2 随时间反向传播算法

4.1.3 梯度消失和梯度爆炸

4.2 长短期记忆网络

4.2.1 输入门、遗忘门和输出门

4.2.2 LSTM模型

4.2.3 LSTM的计算

4.3 循环神经网络设计

4.3.1 双向循环网络

4.3.2 深度循环神经网络

4.3.3 LSTM的变体

4.4 循环神经网络的应用

4.5 基于RNN的语言模型

4.6 本章小结

4.7 习题

05 目测标检

5.1 基于候选区域的目标检测算法

5.1.1 R-CNN算法

5.1.2 SPP-NET算法

5.1.3 Fast R-CNN算法

5.1.4 Faster R-CNN算法

5.1.5 Mask R-CNN算法

5.2 基于回归预测的目标检测算法

5.2.1 SSD算法

5.2.2 YOLO算法

5.2.3 YOLOv2算法

5.2.4 YOLOv3算法

5.3 目标检测算法发展趋势

5.4 人体行为检测

5.4.1 网络超参数的选择

5.4.2 模型的训练

5.4.3 模型测试

5.5 本章小结

5.6 习题

06 图描像述

6.1 图像描述方法

6.1.1 模板方法与检索方法

6.1.2 编码-解码结构方法

6.2 编码-解码图像描述

6.2.1 编码-解码结构原理

6.2.2 编码-解码结构的图像描述模型

6.3 注意力机制图像描述方法

6.3.1 注意力机制原理

6.3.2 注意力机制在图像描述中的应用

6.4 图像描述示例

6.4.1 图像描述的数据集

6.4.2 生成图像描述

6.4.3 图像描述代码解析

6.5 图像描述应用前景

6.5.1 图像检索

6.5.2 人机交互

6.5.3 智能监控

6.6 本章小结

6.7 习题

07 生抗成对网络

7.1 生成式模型

7.1.1 一个极具挑战的机器学习问题

7.1.2 生成式模型分类

7.2 生成对抗网络基本原理

7.2.1 GAN的思想与基本形式

7.2.2 GAN的优势与问题

7.3 生成式对抗网络的设计

7.3.1 条件生成式对抗网络

7.3.2 拉普拉斯金字塔生成式对抗网络

7.3.3 深度卷积生成式对抗网络

7.3.4 Wasserstein GAN

7.4 GAN的应用

7.4.1 计算机视觉领域

7.4.2 语言和语音领域

7.4.3 半监督领域

7.5 基于DCGAN的手写数字生成实例

7.6 本章小结

7.7 习题

08 深度移习迁学

8.1 迁移学习

8.1.1 迁移学习的分类

8.1.2 迁移学习的形式化定义

8.1.3 度量准则——距离和相似度

8.2 深度网络的可迁移性

8.3 深度网络的适配

8.3.1 核心思想——数据分布自适应

8.3.2 DDC方法

8.3.3 DAN方法

8.4 迁移学习的应用

8.5 VGG迁移——识别花朵类型

8.6 本章小结

8.7 习题

09 深度化习学强

9.1 强化学习

9.1.1 奖励驱动行为思想

9.1.2 强化学习的基本框架

9.1.3 强化学习算法

9.2 深度强化学习的突破与问题

9.3 DRL算法——深度Q网络

9.4 深度Q网络的变体

9.4.1 深度双Q网络

9.4.2 深度循环Q网络

9.4.3 基于优先级回放的深度Q网络

9.4.4 异步多步深度Q网络

9.4.5 彩虹深度Q网络

9.5 深度强化学习的应用

9.5.1 机器人控制

9.5.2 计算机视觉

9.5.3 自然语言处理

9.5.4 博弈论领域

9.6 本章小结

9.7 习题

附录1 CNN用于人脸表情分类

附录2 基于DCGAN的手写数字生成实例

附录3 VGG迁移——识别花朵类型

附录4 深度学习资源

参考文献