目录

《图解机器学习》

目录

第I部分　绪　论

第 1章　什么是机器学习 2

1.1　学习的种类　　2

1.2　机器学习任务的例子　　4

1.3　机器学习的方法　　8

第 2章　学习模型 12

2.1　线性模型　　12

2.2　核模型　　15

2.3　层级模型　　17

第II部分　有监督回归

第3章　**小二乘学习法 22

3.1　**小二乘学习法　　22

3.2　**小二乘解的性质　　25

3.3　大规模数据的学习算法　　27

第4章带有约束条件的**小二乘法 31

4.1　部分空间约束的**小二乘学习法　　31

4.2　ｌ2 约束的**小二乘学习法　　33

4.3　模型选择　　37

第5章　稀疏学习 43

5.1　ｌ1 约束的**小二乘学习法　　43

5.2　ｌ1 约束的**小二乘学习的求解方法　　45

5.3　通过稀疏学习进行特征选择　　50

5.4　ｌp约束的**小二乘学习法　　51

5.5　ｌ1+ｌ2 约束的**小二乘学习法　　52

第6章　鲁棒学习 55

6.1　ｌ1 损失**小化学习　　56

6.2　Huber损失**小化学习　　58

6.3　图基损失**小化学习　　63

6.4　ｌ1 约束的Huber损失**小化学习　　65

第III部分　有监督分类

第7章　基于**小二乘法的分类 70

7.1　**小二乘分类　　70

7.2　0/1 损失和间隔　　73

7.3　多类别的情形　　76

第8章　支持向量机分类 80

8.1　间隔**大化分类　　80

8.2　支持向量机分类器的求解方法　　83

8.3　稀疏性　　86

8.4　使用核映射的非线性模型　　88

8.5　使用Hinge损失**小化学习来解释　　90

8.6　使用Ramp损失的鲁棒学习　　93

第9章　集成分类 98

9.1　剪枝分类　　98

9.2　Bagging学习法　　101

9.3　Boosting 学习法　　105

第 10章　概率分类法 112

10.1　Logistic回归　　112

10.2　**小二乘概率分类　　116

第 11 章序列数据的分类 121

11.1　序列数据的模型化　　122

11.2　条件随机场模型的学习　　125

11.3　利用条件随机场模型对标签序列进行预测　　128

第IV部分　无监督学习

第 12章　异常检测 132

12.1　局部异常因子　　132

12.2　支持向量机异常检测　　135

12.3　基于密度比的异常检测　　137

第 13章　无监督降维 143

13.1　线性降维的原理　　144

13.2　主成分分析　　146

13.3　局部保持投影　　148

13.4　核函数主成分分析　　152

13.5　拉普拉斯特征映射　　155

第 14章　聚类 158

14.1　K均值聚类　　158

14.2　核K均值聚类　　160

14.3　谱聚类　　161

14.4　调整参数的自动选取　　163

第V部分　新兴机器学习算法

第 15章　在线学习 170

15.1　被动攻击学习　　170

15.2　适应正则化学习　　176

第 16章　半监督学习 181

16.1　灵活应用输入数据的流形构造　　182

16.2　拉普拉斯正则化**小二乘学习的求解方法　　183

16.3　拉普拉斯正则化的解释　　186

第 17章　监督降维 188

17.1　与分类问题相对应的判别分析　　188

17.2　充分降维　　195

第 18章　迁移学习 197

18.1　协变量移位下的迁移学习　　197

18.2　类别平衡变化下的迁移学习　　204

第 19章　多任务学习 212

19.1　使用**小二乘回归的多任务学习　　212

19.2　使用**小二乘概率分类器的多任务学习　　215

19.3　多次维输出函数的学习　　216

第VI部分　结 语

第 20章　总结与展望 222

参考文献　　225

《图解深度学习》

第 1章　绪论 

1.1　深度学习与机器学习　2

1.2　深度学习的发展历程　3

1.3　为什么是深度学习　6

1.4　什么是深度学习　7

1.5　本书结构　9

第　2章 神经网络

2.1　神经网络的历史　12

2.2　M-P模型　14

2.3　感知器　16

2.4　多层感知器　18

2.5　误差反向传播算法　19

2.6　误差函数和激活函数　28

2.7　似然函数　30

2.8　随机梯度下降法　31

2.9　学习率　32

2.10　小结　33

第3章　卷积神经网络

3.1　卷积神经网络的结构　36

3.2　卷积层　38

3.3　池化层　39

3.4　全连接层　40

3.5　输出层　41

3.6　神经网络的训练方法　41

3.7　小结　48

第4章　受限玻尔兹曼机

4.1　Hopfield 神经网络　50

4.2　玻尔兹曼机　55

4.3　受限玻尔兹曼机　59

4.4　对比散度算法　61

4.5　深度信念网络　64

4.6　小结　66

第5章　自编码器

5.1　自编码器　68

5.2　降噪自编码器　71

5.3　稀疏自编码器　73

5.4　栈式自编码器　76

5.5　在预训练中的应用　77

5.6　小结　78

第6章　提高泛化能力的方法

6.1　训练样本　80

6.2　预处理　88

6.3　激活函数　92

6.4　Dropout　94

6.5　DropConnect　96

6.6　小结　98

第7章　深度学习工具

7.1　深度学习开发环境　100

7.2　Theano　100

7.3　Pylearn2　108

7.4　Caffe　118

7.5　训练系统——DIGITS137

7.6　Chainer　145

7.7　TensorFlow　160

7.8　小结　176

第8章　深度学习的现在和未来

8.1　深度学习的应用案例178

8.2　深度学习的未来　195

8.3　小结　197

参考文献　198

《图解机器学习》

　　杉山将，1974年生于大阪。东京工业大学计算机工程学博士毕业，现为东京大学教授、日本国立信息学研究所客座教授。主要从事机器学习的理论研究和算法开发，

以及在信号和图像处理等方面的应用。2011年获日本信息处理学会长尾真纪念特别奖。著有《统计机器学习》、DensityRatioEstimationinMachineLearning等。同时也

是PatternRecognitionandMachineLearning日文版的译者之一。

　　许永伟，2009年赴东京大学攻读博士学位，现于东京大学空间信息科学研究所从事博士后研究（特任研究员）。主要研究方向为模式识别与机器学习、图像处理与计算

机视觉，对数据挖掘、大数据和信息架构有浓厚兴趣。

《图解深度学习》

山下隆义（作者）

1978年出生于日本神户，2002年修完博士前期课程，并于当年入职欧姆龙股份有限公司，主要从事快速人脸图像检测相关的软件研究和开发。2011年在日本中部大学研究

生院工学研究科修完博士后期课程，获得工学博士学位。2014年开始担任中部大学工学院信息工程系讲师。目前从事动画处理、模式识别和机器学习相关的研究。曾多次荣

获日本深度学习研究相关奖项，并在多个相关研讨会上担任讲师。

张弥（译者）

毕业于大连外国语大学日本语学院。现就职于某日本大型跨国公司，从事技术翻译工作，具有丰富的软件开发和医学翻译经验。喜欢挑战新事物，乐于学习新知识和接触新

领域。