数据标注工程——概念、方法、工具与案例

本书是人工智能技术应用核心课程系列教材之一，通过对人工智能数据标注的概念、方法、工具与案例的系统介绍，结合对图像、视频、语音、文本和3D点云等类别数据的具体标注案例的分析与操作，使初学者可以快速掌握数据标注的基础知识和常用方法，使从业者在提升数据标注技术水平的同时，掌握工程化数据标注的项目组织、管理和质量控制的技术与方法。本书适合作为高校人工智能相关专业的教材，也可供人工智能、机器学习与深度学习爱好者阅读，还可作为人工智能改造升级项目的规划与实施者、人工智能数据服务从业者以及数据标注技术工程管理人员阅读和参考。 

数据标注实用教程

本书以数据标注岗位需求为导向，由高校教师和多家一线数据标注企业的工程师联合编写。本书系统介绍了数据标注的发展、分类、规范及常用的数据标注工具的使用方法。本书对初学者了解数据标注行业的操作规范及未来数据标注人才培养要求起到积极的作用。本书内容从实际数据标注工作出发，采用“项目引导、实战驱动”的理念编写。

本书可作为大学本科和高职高专院校大数据技术与应用专业相关课程的配套教材，也可作为各类计算机培训机构的培训教材或相关爱好者的自学教材。

数据标注工程——概念、方法、工具与案例

第1章 人工智能概述 1 

1.1 人工智能发展概况 1
1.1.1 人工智能的发展历程 1
1.1.2 人工智能的影响力 3
1.1.3 人工智能的国际竞争 5
1.2 人工智能的典型技术 7
1.2.1 人工智能技术的分类 7
1.2.2 语音合成 10
1.2.3 语音识别 11
1.2.4 自然语言处理 12
1.2.5 图像识别 13
1.2.6 3D点云 13
1.2.7 多模态数据处理 14
1.3 人工智能是新一代信息技术的核心 15
1.3.1 5G与人工智能的关系 16
1.3.2 云计算与人工智能的关系 16
1.3.3 大数据与人工智能的关系 17
1.3.4 物联网与人工智能的关系 18
1.4 本章小结 18
1.5 作业与练习 19
第2章 数据标注的概念、工具与方法 20
2.1 数据标注的概念及其对人工智能发展的意义 20
2.1.1 全球数据的快速增长催生大数据产业 20
2.1.2 数据产业推动人工智能应用技术的发展 21
2.1.3 数据标注对于人工智能应用的意义 21
2.2 数据标注对象 22
2.2.1 数据集 22
2.2.2 语音数据集 24
2.2.3 图像数据集 25
2.2.4 文本数据集 26
2.2.5 视频数据集 27
2.3 数据标注工具与平台 28
2.3.1 语音数据标注工具 28
2.3.2 图像数据标注工具 30
2.3.3 视频数据标注工具 31
2.3.4 文本数据标注工具 33
2.3.5 3D点云标注工具 34
2.4 典型数据标注技术 35
2.4.1 语音转写技术 35
2.4.2 人脸检测和关键点检测 36
2.4.3 图像分割 36
2.4.4 视频类标注 37
2.5 数据标注工程 37
2.5.1 数据采集 37
2.5.2 数据处理 40
2.5.3 数据标注 42
2.5.4 数据质检 46
2.5.5 数据交付 46
2.5.6 数据验收 47
2.6 本章小结 47
2.7 作业与练习 48
第3章 图像数据标注 49
3.1 图像数据标注简介 49
3.1.1 图像数据标注的目的与发展 49
3.1.2 图像数据标注规范 50
3.1.3 场景分类型图像数据标注 52
3.1.4 图像数据标注形式分类 52
3.1.5 图像任务和数据标注的关系 55
3.1.6 图像数据标注的术语 56
3.2 关键点标注方法 56
3.2.1 关键点标注项目的应用及发展前景 56
3.2.2 关键点的标注内容 57
3.2.3 标注数据结果格式 58
3.2.4 关键点标注工具简介 59
3.2.5 关键点标注案例分析 61
3.2.6 关键点标注难点及分析 63
3.3 标注框标注方法 63
3.3.1 框标注适合的场景 63
3.3.2 框标注工具简介 65
3.3.3 标注方案及案例分析 67
3.3.4 标注框标注难点及分析 69
3.4 图像区域标注方法 69
3.4.1 图像区域标注适合的场景 69
3.4.2 图像区域标注工具简介 70
3.4.3 标注方案及案例分析 72
3.4.4 图像区域标注难点及分析 74
3.5 本章小结 74
3.6 作业与练习 74
第4章 视频数据标注 76
4.1 视频数据标注简介 76
4.1.1 视频数据标注的意义 76
4.1.2 视频数据标注任务 77
4.1.3 视频源数据管理 77
4.2 视频数据标注工具 78
4.2.1 视频数据标注工具简介 78
4.2.2 视频数据标注流程 80
4.2.3 典型视频数据标注方法 83
4.3 视频数据标注案例解析 85
4.3.1 矩形框标注案例—人体追踪属性标注 85
4.3.2 矩形框标注案例—车辆标注 86
4.3.3 矩形框标注案例—商场监控视频数据标注 88
4.4.4 视频帧标注案例—足球视频数据标注 92
4.5 本章小结 94
4.6 作业与练习 95
第5章 语音数据标注 96
5.1 语音数据标注简介 96
5.1.1 语音数据标注相关背景 96
5.1.2 语音信号基础知识 97
5.2 语音数据标注概述 99
5.2.1 标注任务分类 99
5.2.2 常见语音数据异常 100
5.2.3 基本标注规范 102
5.3 典型开源语音数据标注工具 104
5.3.1 Praat语音学软件 104
5.3.2 语音数据标注平台 105
5.4 语音数据标注整体流程 110
5.4.1 项目背景与意义 110
5.4.2 语音项目整体规程 110
5.4.3 语音数据标注过程详情 111
5.5 多样化语音数据标注项目 115
5.5.1 智能家居儿童语音数据标注 115
5.5.2 智能音箱语音数据标注 117
5.5.3 智能客服语音拼音标注 119
5.5.4 演讲语音数据标注 120
5.6 本章小结 122
5.7 作业与练习 122
第6章 文本数据标注 123
6.1 文本数据标注简介 123
6.1.1 文本数据标注的发展与研究现状 123
6.1.2 基本概念 124
6.1.3 流程介绍 127
6.1.4 交付格式 127
6.1.5 应用场景 127
6.2 文本数据标注工具 129
6.2.1 开源文本数据标注工具 129
6.2.2 专业文本数据标注工具及其标注场景 132
6.2.3 优秀的标注工具应具备的条件 142
6.3 序列标注方法举例 142
6.3.1 外卖成分识别标注案例 142
6.3.2 单品推广文案标注案例 144
6.3.3 多音字关键词提取标注案例 145
6.4 关系标注方法举例—中文阅读理解分析案例 147
6.5 属性标注方法案例 148
6.5.1 语音文本判别标注案例 148
6.5.2 文本情感分析判别标注案例 150
6.6 本章小结 152
6.7 作业与练习 152
第7章 3D点云标注 153
7.1 3D点云标注简介 153
7.1.1 点云的获取方法 154
7.1.2 3D点云应用 156
7.1.3 3D点云的存储方式及数据类型 158
7.1.4 3D点云典型数据集 159
7.2 3D点云标注工具 160
7.2.1 3D点云标注工具的主要功能 161
7.2.2 界面布局和操作 161
7.2.3 标注输出格式 164
7.3 3D点云标注项目 164
7.3.1 项目背景 164
7.3.2 自动驾驶3D点云标注规范 164
7.3.3 3D点云标注流程 166
7.4 本章小结 169
7.5 作业与练习 169
第8章 工程化数据标注的组织管理 171
8.1 数据标注项目实施流程 171
8.1.1 数据标注项目 171
8.1.2 一般项目实施流程 173
8.1.3 数据标注项目实施流程 174
8.2 数据标注团队组织架构 176
8.2.1 数据标注团队组织类型 176
8.2.2 数据标注团队组织架构 177
8.3 数据标注团队角色分工 179
8.3.1 数据标注团队角色分工之一 179
8.3.2 数据标注团队角色分工之二 181
8.3.3 数据标注团队角色分工总览 182
8.4 数据标注团队沟通和建设 184
8.4.1 项目相关方管理 184
8.4.2 数据标注团队沟通 186
8.4.3 数据标注团队建设 188
8.4.4 数据标注员培训 189
8.5 国外数据产品生产组织方式案例 191
8.5.1 ***机械特克平台 191
8.5.2 澳鹏平台 192
8.6 本章小结 193
8.7 作业与练习 193
第9章 工程化数据标注的质量控制 194
9.1 质量控制 194
9.1.1 质量控制流程 194
9.1.2 控制流程细则 196
9.1.3 质量监控 198
9.1.4 质量检验方法 199
9.2 质量标准 200
9.2.1 语音数据标注 200
9.2.2 图像数据标注 202
9.2.3 文本数据标注 203
9.3 质检与验收 204
9.3.1 质检流程 204
9.3.2 验收原则 205
9.3.3 验收报告 205
9.4 质量总结 209
9.5 数据质检与验收案例 210
9.5.1 人脸68点标注质检案例 210
9.5.2 客服语音数据标注质检案例 214
9.5.3 3～5岁中国儿童朗读文本数据标注质检案例 215
9.6 本章小结 216
9.7 作业与练习 216
第10章 工程化数据标注的进度管理 217
10.1 项目进度管理的定义和实践 217
10.1.1 物理架构 217
10.1.2 项目进度管理的实践 218
10.2 项目活动分解排序和估算时间 221
10.2.1 定义活动 221
10.2.2 排列活动顺序 222
10.2.3 估算活动持续时间 224
10.3 制订项目进度计划 225
10.3.1 制订项目进度计划的常用技术 225
10.3.2 数据标注项目进度计划实例 228
10.4 监控进度计划实施 230
10.4.1 监控进度计划实施的流程 230
10.4.2 监控进度计划实施的时机和方法 231
10.4.3 数据标注项目进度监控实例 233
10.5 本章小结 236
10.6 作业与练习 236
第11章 工程化数据标注的系统平台 238
11.1 数据标注系统概述 238
11.1.1 典型数据标注平台系统架构 239
11.1.2 典型标注工具 240
11.2 数据标注平台实例介绍 246
11.2.1 数加加Pro标注平台的适用范围 246
11.2.2 数加加Pro标注平台的产品特性 246
11.2.3 数加加Pro标注平台的产品架构 247
11.2.4 数加加Pro标注平台的产品优势 248
11.3 本章小结 250
11.4 作业与练习 250
第12章 数据标注的发展趋势 251
12.1 人工智能总体发展趋势 251
12.1.1 主要国家和地区高度重视AI发展 251
12.1.2 有监督学习仍是人工智能的主流 252
12.2 人工智能数据发展趋势 254
12.2.1 人工智能数据需求 254
12.2.2 人工智能数据市场规模 258
12.2.3 人工智能数据需求特点 259
12.3 数据标注发展趋势 259
12.3.1 定制化精细化发展 259
12.3.2 高度自动化发展 260
12.3.3 智能化流程化发展 262
12.3.4 重视安全与隐私保护 263
12.4 本章小结 264
12.5 作业与练习 264
附录A 典型数据产品介绍 266
附录B 开源数据集介绍与获取 269
附录C 人工智能的网络学习资源 273
附录D 人工智能的产业生态与技术图谱 276
参考文献 280

数据标注实用教程

1.1  数据标注发展简史 1

1.1.1  数据标注行业的发展 1

1.1.2  国内数据标注行业的发展现状 5

1.2  数据标注定义及分类 6

1.2.1  数据标注的定义 6

1.2.2  数据标注的工作特点 7

1.2.3  数据标注的基本流程 7

1.2.4  数据标注的分类 8

1.3  数据标注的应用领域 9

1.4  数据标注行业的运行模式 10

1.4.1  数据标注的特点 10

1.4.2  数据标注在人工智能中的地位 11

1.4.3  数据标注的运行模式 11

1.5  数据标注行业未来发展趋势及挑战 12

1.5.1  数据标注行业竞争加剧 12

1.5.2  政策的有力支持 12

1.5.3  面临的问题和挑战 13

1.5.4  数据标注行业的前景与发展 15

习题 15

第2章  数据的来龙去脉 16

2.1  认识数据 16

2.1.1  数和数据的区别 16

2.1.2  通信中数据的分类 16

2.1.3  计算机中数据的编码 17

2.1.4  数据文件 17

2.2  数据采集 17

2.2.1  数据采集渠道 18

2.2.2  数据采集的注意事项 19

2.2.3  标注数据的采集案例 19

2.2.4  数据质量 21

2.3  Python安装与爬虫采集数据案例 21

2.3.1  Python安装与环境配置 21

2.3.2  网络爬虫采集数据案例 25

2.4  数据预处理 28

2.4.1  数据清洗 28

2.4.2  数据集成 35

2.4.3  数据归约 36

2.4.4  数据变换 38

2.4.5  数据预处理案例 38

2.5  标注数据 42

2.5.1  标注数据的用途 42

2.5.2  使用标注数据训练算法的流程 43

2.6  数据分析与应用 47

2.6.1  数据分析方法 47

2.6.2  数据可视化 48

2.6.3  数据分析与可视化案例 51

习题 58

第3章  数据标注基础知识 60

3.1  计算机中数据的存储方式 60

3.1.1  文件名 60

3.1.2  数据标注类型 61

3.1.3  文件的存储方式 63

3.2  数据的编码方式 63

3.2.1  字符编码方式 64

3.2.2  二进制编码方式 68

3.2.3  字符编码方式和二进制编码方式的比较 70

3.3  数据标注必须了解的知识 70

3.3.1  文本标注需要掌握的基础知识 70

3.3.2  文本标注需要注意的问题 74

3.3.3  常用的文本处理工具 75

3.3.4  语音标注需要掌握的基础知识 78

3.3.5  常用的语音处理工具 81

3.3.6  图像标注需要掌握的基础知识 84

3.3.7  常用的图像处理工具 88

3.3.8  视频标注需要掌握的基础知识 90

3.3.9  常用的视频处理工具 94

3.4  常用的数据标注工具 97

3.4.1  labelImg图像标注工具 97

3.4.2  labelme图像标注工具 99

3.4.3  支持多种类型的精灵标注助手 101

3.4.4  其他标注工具介绍 104

3.5  常见的数据标注结果文件格式 106

3.5.1  CSV文件格式 106

3.5.2  XML文件格式 107

3.5.3  JSON文件格式 110

3.5.4  数据标注的辅助工具 111

习题 113

第4章  数据标注员的职业素养 115

4.1  数据标注团队的管理 115

4.1.1  数据标注团队的基础架构 115

4.1.2  数据标注团队的培训体系 117

4.1.3  数据标注团队的管理 119

4.2  数据标注规则的重要性 120

4.2.1  数据标注规则 120

4.2.2  数据标注规则的特点 121

4.2.3  数据标注规则需要双方沟通 125

4.2.4  数据标注规则需要数据标注员不断学习 125

4.3  数据标注的质检 126

4.3.1  数据标注质检的重要性 126

4.3.2  常用的数据标注标准分类 127

4.4  数据标注员需要具备的职业素养 129

4.4.1  数据标注员的职业素养 130

4.4.2  持续的学习力是数据标注工作的基础 131

4.4.3  细心是做好数据标注工作的保障 132

4.4.4  有耐心才能坚持工作在数据标注行业 132

4.4.5  拥有责任心才能换位思考做好数据标注工作 132

4.4.6  较强专注力可提高工作效率 133

4.4.7  团队协作是一个数据标注团队生存的保障 133

4.4.8  良好的沟通表达力能更为有效地进行数据标注工作 133

4.5  数据标注所需职业素养的培养 134

4.5.1  学习力的培养 134

4.5.2  细心的培养 135

4.5.3  耐心的培养 135

4.5.4  责任心的培养 136

4.5.5  专注力的培养 137

4.5.6  团队合作锻炼 138

4.5.7  锻炼沟通表达能力 139

习题 140

第5章  数据标注实战 143

5.1  如何成为合格的数据标注员 143

5.1.1  实战一　团队拓展小游戏 144

5.1.2  实战二　熟悉数据标注规则 145

5.2  文本标注 149

5.2.1  实战三　文本实体标注 150

5.2.2  实战四　文本分类标注 152

5.3  语音标注 153

5.3.1  实战五　语音数据转写标注 154

5.3.2  实战六　语音数据情绪标注 157

5.4  图像标注 159

5.4.1  实战七　人脸拉框图像标注 160

5.4.2  实战八　人体框图像标注 161

5.4.3  实战九　手势图像标注 164

5.4.4  实战十　人脸精确打点标注 167

5.4.5  实战十一　道路场景语义分割标注 171

5.4.6  实战十二　OCR转写标注 174

附录A  Python语法简介 176

附录B  Anaconda安装 180

附录C  labelImg安装 184

附录D  labelme安装 187

参考文献 191

聂明，男，1964年生人，中员，博士，三级教授， 现任南京信息职业技术学院人工智能学院（筹）院长，是全国工信和信息化职业教育教学指导委员会计算机专指委委员、江苏省"333工程”中青年学术带头人、江苏省"六大人才高峰”高层次人才培养对象。编著出版过《移动增值应用开发导论》、《Java Web应用开发项目教程》、《VC++程序设计技能教程与实训》和《计算机应用技术导论》等多本专著和教材。