基本信息

商品名称：	神经机器翻译	开本：	16开
作者：	(德)菲利普·科恩|责编:王春华//孙榕舒|译者:张家俊//赵阳//宗成庆	页数：
定价：	139	出版时间：	2022-03-01
ISBN号：	9787111701019	印刷时间：	2022-03-01
出版社：	机械工业	版次：	1
商品类型：	图书	印次：	1

作者简介： 内容提要：本书介绍了机器翻译和评估的挑战——包括历史、语言和应用环境，然后提出了用于自然语言应用的核心深度学习方法。内含Python代码示例，为读者提供理解和实现自己的机器翻译系统的实际蓝图。本书还提供了广泛的机器学习技巧，涉及的问题包括处理各种形式的数据、模型的增强、当前的挑战以及方法分析和可视化。本书包含机器翻译领域的前沿研究，适用于该领域的本科和研究生，以及对神经方法在 广泛的人类语言处理领域的其他应用感兴趣的研究人员，也可以作为开发人员的重要参考。

......

目录：作者寄语<br/>译者序<br/>前言<br/>阅读指南<br/> 部分　绪论<br/>第1章　翻译问题 2<br/>1.1　翻译的目标 2<br/>1.2　歧义性 4<br/>1.2.1　词汇翻译问题 4<br/>1.2.2　短语翻译问题 4<br/>1.2.3　句法翻译问题 5<br/>1.2.4　语义翻译问题 5<br/>1.3　语言学观点 6<br/>1.4　数据视角 9<br/>1.4.1　忠实度 9<br/>1.4.2　流畅度 10<br/>1.4.3　齐普夫定律 11<br/>1.5　实际问题 13<br/>1.5.1　公开的数据 13<br/>1.5.2　评测活动 13<br/>1.5.3　工具集 14<br/>第2章　机器翻译的应用 15<br/>2.1　信息获取 15<br/>2.2　人工辅助翻译 16<br/>2.3　交流 18<br/>2.4　自然语言处理的管道式系统 21<br/>2.5　多模态机器翻译 21<br/>第3章　历史回顾 23<br/>3.1　神经网络 24<br/>3.1.1　生物学启发 24<br/>3.1.2　感知器学习 25<br/>3.1.3　多层网络 25<br/>3.1.4　深度学习 26<br/>3.2　机器翻译 27<br/>3.2.1　密码破译 27<br/>3.2.2　ALPAC报告与后续影响 27<br/>3.2.3　 商用系统 28<br/>3.2.4　基于中间语言的翻译系统 28<br/>3.2.5　数据驱动的方法 28<br/>3.2.6　开源的研发环境 29<br/>3.2.7　深入用户 30<br/>3.2.8　神经翻译的兴起 30<br/>第4章　评价方法 32<br/>4.1　基于任务的评价 32<br/>4.1.1　真实世界的任务 33<br/>4.1.2　内容理解 33<br/>4.1.3　译员翻译效率 34<br/>4.2　人工评价 35<br/>4.2.1　忠实度和流畅度 35<br/>4.2.2　排序 37<br/>4.2.3　连续分数 38<br/>4.2.4　众包评价 40<br/>4.2.5　人工译文编辑率 41<br/>4.3　自动评价指标 41<br/>4.3.1　BLEU 42<br/>4.3.2　同义词和形态变体 43<br/>4.3.3　TER 44<br/>4.3.4　characTER 45<br/>4.3.5　自举重采样 45<br/>4.4　指标研究 47<br/>4.4.1　关于评价的争论 47<br/>4.4.2　对评价指标的评价 48<br/>4.4.3　自动评价指标缺点的相关证据 49<br/>4.4.4　新的评价指标 50<br/>第二部分　基础<br/>第5章　神经网络 54<br/>5.1　线性模型 54<br/>5.2　多层网络 55<br/>5.3　非线性模型 56<br/>5.4　推断 57<br/>5.5　反向传播训练 59<br/>5.5.1　输出节点权重 60<br/>5.5.2　隐藏层节点权重 61<br/>5.5.3　公式总结 63<br/>5.5.4　权重 新示例 63<br/>5.5.5　验证集 64<br/>5.6　探索并行处理 65<br/>5.6.1　向量和矩阵运算 65<br/>5.6.2　小批量训练 65<br/>5.7　动手实践：使用Python实现神经网络 66<br/>5.7.1　Numpy库中的数据结构和函数 66<br/>5.7.2　前向计算 67<br/>5.7.3　反向计算 67<br/>5.7.4　链式法则的重复使用 68<br/>5.8　扩展阅读 71<br/>第6章　计算图 72<br/>6.1　用计算图描述神经网络 72<br/>6.2　梯度计算 73<br/>6.3　动手实践：深度学习框架 77<br/>6.3.1　利用PyTorch实现前向和反向计算 77<br/>6.3.2　循环训练 79<br/>6.3.3　批训练 80<br/>6.3.4　优化器 81<br/>第7章　神经语言模型 83<br/>7.1　前馈神经语言模型 83<br/>7.1.1　表征单词 84<br/>7.1.2　神经网络架构 85<br/>7.1.3　训练 86<br/>7.2　词嵌入 86<br/>7.3　噪声对比估计 88<br/>7.4　循环神经语言模型 89<br/>7.5　长短时记忆模型 91<br/>7.6　门控循环单元 93<br/>7.7　深度模型 94<br/>7.8　动手实践：PyTorch中的神经语言模型 96<br/>7.8.1　循环神经网络 96<br/>7.8.2　文本处理 97<br/>7.8.3　循环训练 98<br/>7.8.4　建议 99<br/>7.9　扩展阅读 100<br/>第8章　神经翻译模型 101<br/>8.1　编码器–解码器方法 101<br/>8.2　添加对齐模型 102<br/>8.2.1　编码器 102<br/>8.2.2　解码器 103<br/>8.2.3　注意力机制 104<br/>8.3　训练 106<br/>8.4　深度模型 108<br/>8.4.1　解码器 108<br/>8.4.2　编码器 109<br/>8.5　动手实践：利用PyTorch实现神经翻译模型 110<br/>8.5.1　编码器 111<br/>8.5.2　解码器 111<br/>8.5.3　训练 113<br/>8.6　扩展阅读 115<br/>第9章　解码 116<br/>9.1　柱搜索 116<br/>9.2　集成解码 119<br/>9.2.1　生成候选系统 120<br/>9.2.2　融合系统输出 120<br/>9.3　重排序 121<br/>9.3.1　利用从右到左解码的重排序 121<br/>9.3.2　利用反向模型的重排序 122<br/>9.3.3　增加n-best列表的多样性 122<br/>9.3.4　评分组件的权重学习 123<br/>9.4　优化解码 126<br/>9.5　约束解码 127<br/>9.5.1　XML模式 127<br/>9.5.2　网格搜索 127<br/>9.5.3　强制注意力 128<br/>9.5.4　评价 129<br/>9.6　动手实践：Python中的解码 129<br/>9.6.1　假设 129<br/>9.6.2　柱空间 129<br/>9.6.3　搜索 131<br/>9.6.4　输出 译文 132<br/>9.7　扩展阅读 133<br/>第三部分　提高<br/> 0章　机器学习技巧 138<br/>10.1　机器学习中的问题 138<br/>10.2　确保随机性 140<br/>10.2.1　打乱训练数据 141<br/>10.2.2　权重初始化 141<br/>10.2.3　标签平滑 142<br/>10.3　调整学习率 142<br/>10.3.1　动量项 142<br/>10.3.2　调整每个参数的学习率 143<br/>10.3.3　批梯度 新 144<br/>10.4　避免局部 145<br/>10.4.1　正则化 145<br/>10.4.2　课程学习 145<br/>10.4.3　drop-out法 146<br/>10.5　处理梯度消失和梯度 问题 147<br/>10.5.1　梯度裁剪 147<br/>10.5.2　层归一化 147<br/>10.5.3　捷径连接和高速连接 148<br/>10.5.4　LSTM和梯度消失 149<br/>10.6　句子级优化 150<br/>10.6.1　 小风险训练 150<br/>10.6.2　生成对抗训练 151<br/>10.7　扩展阅读 152<br/> 1章　替代架构 155<br/>11.1　神经网络组件 155<br/>11.1.1　前馈层 155<br/>11.1.2　因子分解 156<br/>11.1.3　基本的数学运算 157<br/>11.1.4　循环神经网络 158<br/>11.1.5　卷积神经网络 159<br/>11.2　注意力模型 160<br/>11.2.1　注意力计算 160<br/>11.2.2　多头注意力 161<br/>11.2.3　细粒度注意力 162<br/>11.2.4　自注意力 162<br/>11.3　卷积机器翻译模型 163<br/>11.4　融合注意力机制的卷积神经网络 165<br/>11.4.1　编码器 165<br/>11.4.2　解码器 166<br/>11.4.3　注意力 167<br/>11.5　自注意力：Transformer 167<br/>11.5.1　自注意力层 167<br/>11.5.2　解码器中的注意力 168<br/>11.6　扩展阅读 171<br/> 2章　重温单词 173<br/>12.1　词嵌入 173<br/>12.1.1　潜在语义分析 174<br/>12.1.2　连续词袋模型 175<br/>12.1.3　Skip Gram 176<br/>12.1.4　GloVe 176<br/>12.1.5　ELMo 177<br/>12.1.6　BERT 178<br/>12.2　多语言词嵌入 178<br/>12.2.1　特定语言词嵌入之间的映射 179<br/>12.2.2　语言无关的词嵌入 180<br/>12.2.3　仅使用单语数据 180<br/>12.3　大词汇表 182<br/>12.3.1　低频词的特殊处理 182<br/>12.3.2　字节对编码算法 183<br/>12.3.3　句子片段化算法 184<br/>12.3.4　期望 化训练 185<br/>12.3.5　子词正则化 185<br/>12.4　基于字符的模型 186<br/>12.4.1　字符序列模型 186<br/>12.4.2　基于字符的单词表示模型 186<br/>12.4.3　集成基于字符的模型 188<br/>12.5　扩展阅读 189<br/> 3章　领域自适应 195<br/>13.1　领域 195<br/>13.1.1　语料库之间的差异 196<br/>13.1.2　多领域场景 197<br/>13.1.3　领域内与领域外 198<br/>13.1.4　自适应效应 198<br/>13.1.5　合理的警告 199<br/>13.2　混合模型 199<br/>13.2.1　数据插值 199<br/>13.2.2　模型插值 200<br/>13.2.3　领域感知训练 201<br/>13.2.4　主题模型 202<br/>13.3　欠采样 204<br/>13.3.1　Moore-Lewis：语言模型交叉熵 204<br/>13.3.2　基于覆盖范围的方法 205<br/>13.3.3　样本加权 206<br/>13.4　微调 206<br/>13.4.1　约束 新 207<br/>13.4.2　文档级自适应 208<br/>13.4.3　句子级自适应 209<br/>13.4.4　课程训练 210<br/>13.5　扩展阅读 210<br/> 4章　 平行语料库 214<br/>14.1　使用单语数据 215<br/>14.1.1　增加语言模型 215<br/>14.1.2　回译 216<br/>14.1.3　迭代回译 217<br/>14.1.4　往返训练 217<br/>14.2　多种语言对 218<br/>14.2.1　多种输入语言 219<br/>14.2.2　多种输出语言 219<br/>14.2.3　共享模块 220<br/>14.3　训练相关任务 221<br/>14.3.1　预训练词嵌入 221<br/>14.3.2　预训练编码器和解码器 221<br/>14.3.3　多任务训练 222<br/>14.4　扩展阅读 222<br/> 5章　语言学结构 228<br/>15.1　有指导的对齐训练 228<br/>15.2　建模覆盖度 230<br/>15.2.1　在推断过程中约束覆盖度 230<br/>15.2.2　覆盖度模型 231<br/>15.2.3　繁衍率 232<br/>15.2.4　特征工程与机器学习 232<br/>15.3　添加语言学标注 233<br/>15.3.1　输入句子的语言学标注 233<br/>15.3.2　输出句子的语言学标注 234<br/>15.3.3　语言学结构化的模型 235<br/>15.4　扩展阅读 236<br/> 6章　当前挑战 238<br/>16.1　领域不匹配 238<br/>16.2　训练数据规模 240<br/>16.3　稀有词 241<br/>16.4　噪声数据 243<br/>16.4.1　真实世界中的噪声 243<br/>16.4.2　合成噪声 245<br/>16.4.3　噪声对翻译质量的影响 246<br/>16.5　柱搜索 248<br/>16.6　词对齐 250<br/>16.7　扩展阅读 251<br/> 7章　分析与可视化 253<br/>17.1　错误分析 253<br/>17.1.1　神经机器翻译的典型错误 253<br/>17.1.2　语言学错误类型 255<br/>17.1.3　真实世界中的研究案例 256<br/>17.1.4　目标测试集 257<br/>17.1.5　合成语言 259<br/>17.2　可视化 259<br/>17.2.1　词嵌入 260<br/>17.2.2　编码器状态：词义 261<br/>17.2.3　注意力机制 262<br/>17.2.4　多头注意力机制 263<br/>17.2.5　语言模型预测中的记忆 264<br/>17.2.6　解码器状态 266<br/>17.2.7　柱搜索 266<br/>17.3　探测向量表示 267<br/>17.3.1　分类器方法 267<br/>17.3.2　实验发现 268<br/>17.4　分析神经元 269<br/>17.4.1　认知理论 269<br/>17.4.2　个体神经元 269<br/>17.4.3　揭示神经元 271<br/>17.5　追溯模型决策过程 271<br/>17.5.1　层级间相关性传递 271<br/>17.5.2　相关性传递在机器翻译中的应用 273<br/>17.5.3　显著性计算 274<br/>17.6　扩展阅读 275<br/>参考文献 279

......

精 彩 页：