智能问答与深度学习

出版者:电子工业出版社

作者:王海良

出品人:博文视点

页数:264

出版时间:2018-11

价格:69

装帧:平装

isbn号码:9787121349218

丛书系列:博文视点AI系列

具体描述

《智能问答与深度学习》面向在校学生或计算机软件从业人员，由浅入深地介绍了人工智能在文本任务中的应用。《智能问答与深度学习》不但介绍了自然语言处理、深度学习和机器阅读理解等基础知识，还简述了信息论、人工智能等的发展过程。

作者简介

王海良，Chatopera联合创始人、CEO，微软人工智能最有价值专家。毕业于北京邮电大学，加入IBM工作四年，先后工作于软件开发实验室和创新中心，从2016年开始工作于创业公司，三角兽AI算法工程师，呤呤英语AI产品负责人，负责智能对话系统研发。

李卓桓，PreAngel合伙人，Plug and Play投资合伙人。拥有25年编程经验，曾任优酷网首席科学家、叽歪网创始人，水木清华BBS站长，紫霞BBS站长。Conversational AI实践者，热爱滑雪、跑酷、滑雪伞等极限运动。

林旭鸣，北京邮电大学模式识别实验室研究生，目前的研究方向为深度学习、自然语言处理与机器阅读理解。本科期间曾获得国家奖学金，研究生期间多次在数据类竞赛中取得Top 3的成绩。曾在百度、滴滴出行、微软等公司实习。

目录信息

1 概述1
1.1 智能问答：让机器更好地服务于人 1
1.2 问答系统类型介绍 2
1.2.1 基于事实的问答系统 3
1.2.2 基于常见问题集的问答系统 3
1.2.3 开放域的问答系统 4
1.3 使用本书附带的源码程序 4
1.3.1 安装依赖软件 4
1.3.2 下载源码 5
1.3.3 执行示例程序 5
1.3.4 联系我们 6
1.4 全书结构 6
2 机器学习基础8
2.1 线性代数 8
2.1.1 标量、向量、矩阵和张量 8
2.1.2 矩阵运算 9
2.1.3 特殊类型的矩阵 10
2.1.4 线性相关 11
2.1.5 范数 12
2.2 概率论基础 12
2.2.1 随机变量 13
2.2.2 期望和方差 13
2.2.3 伯努利分布 14
2.2.4 二项分布 14
2.2.5 泊松分布 15
2.2.6 正态分布 15
2.2.7 条件概率、联合概率和全概率 17
2.2.8 先验概率与后验概率 18
2.2.9 边缘概率 18
2.2.10 贝叶斯公式 18
2.2.11 最大似然估计算法 19
2.2.12 线性回归模型 20
2.2.13 逻辑斯蒂回归模型 21
2.3 信息论基础 22
2.3.1 熵 23
2.3.2 联合熵和条件熵 23
2.3.3 相对熵与互信息 24
2.3.4 信道和信道容量 25
2.3.5 最大熵模型 26
2.3.6 信息论与机器学习 29
2.4 统计学习 29
2.4.1 输入空间、特征空间与输出空间 30
2.4.2 向量表示 30
2.4.3 数据集 31
2.4.4 从概率到函数 31
2.4.5 统计学习三要素 32
2.5 隐马尔可夫模型 33
2.5.1 随机过程和马尔可夫链 33
2.5.2 隐马尔可夫模型的定义 36
2.5.3 三个基本假设及适用场景 37
2.5.4 概率计算问题之直接计算 39
2.5.5 概率计算问题之前向算法 40
2.5.6 概率计算问题之后向算法 42
2.5.7 预测问题之维特比算法 45
2.5.8 学习问题之Baum-Welch 算法 48
2.6 条件随机场模型 52
2.6.1 超越HMM 52
2.6.2 项目实践 55
2.7 总结 59
3 自然语言处理基础60
3.1 中文自动分词 60
3.1.1 有向无环图 61
3.1.2 最大匹配算法 63
3.1.3 算法评测 69
3.1.4 由字构词的方法 72
3.2 词性标注 77
3.2.1 词性标注规范 77
3.2.2 隐马尔可夫模型词性标注 79
3.3 命名实体识别 81
3.4 上下文无关文法 82
3.4.1 原理介绍 83
3.4.2 算法浅析 83
3.5 依存关系分析 84
3.5.1 算法浅析 85
3.5.2 项目实践 92
3.5.3 小结 94
3.6 信息检索系统 95
3.6.1 什么是信息检索系统 95
3.6.2 衡量信息检索系统的关键指标 95
3.6.3 理解非结构化数据 97
3.6.4 倒排索引 98
3.6.5 处理查询 100
3.6.6 项目实践 102
3.6.7 Elasticsearch 103
3.6.8 小结 112
3.7 问答语料 113
3.7.1 WikiQA 113
3.7.2 中文版保险行业语料库InsuranceQA 113
3.8 总结 115
4 深度学习初步116
4.1 深度学习简史 116
4.1.1 感知机 116
4.1.2 寒冬和复苏 117
4.1.3 走出实验室 118
4.1.4 寒冬再临 119
4.1.5 走向大规模实际应用 119
4.2 基本架构 120
4.2.1 神经元 121
4.2.2 输入层、隐藏层和输出层 122
4.2.3 标准符号 123
4.3 神经网络是如何学习的 124
4.3.1 梯度下降 124
4.3.2 反向传播理论 127
4.3.3 神经网络全连接层的实现 130
4.3.4 使用简单神经网络实现问答任务 131
4.4 调整神经网络超参数 136
4.4.1 超参数 136
4.4.2 参考建议 137
4.5 卷积神经网络与池化 138
4.5.1 简介 138
4.5.2 卷积层的前向传播 139
4.5.3 池化层的前向传播 141
4.5.4 卷积层的实现 141
4.5.5 池化层的实现 145
4.5.6 使用卷积神经网络实现问答任务 148
4.6 循环神经网络及其变种 149
4.6.1 简介 149
4.6.2 循环神经网络 149
4.6.3 长短期记忆单元和门控循环单元 153
4.6.4 循环神经网络的实现 156
4.6.5 使用循环神经网络实现问答任务 159
4.7 简易神经网络工具包 160
5 词向量实现及应用161
5.1 语言模型 161
5.1.1 评测 162
5.1.2 ARPA 格式介绍 162
5.1.3 项目实践 163
5.2 One-hot 表示法 164
5.3 词袋模型 165
5.4 NNLM 和RNNLM 165
5.5 word2vec 168
5.5.1 C-BOW 的原理 169
5.5.2 Skip-gram 的原理 172
5.5.3 计算效率优化 174
5.5.4 项目实践 179
5.6 GloVe 189
5.6.1 GloVe 的原理 189
5.6.2 GloVe 与word2vec 的区别和联系 191
5.6.3 项目实践 193
5.7 fastText 198
5.7.1 fastText 的原理 198
5.7.2 fastText 与word2vec 的区别和联系 200
5.7.3 项目实践 201
5.8 中文近义词工具包 204
5.8.1 安装 205
5.8.2 接口 205
5.9 总结 205
6 社区问答中的QA 匹配206
6.1 社区问答任务简介 206
6.2 孪生网络模型 207
6.3 QACNN 模型 207
6.3.1 模型构建 207
6.3.2 实验结果 214
6.4 Decomposable Attention 模型 214
6.4.1 模型介绍 214
6.4.2 模型构建 216
6.5 多比较方式的比较–集成模型 216
6.5.1 模型介绍 216
6.5.2 模型构建 218
6.6 BiMPM 模型 219
6.6.1 模型介绍 219
6.6.2 模型构建 221
7 机器阅读理解222
7.1 完型填空型机器阅读理解任务 222
7.1.1 CNN/Daily Mail 数据集 222
7.1.2 Children’s Book Test（CBT）数据集 223
7.1.3 GA Reader 模型 226
7.1.4 SA Reader 模型 227
7.1.5 AoA Reader 模型 228
7.2 答案抽取型机器阅读理解任务 230
7.2.1 SQuAD 数据集 231
7.2.2 MS MARCO 数据集 232
7.2.3 TriviaQA 数据集 234
7.2.4 DuReader 数据集 235
7.2.5 BiDAF 模型 235
7.2.6 R-Net 模型 237
7.2.7 S-Net 模型 240
7.3 答案选择型机器阅读理解任务 243
7.4 展望 245
参考文献246
· · · · · · (收起)

用户评价

这本书的排版和图示设计，绝对是业界的一股清流。很多技术书籍要么是密密麻麻的文字，要么是粗糙的黑白流程图，读起来让人昏昏欲睡。然而，这本书在关键概念的解释上，大量使用了定制化的彩色图表和思维导图。例如，在介绍循环神经网络（RNN）的“梯度消失”问题时，作者用了一种类似水流扩散的动态示意图，清晰地展示了信息在时间步中是如何被稀释和遗忘的。这比任何纯文字的描述都来得直观有力。我记得有一次深夜阅读，当我被一个关于注意力机制的数学公式搞得焦头烂额时，翻到下一页，赫然发现了一个精心绘制的“信息权重分配”示意图，瞬间茅塞顿开。这种对阅读体验的重视，真的让我感受到了作者对读者的尊重，它不仅仅是一本知识的载体，更像是一位耐心的导师在陪伴你成长，而不是冷冰冰地灌输信息。

阅读完大半，我越来越清晰地认识到，这本书的作者绝对是一位将理论深度与工程实践完美结合的专家。他没有沉迷于追逐最新的、尚未成熟的“热词”，而是脚踏实地地回归了机器学习和深度学习的底层逻辑。特别欣赏书中对模型可解释性（XAI）部分的讨论。在当前“黑箱模型”饱受诟病的背景下，作者花了相当篇幅介绍了LIME和SHAP等工具，并用实际的医疗诊断数据模拟了如何向非专业人士解释模型的决策依据。这种对伦理和透明度的关注，让这本书的格局瞬间提升，不再仅仅是一本技术手册，而更像是一本指导未来AI从业者如何负责任地构建智能系统的“行为准则”。读完后，我感觉自己的知识体系不仅得到了加固，更重要的是，对AI未来发展的方向有了更审慎和成熟的判断。

这本书的价值，在我尝试复现书中提及的“迁移学习”实验后，得到了最充分的体现。作者在讲解这个前沿技术时，非常细致地提供了代码实现的伪代码和关键库的调用说明，并附带了对不同预训练模型的适用性讨论。我根据书中的指导，搭建了一个小型模型来解决一个特定的图像分类问题。最大的收获在于，书中不仅告诉你“怎么做”，更深入探讨了“为什么这样做”。例如，它讨论了在小数据集上使用大型预训练模型时，可能出现的“灾难性遗忘”风险，并提出了针对性的正则化策略。这种对潜在风险的预警和规避方法的指导，是教科书上通常不会提及的“隐性知识”。这使得这本书的实用价值远远超出了理论学习的范畴，它教会了我如何在实际工程环境中进行负责任且高效的模型部署与迭代，非常贴合当前工业界对AI人才的需求标准。

这本书的装帧设计，尤其是封面那种略带磨砂质感的深蓝色调，一下子就抓住了我的眼球。拿到手里，分量感十足，让人觉得内容一定很扎实。我之前对人工智能领域有一些基础了解，但总觉得缺乏一个系统梳理脉络的引路书。这本书的目录结构设计得非常巧妙，它没有直接堆砌晦涩的数学公式，而是采取了一种“由浅入深，理论与实践穿插”的叙事方式。初读前几章，作者用非常生动的比喻解释了什么是“感知”与“决策”，这对我理解机器学习的本质大有裨益。特别是关于数据预处理的那一部分，它详细阐述了如何从海量无序信息中提取出“黄金数据”，这在实际工作中简直是宝典。很多教程往往一笔带过数据清洗的重要性，而这本书却用好几节内容专门剖析了不同类型噪音数据的影响，以及如何应用特定的统计工具进行矫正。这种对细节的关注，体现了作者深厚的行业经验，而不是停留在纸上谈兵的理论层面。我甚至觉得，即便是非技术背景的管理者，也能通过阅读这些章节，快速掌握AI项目中最容易被忽视但却至关重要的基础环节。

我必须称赞作者在阐述复杂算法时的那种“化繁为简”的能力。比如讲解卷积神经网络（CNN）时，他没有直接抛出那些复杂的张量运算，而是借助了一个虚拟的图像识别任务——识别不同品种的猫——来引导读者理解“特征提取”和“层次化抽象”的过程。他甚至用到了一个非常形象的比喻，将每一层网络比作一个不同级别的侦探，层层递进地去捕捉图像的细节，从边缘、纹理到物体的整体结构。这种叙事手法极大地降低了初学者的学习门槛，让我感觉那些原本高不可攀的数学概念突然变得触手可及。更令人惊喜的是，书中穿插的那些“实战案例分析”，都不是那种千篇一律的MNIST手写数字识别，而是聚焦于更具挑战性的工业应用场景，比如自然语言处理中的情感倾向分析，以及时间序列预测中的异常检测。这些案例不仅仅是代码的罗列，更是对“为什么选择这个模型”、“如何调参优化”的深度剖析，让人真正理解了模型背后的逻辑思辨过程。

书名中智能问答在前，然而整本书智能问答的篇幅实在太少了，机器学习和深度学习的东西太多了，而且是一些基础知识。本来买来这本书是想深入学习智能问答这块的东西，没想到全书东拼西凑，没有一点干货！失望透顶！

书名中智能问答在前，然而整本书智能问答的篇幅实在太少了，机器学习和深度学习的东西太多了，而且是一些基础知识。本来买来这本书是想深入学习智能问答这块的东西，没想到全书东拼西凑，没有一点干货！失望透顶！

书名不是很恰当。智能问答其实讲的很少，深度学习也不多。李纪为的评论去除一丝丝水分，应该是最准确的。“介绍了近年来自然语言处理,信息检索,和机器阅读理解的成果，带有示例...而且从原理上进行了解释，可帮助读者掌握这些技术，是入门自然语言处理...的好书”

书名中智能问答在前，然而整本书智能问答的篇幅实在太少了，机器学习和深度学习的东西太多了，而且是一些基础知识。本来买来这本书是想深入学习智能问答这块的东西，没想到全书东拼西凑，没有一点干货！失望透顶！

书名中智能问答在前，然而整本书智能问答的篇幅实在太少了，机器学习和深度学习的东西太多了，而且是一些基础知识。本来买来这本书是想深入学习智能问答这块的东西，没想到全书东拼西凑，没有一点干货！失望透顶！