机器学习理论导引

出版者:机械工业出版社

作者:周志华

出品人:华章IT

页数:193

出版时间:2020-6-3

价格:79.00元

装帧:平装

isbn号码:9787111654247

具体描述

机器学习领域著名学者周志华教授领衔的南京大学LAMDA团队四位教授合著

系统梳理机器学习理论中的七大重要概念或理论工具，并给出若干分析实例

机器学习理论内容浩瀚广博，旨在为机器学习理论研究的读者提供入门导引

本书旨在为有志于机器学习理论学习和研究的读者提供一个入门导引。在预备知识之后，全书各章分别聚焦于：可学性、（假设空间）复杂度、泛化界、稳定性、一致性、收敛率、遗憾界。 除介绍基本概念外，还给出若干分析实例，如显示如何将不同理论工具应用于支持向量机这种常见机器学习技术。

作者简介

周志华 教授，南京大学计算机系主任、人工智能学院院长、校学术委员会委员。欧洲科学院外籍院士。人工智能相关五大主流国际学会ACM、AAAI、AAAS、IEEE、IAPR均入选Fellow的首位华人学者，中国计算机学会、中国人工智能学会会士。曾获IEEE计算机学会Edward J. McCluskey技术成就奖、CCF王选奖等。著有《机器学习》（清华大学出版社）等。

王魏，南京大学计算机系副教授。主要研究方向为机器学习理论，曾获中国计算机学会优秀博士学位论文奖、江苏省优秀博士学位论文奖、CCF青年人才发展计划等荣誉。

高尉，南京大学人工智能学院副教授。主要研究方向为机器学习理论，曾获中国计算机学会优秀博士学位论文奖、江苏省优秀博士学位论文奖等荣誉。

张利军，南京大学计算机系副教授、博士生导师。主要研究方向为大规模机器学习与优化，曾获首届达摩院青橙奖、中国科协青年人才托举工程、CCF青年人才发展计划等荣誉。

目录信息

前言
主要符号表
第1章 预备知识 ……………………………………………………………… 1
1.1 函数的性质 ………………………………………………………………… 1
1.2 重要不等式 ……………………………………………………………… 5
1.3 最优化基础 ……………………………………………………………… 9
1.4 支持向量机 ……………………………………………………………… 13
1.5 理论的作用 ……………………………………………………………… 18
1.6 阅读材料 ………………………………………………………………… 19
习题 ……………………………………………………………………………… 21
参考文献 ………………………………………………………………………… 22
第2章 可学性 ……………………………………………………………… 25
2.1 基本概念 …………………………………………………………………25
2.2 PAC学习 …………………………………………………………………… 26
2.3 分析实例 ………………………………………………………………… 30
2.4 阅读材料 ………………………………………………………………… 35
习题 ……………………………………………………………………………… 36
参考文献 ……………………………………………………………………… 37
第3章 复杂度 ……………………………………………………………39
3.1 数据分布无关 ………………………………………………………… 39
3.2 数据分布相关 ………………………………………………………… 46
3.3 分析实例 ……………………………………………………………… 50
3.4 阅读材料 …………………………………………………………………56
习题 ..……………………………………………………………………………… 58
参考文献 ……………………………………………………………………… 59
第4章 泛化界 ……………………………………………………………… 61
4.1 泛化误差上界 ………………………………………………………… 61
4.2 泛化误差下界 ………………………………………………………… 71
4.3 分析实例 ………………………………………………………………… 78
4.4 阅读材料 ………………………………………………………………… 83
习题 ……………………………………………………………………………… 84
参考文献 ……………………………………………………………………… 86
第5章 稳定性 …………………………………………………………… 89
5.1 基本概念 ………………………………………………………………… 89
5.2 重要性质 ………………………………………………………………… 92
5.3 分析实例 ………………………………………………………………… 98
5.4 阅读材料 ………………………………………………………………… 107
习题 ……………………………………………………………………………… 108
参考文献 ……………………………………………………………………… 110
第6章 一致性 …………………………………………………………… 113
6.1 基本概念 ……………………………………………………………… 113
6.2 替代函数 ……………………………………………………………… 117
6.3 划分机制 ……………………………………………………………… 122
6.4 分析实例 ……………………………………………………………… 125
6.5 阅读材料 ……………………………………………………………… 132
习题 ………………………………………………………………………… 134
参考文献 ………………………………………………………………… 135
第7章 收敛率 …………………………………………………………… 137
7.1 基本概念 ……………………………………………………………… 137
7.2 确定优化 ……………………………………………………………… 139
7.3 随机优化 ……………………………………………………………… 143
7.4 分析实例 ………………………………………………………………155
7.5 阅读材料 ……………………………………………………………… 157
习题 ……………………………………………………………………………… 159
参考文献 ……………………………………………………………………… 161
第8章 遗憾界 …………………………………………………………… 163
8.1 基本概念 ……………………………………………………………… 163
8.2 完全信息在线学习 ……………………………………………… 165
8.3 赌博机在线学习 ………………………………………………….170
8.4 分析实例 ……………………………………………………………184
8.5 阅读材料 …………………………………………………………… 188
习题 …………………………………………………………………………… 189
参考文献 …………………………………………………………………… 191
索引 ………………………………………………………………………… 193
· · · · · · (收起)

读后感

四年后的江湖，风云变幻，后生涌现，是年庚子，金陵城内，新一届内家真传南学派拜师大会正在上演，一代宗师金陵周掌门坐镇东南，一呼百应，决意以剑术较量作为招弟子标准。 是日，天朗气清，惠风和畅，桌上淡茶数盏，周大侠微微一笑，长袖一挥，掷出桌上数茶杯，轻呼一声：将这...

四年后的江湖，风云变幻，后生涌现，是年庚子，金陵城内，新一届内家真传南学派拜师大会正在上演，一代宗师金陵周掌门坐镇东南，一呼百应，决意以剑术较量作为招弟子标准。 是日，天朗气清，惠风和畅，桌上淡茶数盏，周大侠微微一笑，长袖一挥，掷出桌上数茶杯，轻呼一声：将这...

四年后的江湖，风云变幻，后生涌现，是年庚子，金陵城内，新一届内家真传南学派拜师大会正在上演，一代宗师金陵周掌门坐镇东南，一呼百应，决意以剑术较量作为招弟子标准。 是日，天朗气清，惠风和畅，桌上淡茶数盏，周大侠微微一笑，长袖一挥，掷出桌上数茶杯，轻呼一声：将这...

四年后的江湖，风云变幻，后生涌现，是年庚子，金陵城内，新一届内家真传南学派拜师大会正在上演，一代宗师金陵周掌门坐镇东南，一呼百应，决意以剑术较量作为招弟子标准。 是日，天朗气清，惠风和畅，桌上淡茶数盏，周大侠微微一笑，长袖一挥，掷出桌上数茶杯，轻呼一声：将这...

四年后的江湖，风云变幻，后生涌现，是年庚子，金陵城内，新一届内家真传南学派拜师大会正在上演，一代宗师金陵周掌门坐镇东南，一呼百应，决意以剑术较量作为招弟子标准。 是日，天朗气清，惠风和畅，桌上淡茶数盏，周大侠微微一笑，长袖一挥，掷出桌上数茶杯，轻呼一声：将这...

用户评价

翻开书页的刹那，一股严谨的学术气息扑面而来，与我先前阅读的一些更偏向实践操作的指南形成了鲜明对比。这本书的结构安排极其讲究，似乎是精心设计的一场由浅入深的阶梯攀登。它在开篇就对概率论和线性代数等基础工具进行了必要的“热身”，但这种热身并非敷衍了事，而是紧密结合后续算法的实际应用场景来展开的，避免了纯数学推导的枯燥感。让我印象深刻的是它对不同模型族系——比如生成模型与判别模型的内在逻辑差异——所做的细致剖析。作者似乎在用一把精密的解剖刀，逐层剥开那些复杂算法的“黑箱”，清晰地展示出它们是如何基于某些核心假设来逼近最优解的。读到关于偏差-方差权衡的章节时，那种豁然开朗的感觉几乎是即时的，因为它将先前困惑我的模型过拟合和欠拟合问题，用一个优雅的框架统一了起来。这本书的文字密度很高，需要慢读、细品，甚至时常需要停下来，在草稿纸上重画示意图才能真正消化其中的精髓。它显然不是一本可以快速翻阅的工具书，而是一份需要投入时间去“磨合”的智力伙伴。

我发现这本书在讲解复杂概念时，非常注重类比和视觉化思维的引导，这在很大程度上缓解了其固有的理论深度带来的阅读压力。举例来说，在阐述贝叶斯推理的迭代过程时，它没有直接堆砌复杂的条件概率公式，而是构建了一个“侦探破案”的叙事场景，清晰地展示了先验知识如何随着新证据（数据）的出现而被不断修正和强化，最终形成一个更可靠的后验判断。这种将抽象的统计过程转化为直观的认知过程的做法，极大地提高了学习效率。此外，它的章节组织逻辑也体现出一种高度的工程化思维，从数据预处理的基本要求，到特征工程的关键考量，再到模型评估与选择的标准，形成了一个完整的、可复用的工作流程框架。这本书的价值不仅在于“授人以鱼”，更在于“授人以渔”，它提供了一套结构化的、可迁移的学习和解决问题的范式。读完之后，我感觉自己不再是被动地接受知识点，而是有了一套工具箱，可以自信地去面对和拆解新的机器学习挑战。

说实话，这本书的阅读体验是相当“硬核”的，但正是这份硬核，让我体会到了一种久违的智力上的挑战与满足感。它对经典机器学习算法的阐述，几乎做到了教科书级别的详尽与无可挑剔。我特别留意了它对支持向量机（SVM）的描述，那不仅仅是对核技巧（Kernel Trick）的简单介绍，更是深入探究了拉格朗日乘子法在优化问题中扮演的核心角色，以及如何从几何直觉理解高维空间的超平面划分。这本书的叙事风格非常理性且克制，几乎没有冗余的修辞，每一个句子似乎都承载着关键信息。这种风格对于那些追求底层原理、渴望构建坚实理论基础的读者来说，简直是如获至宝。它强迫你不仅仅记住“A算法能解决B问题”，更要理解“A算法在数学上为何能有效解决B问题”。这种对理论根基的深挖，让我对那些在实际项目中经常被当作“即插即用”的模块，有了更为深刻的敬畏之心，也让我意识到，很多看似简单的工程实践背后，隐藏着多么深厚的数学积淀。

这本书最令我欣赏的一点，是它在介绍算法演进脉络时的历史观和批判性视角。它没有将当前最流行的深度学习框架奉为圭臬，而是将它们置于整个机器学习历史的长河中进行审视。例如，在讨论梯度下降法的局限性时，作者巧妙地回顾了早期的牛顿法和拟牛顿法，并清晰地解释了现代优化算法如何通过引入动量（Momentum）和自适应学习率来克服传统方法的收敛困境。更难能可贵的是，它在介绍完一种强大的技术后，总会紧接着提出“这种技术的理论瓶颈在哪里？”以及“未来可能的研究方向是什么？”这使得阅读过程充满了对前沿探索的代入感，仿佛自己正与领域的顶尖学者一同探讨尚未解决的难题。这本教材的价值，远超于传授现有的知识，它更像是在培养一种批判性思维——教导读者如何去质疑、如何去创新，而不是盲目追随潮流。对于希望未来从事研究的读者来说，这种前瞻性的布局至关重要。

这本厚重的书摆在桌上，光是封面那简洁而富有设计感的排版，就让我对即将踏入的机器学习世界充满了敬畏与期待。我本来对这个领域抱持着一种既好奇又畏惧的心态，毕竟听闻其中涉及的数学和算法复杂度让人望而却步。然而，这本书的开篇却出乎意料地平易近人，它没有一开始就抛出那些令人眼花缭乱的公式，而是从一个非常宏观的视角，勾勒出了整个机器学习的生态图景。作者似乎深谙初学者的心理，用一系列贴近生活的例子，比如推荐系统如何“猜中”我们的喜好，或者自动驾驶汽车如何“识别”前方的障碍物，将抽象的概念具象化。我尤其欣赏它对“为什么”的强调，而不仅仅是“怎么做”。它探讨了机器学习背后的哲学思辨，思考着算法的局限性和伦理边界，这使得阅读过程不仅仅是知识的积累，更像是一次深刻的思维体操。读完第一部分，我感觉自己像是站在一个高耸的瞭望塔上，对脚下这片广袤的土地有了初步的轮廓认知，尽管细节尚未完全清晰，但方向感已经明确了许多，这对于后续的深入学习至关重要。

主题挺好的，但是感觉周志华的书好像都是这样，就是讲的不够清楚过于简略

主题挺好的，但是感觉周志华的书好像都是这样，就是讲的不够清楚过于简略

预定2020年“京东文学奖”????

哈哈哈哈哈哈哈,获得了某公众号的赠书，开心。。周老师关于ML的理论基础，要读懂读完啊，我一定要在ML的路上性福下去。

主题挺好的，但是感觉周志华的书好像都是这样，就是讲的不够清楚过于简略