Mathematics for Machine Learning

出版者:Cambridge University Press

作者:Marc Peter Deisenroth

页数:398

出版时间:2020-1-31

价格:$46.99

装帧:Paperback

isbn号码:9781108455145

具体描述

https://mml-book.github.io/

::This self-contained textbook introduces all the relevant mathematical concepts needed to understand and use machine learning methods, with a minimum of prerequisites. Topics include linear algebra, analytic geometry, matrix decompositions, vector calculus, optimization, probability and statistics::

The fundamental mathematical tools needed to understand machine learning include linear algebra, analytic geometry, matrix decompositions, vector calculus, optimization, probability and statistics. These topics are traditionally taught in disparate courses, making it hard for data science or computer science students, or professionals, to efficiently learn the mathematics. This self-contained textbook bridges the gap between mathematical and machine learning texts, introducing the mathematical concepts with a minimum of prerequisites. It uses these concepts to derive four central machine learning methods: linear regression, principal component analysis, Gaussian mixture models and support vector machines. For students and others with a mathematical background, these derivations provide a starting point to machine learning texts. For those learning the mathematics for the first time, the methods help build intuition and practical experience with applying mathematical concepts. Every chapter includes worked examples and exercises to test understanding. Programming tutorials are offered on the book's web site.

作者简介

Marc Peter Deisenroth is a Senior Lecturer in Statistical Machine Learning at the Department of Computing, Imperial College London. His research interests center around data-efficient and autonomous machine learning, and he has taught courses at both Imperial College London and at the African Institute for Mathematical Sciences (Rwanda). Deisenroth was Program Chair of EWRL 2012, Workshops Chair of RSS 2013 and received Best Paper Awards at ICRA 2014 and ICCAS 2016. In 2018, Deisenroth has been awarded The President's Award for Outstanding Early Career Researcher. He is a recipient of a Google Faculty Research Award and a Microsoft Ph.D. Scholarship.

A. Aldo Faisal leads the Brain and Behaviour Lab at Imperial College London, where he is also a Reader in Neurotechnology at the Department of Bioengineering and the Department of Computing. He was elected Junior Research Fellow at the University of Cambridge and has worked with Daniel Wolpert FRS on human sensorimotor control at the Computational and Biological Learning Group. Faisal worked on strategic management consulting with McKinsey & Co. and was a 'quant' with the investment bank Credit Suisse. His research aims at understanding the brain with principles from engineering, which translates into direct technological applications for patients and society.

Cheng Soon Ong is Principal Research Scientist at the Machine Learning Research Group, Data61, Commonwealth Scientific and Industrial Research Organisation, Canberra (CSIRO). He is also Adjunct Associate Professor at Australian National University. His research focuses on enabling scientific discovery by extending statistical machine learning methods. Ong received his Ph.D. in Computer Science at Australian National University in 2005. He was a postdoc at Max Planck Institute of Biological Cybernetics and Fredrich Miescher Laboratory. From 2008 to 2011, he was a lecturer in the Department of Computer Science at Eidgenössische Technische Hochschule Zürich, and in 2012 and 2013 he worked in the Diagnostic Genomics Team at NICTA in Melbourne.

目录信息

Part I: Mathematical Foundations
Introduction and Motivation
Linear Algebra
Analytic Geometry
Matrix Decompositions
Vector Calculus
Probability and Distribution
Continuous Optimization
Part II: Central Machine Learning Problems
When Models Meet Data
Linear Regression
Dimensionality Reduction with Principal Component Analysis
Density Estimation with Gaussian Mixture Models
Classification with Support Vector Machines
· · · · · · (收起)

用户评价

这本书的叙事风格，我必须指出，极其古板且缺乏生气。它更像是一份被精心校对过的官方文档，而不是一本旨在激发读者学习热情的指南。通篇充斥着“我们定义如下”、“可以证明”之类的句式，将原本充满活力的数学概念包装得如同冰冷的砖石。我尤其对它处理“信息论”章节的方式感到不解。熵、交叉熵这些在深度学习中至关重要的概念，被介绍得如同在证明一个纯粹的数学定理，几乎看不到它们是如何被用来衡量模型预测的不确定性，或者如何驱动损失函数的最小化过程。我尝试对照着其他资料来辅助理解，才发现，原来信息论在机器学习中可以如此直观地被解释——但这本书显然没有采纳任何这种更具启发性的叙述方式。它的深度是存在的，但其表现形式过于刻板，导致读者的参与感极低。每一次阅读，都像是在完成一项艰巨的任务，而非进行一场智力上的探索。这本书的结构安排也显得有些生硬，章节之间的过渡往往是突兀的，缺乏平滑的逻辑引导，使得知识的积累过程变得断断续续，难以形成系统的认知地图。对于渴望沉浸式学习体验的读者来说，这本书无疑是一剂强效的镇静剂，让人在理论的海洋中漂浮，却难以找到回家的航线。

这本关于机器学习的数学书籍，读起来实在是一种煎熬。首先，作者似乎对初学者抱有极大的偏见，一上来就将读者置于一个充斥着高深抽象概念的迷宫之中。那些关于线性代数和微积分的论述，与其说是讲解，不如说是一种冷酷的罗列，仿佛默认读者早已精通这些领域。我尝试着去理解那些向量空间和特征值分解的几何意义，但书中的解释总是在最关键的地方戛然而止，留下一堆晦涩的公式符号，让人摸不着头脑。更糟糕的是，例子的选取也极其不友好，它们要么过于理想化，脱离实际应用场景，要么就是复杂到需要花费数小时才能勉强跟上推导过程。这本书的排版设计也令人诟病，公式与正文的混排常常导致阅读节奏被打断，好不容易建立起来的思维链条也因此断裂。我原本期望能通过这本书建立起坚实的数学基础，为深入学习算法打下地基，但现在看来，我更像是在试图徒手攀登一座陡峭、光滑的冰山，收获的更多是挫败感和对数学本身的敬畏而非理解。如果说阅读体验是一种享受，那么这本书提供的体验无疑是另一种极端的磨砺，它似乎更适合那些已经对数学有深刻洞察力的研究人员，而非我们这些渴望从零开始构建知识体系的实践者。整本书读下来，除了感到压力山大，对于如何将这些数学工具应用到实际的神经网络训练中，依然感到一片迷茫，这无疑是作为一本面向实践者的教材所犯下的最大错误。

我拿起这本书时，满心期待着它能为我打开一扇通往机器学习“黑箱”内部奥秘的大门，毕竟书名听起来就充满了诱惑力。然而，实际的阅读体验却像是在一个堆满了理论积木的巨大仓库里迷路。书中对概率论的讲述，虽然详尽，却缺乏足够的直觉引导。当我们讨论到高斯分布或贝叶斯定理时，我更希望看到的是，这些工具如何具体地在监督学习或无监督学习中扮演了关键角色，它们是如何帮助模型做出“决策”的。但这本书似乎更沉迷于数学本身的纯粹美感，而非其在工程应用中的实用价值。例如，对于优化算法的介绍，它详细地阐述了海森矩阵的性质，但对于“为什么在某些情况下，随机梯度下降比精确的牛顿法更受欢迎”，这本书的回答显得敷衍了事，只是简单地归结于计算成本，而没有深入探讨这种选择背后的鲁棒性或泛化能力考量。这种重理论轻应用的倾向，使得这本书读起来像是一本高年级本科生的纯数学参考书，而不是一本旨在连接理论与实践的桥梁之作。我合上书本时，脑海里充斥着各种定义和定理，却无法清晰地描绘出一个完整的机器学习模型是如何从这些数学基石上搭建起来的。对于那些希望快速上手或寻找即时解决方案的工程师来说，这本书的价值可能需要通过大量的自我消化和外部补充才能实现，门槛之高，令人望而却步。

我个人觉得这本书在数学严谨性上达到了近乎苛刻的程度，这对于学术界或许是优点，但对于我们这些主要目的是应用的人来说，无疑是一把双刃剑。它几乎没有容忍任何数学上的模糊地带，每一个推导步骤都力求无懈可击。然而，这种对“绝对正确”的追求，使得阅读过程变得异常缓慢且令人筋疲力尽。例如，在讨论凸优化理论时，作者花费了大量的篇幅来确保每个不等式和条件的充分性，这使得核心思想被淹没在繁复的证明细节之中。我真正想了解的是，在实际训练深度神经网络时，我们面对的损失函数往往不是完美的凸函数，那么书中所描述的那些完美的凸优化理论，其适用边界到底在哪里？它对“次梯度”或“非光滑优化”的讨论，虽然存在，但显得非常边缘化，仿佛只是一个必须提及的脚注，而不是一个在现实中至关重要的概念。这本书的价值在于其无可挑剔的数学基础，但它的缺陷在于未能有效地将这些坚固的地基与现实世界中那些充满“噪音”和“不完美”的机器学习实践连接起来。它成功地展现了数学之美，却未能充分展示出工程实践的艺术，因此，它更像是一座需要被小心翼翼接近的理论宝库，而不是一个可以随意取用的工具箱。

坦白讲，这本书在某些高级主题上的覆盖范围是相当全面的，它确实触及了许多现代机器学习领域中不可或缺的数学分支。然而，这种广度是以牺牲深度和可理解性为代价的。例如，在引入矩阵分解技术时，作者似乎认为读者能够自如地在不同矩阵分解方法之间切换，并理解它们在具体算法中的细微差别。但对于如何清晰地区分奇异值分解（SVD）与主成分分析（PCA）在特征提取侧重点上的差异，书中的论述就显得过于简略和抽象。它罗列了大量的数学性质，却鲜少提供生动的案例分析来巩固这些知识点。我常常需要停下来，反复阅读好几遍，试图在脑海中勾勒出这些数学结构在实际数据流中是如何运作的。更让人头疼的是，书中的习题部分，如果存在的话，也大多是计算导向的，缺乏那种能促使人深入思考算法设计背后的数学逻辑的挑战性问题。一本好的教材应该能引导读者去“玩转”这些数学工具，而不是仅仅“认识”它们。这本书更像是一本详尽的词典，提供了所有术语的定义，但对于如何用这些词汇来构建有意义的句子，却着墨不多，这使得读者在面对真实世界的问题时，常常感到“知道所有零件，却不知道如何组装机器”的窘境。

差不多是见人就吹了

Good models should perform well on unseen data.

差不多是见人就吹了

差不多是见人就吹了

Good models should perform well on unseen data.