该笔记主要记录个人在学习ESL的历程,包括心得体会、参考资料、程序实现等。
关于书籍:我买的是世界图书出版社的影印版,中文名称《统计学习基础(第2版)》。
Stanford官方网站:The Elements of Statistical Learning 作者们把书籍的PDF版也放在网站上了,很是自信。经典书籍,看完PDF,你还是会想买一本收藏的。上面也有一些最新课本的勘误。
有人整理了课本的课后习题答案:
复旦大学计算机学院吴立德教授以该书为教材开设课程,名为《统计学习精要》。另有牛人Liyun Chen旁听该课程,整理出听课笔记 。在自学该课程时,可以看到旁人的观点,受益匪浅。
笔记中会出现好多中英文混搭,有人喜有人恶。我选择用英文表达专有名词,起到特别强调的作用;另外,也是英文对统计学习领域不熟,好多翻译不明确,不如直接照抄书本。
通信背景,没有Machine Learning,研究queueing,对Probability比较熟悉,对Markov链比较熟悉。
Introduction to the book.
Overview of Supervised Learning (Chapter 2)
Quantitative linear regression(Chapter 3)
Qualitative linear classification (Chapter 4)
Basis Expansions and Splines (Chapter 5)
Kernel Smoothing Methods (Chapter 6)
Model Assessment and Selection (Chapter 7)
Model Inference and Averaging (Chapter 8)
Additive Models, Trees, and Related Methods (Chapter 9)
Boosting and Additive Trees (Chpater 10)
Random Forests (Chapter 15)
Neural Networks (Chpater 11)
Support Vector Machines and Flexible Discriminants (Chapter 12)
Prototypes and Nearest-Neighbors (Chapter 13)
Unsupervised Learning (Chapter 14)