《Introduction to Probability》读书笔记

花了一个半月的时间,终于把《Introduction to Probability》(《概率导论》)读完。机翻并核对后(R部分未核对)的md文件见“书籍翻译”分类。

前段时间集中看一些文学类书籍,把自己变得太感性了,故而决心转到技术类书籍上来。之前看了很多关于深度学习、大语言模型、统计、数据类的书籍,过程中发现自己对很多概率的基本概念及各类分布处于一知半解和零零碎碎了解的层面,故找到了这本经典的《概率导论》。看完之后,才明白一本数学类的书籍可以编写得这么引人入胜,相比大学期间教材的劝退,这本书通过日常生活的例子和故事,逐渐引入了各种概率概念和分布,让人印象深刻和爱不释手。

下面是知乎上对这本书的评价,个人深以为然。

https://zhuanlan.zhihu.com/p/363867289

总体来说,《概率导论》是一本很棒的概率论入门书籍,章节设置合理,例子适中,讲解清晰自然,习题质量很高。从内容阐述上看,《概率导论》对于知识点的讲解方式大多数都是通过例子实现的,举例一般比较贴近现实,实在理解概率思想之余,又锻炼了相关的应用能力。从内容设置来看,《概率导论》的内容丰富,不需要预备知识,关于初等概率论的内容几乎都有涉及(哪怕有些只是浅尝辄止),不得不说,通过学习《概率导论》你可能能够了解一些其他教材未能解答的问题。从习题角度上看,《概率导论》的习题质量较高,且对于部分难题给出了解答。这里强烈建议至少认真看懂这些难题的解法或证明,事实上,这些问题中大多蕴含着更深的背景。对于金融工程方向的同学来说,《概率导论》的难度并不是很大,贴近工科应用式的教学也让学生摆脱了传统数学教材“定义-公式-定理”的“不近人情”,十分适合作为入门教材.

作为随机过程的导入部分,作者很贴心地安排了Poisson过程和Bernoulli过程两个基础模型,难度不大,与随机过程“灵巧多变”(也就是恶心)的特点有所差异,是很好的启蒙章节。不过本章习题的灵活性较强,虽然很多习题都标了星号,但还是有少部分比较难处理,也不必过于担心。

同时,习题中的很多问题的解答都很直觉化,建议仔细研读,培养对于随机过程的直觉

与此同时,我也要指出,作为一本概率论的入门书籍,《概率导论》对于Markov链的讲解并不是非常完美,是具备一定难度的,学习时可以在知乎或者其他网站上找一些文章帮助理解(买一本随机过程就没有必要了)。

读这本书一定要注重对于概率直觉的培养,多去看看插图,多计算,多做题。经过长时间的学习,我相信你能够建立起一个不错的概率论基础,并接着向随机过程迈进。

另外对于翻译问题,我自己读的就是中文版,总体来说,并没有很多明显的错误,翻译风格总体来说还是平易近人,在追求“性价比”的情况下可以阅读中文版

但是如果你是学习Ross的《应用随机过程》,强烈建议阅读英文原版

看完这本书之后,也终于能从本质上理解了概率和统计的本质区别。

统计是根据样本进行推断和检验的技术;概率是其工具。

下面是Gemini对以上这句话的补充:

如果用一句话深化这个理解,可以这么说:概率论是“由因导果”的推演,而统计学是“由果溯因”的逆向工程。你提到“概率是其工具”,这在统计学中体现在:统计推断的信心,完全建立在概率分布之上。

统计学是解决现实问题的“工程学”,而概率论是支撑这门工程学屹立不倒的“物理定律”。

维度 概率 (Probability) 统计 (Statistics)
已知条件 箱子里的球:已知有 70 个红球,30 个白球 手中的样本:我抓了一把,发现有 7 个红球
研究问题 下一次抓出红球的可能性是多少? 整个箱子里红球的比例大概是多少?
思维方式 演绎推理 (Deductive) 归纳推理 (Inductive)

以下是几个在概率中需要重点理解的概念:

  • 概率论的基础是要好好理解随机变量
  • 残差和误差的区别
  • 条件期望的重要性质
  • 各种分布的关联
  • 范畴错误
  • 泊松过程和泊松分布
  • 有偏无偏。具体见示例 10.1.6(样本标准差的偏差 Bias of sample standard deviation))和 定理 6.3.4

以下是各种分布的关联图:(第10章的总结部分)

各种分布的关联图

以下是第十章的摘录,关于各种分布的收敛性。

各种分布的收敛性

以下是各种分布的一览表:(原书附录)

各种分布的一览表

《Introduction to Probabilit》封面

书籍各章的机翻md文件:
《Introduction to Probability》前言
《Introduction to Probability》第1章 概率与计数
《Introduction to Probability》第 2 章 条件概率
《Introduction to Probability》第3章 随机变量及其分布
《Introduction to Probability》第4章 期望
《Introduction to Probability》第5章 连续随机变量
《Introduction to Probability》第 6 章 矩
《Introduction to Probability》第7 章 联合分布
《Introduction to Probability》第8章 变换
《Introduction to Probability》第9章 条件期望
《Introduction to Probability》第10章 不等式与极限理论
《Introduction to Probability》第11章 马尔可夫链
《Introduction to Probability》第12章 马尔可夫链蒙特卡罗
《Introduction to Probability》第13章 泊松过程