陈杰的个人网站

采样是从某种概率分布中获取一定的样本。在计算机如何产生随机数中讲了如何得到均匀分布的样本，也是一种均匀采样的方法；如何得到服从正态分布的样本中，讲了从正态分布采样的方法。前面也总结了常用的概率分布，其实利用逆变换法可以得到服从已知概率分布的样本，在前面的文章已经介绍过了。本文继续介绍逆变化法的应用，从单位圆均匀采样。

早期有一篇公众号文章介绍了蒙特卡洛法计算圆周率，也是中学课本的经典例子，投掷大头针的方法来计算圆周率。用计算机模拟的本质就是从边长为2的正方形中均匀采样，如果样本点落中单位圆内则计数器加1，最终用落在单位圆内的点除以总的样本点，近似等于圆的面积除以正方形面积。

最近的文章都是关于概率论和信息论相关的概念，计划把概率论的基本概念做系统的梳理，笔者认为理解基础的概念远比项目代码重要，感兴趣的读者朋友可以回头看整个系列专题，笔者单独整理了合集。

之前在浅说熵中介绍过熵这个概念，自我感觉说得不够清晰明了，决定再来谈谈熵，以及熵在实际生活中的应用。熵最初是物理学中的概念，用于描述一个系统的混乱程度，越是无序的系统，熵越大；在没有外部能量输入的情况下，系统的演化方向是朝着熵增加的方向。

之前介绍了计算机如何产生随机数，同时也整理了常用的概率分布。现在我们来考虑这样的问题，如何得到服从正态分布的样本？，在计算机如何产生随机数中我们用线性同余发生器生成了随机数，这些随机数实际上就是服从$U(0,1)$的均匀分布，意味在$(0,1)$范围内，每个样本被抽取概率是一样的。

本篇文章整理常用的一些概率分布,这些经典的概率分布是实际生活中非常有用。之后的文章都会用到这些基础的概率分布。

计算机很容易产生随机数，很多编程语言提供了非常便捷的接口，获取各种条件的随机数。这篇文章主要介绍计算机是如何得到这些随机数的。理解本文需要一点点数列知识。