机器学习知识点(二十二)高斯分布（正态分布）基础知识

1、概念

正态分布（Normal distribution）又名高斯分布（Gaussian distribution），是一个在数学、物理及工程等领域都非常重要的概率分布，在统计学的许多方面有着重大的影响力。

若随机变量服从一个位置参数为、尺度参数为的概率分布，记为：

则其概率密度函数为

正态分布的数学期望值或期望值等于位置参数，决定了分布的位置；其方差的开平方或标准差等于尺度参数，决定了分布的幅度。

正态分布的概率密度函数曲线呈钟形，因此人们又经常称之为钟形曲线。我们通常所说的标准正态分布是位置参数, 尺度参数的正态分布（见右图中绿色曲线）。

2、性质

1）如果且与是实数，那么 ；

2）如果与是统计独立的常态随机变量，那么:

         它们的和也满足正态分布 .

         它们的差也满足正态分布.

             与两者是相互独立的。

3）和是独立常态随机变量，那么:

     它们的积服从概率密度函数为的分布

       其中是修正贝塞尔函数（modified Bessel function）

     它们的比符合柯西分布，满足.

4）如果为独立标准常态随机变量，那么服从*度为n的卡方分布。

3、更多可以阅读：http://songshuhui.net/archives/76501

    讲述正态分布的前世今生。

4、在知乎上看到一张关于各种统计分布的关系的神图：

论文地址：http://www.math.wm.edu/~leemis/2008amstat.pdf