目录
概率密度函数估计
概率密度函数估计分为两类:参数估计和非参数估计,参数估计主要两类:最大似然估计和贝叶斯估计。
参数估计:已知概率密度函数的形式,但其中部分或全部参数未知,概率密度函数估计问题就是用样本估计这些参数。
非参数估计:概率密度函数的形式未知,概率密度函数的形式不符合目前研究的任何分布模型。因此不能估计几个参数,而是
用样本把概率密度函数数值化地估计出来。
参数估计的基本概念:
统计量、参数空间、点估计、估计量和估计值、区间估计。
最大似然估计与贝叶斯估计根本区别:
最大似然估计是把待估计的参数当作未知但固定的量,要做的是根据观测数据估计这个量的取值。
贝叶斯估计则把待估计的参数本身也看作是随机变量,要做的是根据观测数据对参数的分布进行估计,除了观测数据外,还可以考虑参数的先验分布。
贝叶斯学习则是把贝叶斯估计的原理用于直接从数据对概率密度函数进行迭代估计。