极大似然估计(MLE)

时间:2023-03-08 16:37:44
极大似然估计(MLE)

基本思想

模型已定,参数未知

根据已存在的样本,挑选(求出)能让样本以最大概率发生的参数

极大似然估计和最小二乘法最大区别之一 极大似然需要知道概率密度函数(离散型叫分布律)

若总体X属离散型,其分布律极大似然估计(MLE)的形式是已知,极大似然估计(MLE)为待估参数,极大似然估计(MLE)极大似然估计(MLE)的取值范围

极大似然估计(MLE)是来自极大似然估计(MLE)的样本,极大似然估计(MLE)的样本值为极大似然估计(MLE),则极大似然估计(MLE)的联合分布律为:

极大似然估计(MLE)

似然函数就是样本都发生的概率,即联合概率,公式如下

极大似然估计(MLE)

求解思路

(1)写出似然函数;

(2)对似然函数取对数,并整理;

(3)求导数,令导数为0,得到似然方程;

(4)解似然方程,得到的参数即为所求;

示例

极大似然估计(MLE)

极大似然估计(MLE)

极大似然估计(MLE)

极大似然估计(MLE)

引用自http://blog.csdn.net/weiyudang11/article/details/51523836