1. 伯努利分布与二项分布
- 伯努利分布:Bern(x|μ)=μx(1−μ)1−x,随机变量 x 取值为 0,1,μ 表示取值为 1 的概率;
- 二项分布:Bin(m|N,μ)=(Nm)μm(1−μ)N−m
2. Beta 分布
Beta(μ|a,b) 是对 μ 进行建模;
Beta(μ|a,b)=Γ(a+b)Γ(a)Γ(b)μa−1(1−μ)b−1
3. 共轭分布
以 Beta(μ|a,b) 分布为参数 μ 的先验,二项分布为似然函数,则后验概率(poster):
p(μ|m,ℓ,a,b)∝μm+a−1(1−μ)ℓ+b−1
进一步,根据 Beta 分布的形式,我们可定义出符合 Beta 分布形式的后验概率形式:
p(μ|m,ℓ,a,b)=Γ(m+a+ℓ+b)Γ(m+a)Γ(ℓ+b)μm+a−1(1−μ)ℓ+b−1