机器学习理论基础学习19---受限玻尔兹曼机(Restricted Boltzmann Machine)

时间:2024-09-26 10:35:44

一、背景介绍

玻尔兹曼机 = 马尔科夫随机场 + 隐结点

机器学习理论基础学习19---受限玻尔兹曼机(Restricted Boltzmann Machine)

二、RBM的Representation

BM存在问题:inference 精确:untractable; 近似:计算量太大

因此为了使计算简便,引入了RBM,RBM假设h,v之间有连结,h,v内部无连结

机器学习理论基础学习19---受限玻尔兹曼机(Restricted Boltzmann Machine)

从NB(朴素贝叶斯)推导到RBM的过程图 

机器学习理论基础学习19---受限玻尔兹曼机(Restricted Boltzmann Machine)

三、RBM的Inference

主要是已知learning求得参数之后,再来求后验概率P(h|v)、P(v|h),以及边缘概率P(v)

机器学习理论基础学习19---受限玻尔兹曼机(Restricted Boltzmann Machine)

机器学习理论基础学习19---受限玻尔兹曼机(Restricted Boltzmann Machine)