出处:http://blog.sina.com.cn/s/blog_54d222750101dgz2.html
马尔可夫网络,(马尔可夫随机场、无向图模型)(Markov Random Field)
马尔可夫网络类似贝叶斯网络用于表示依赖关系。但是,一方面它可以表示贝叶斯网络无法表示的一些依赖关系,如循环依赖;另一方面,它不能表示贝叶斯网络能够表示的某些关系,如推导关系。马尔可夫网络的原型是易辛模型,最初是用来说明该模型的基本假设。
- 一个无向图 G = (V,E),每个顶点 v ∈V 表示一个在集合的随机变量,每条边 {u,v} ∈ E 表示随机变量u 和 v之间的一种依赖关系。
- 一个函数集合 (也称为因子 或者 团因子 有时也称为特征),每一个 的定义域是图G的团或子团k. 每一个 是从可能的特定联合的指派(到元素k)到非负实数的映射。
-
联合分布(吉布斯测度)用马尔可夫网络可以表示为:
其中是向量,是随机变量在第k个团的状态( 是在第k个团中包含的节点数。),乘积包括了图中的所有团。注意马尔可夫性质在团内的节点存在,在团之间是不存在依赖关系的。这里, 是配分函数,有
- .
实际上,马尔可夫网联络经常表示为对数线性模型。通过引入特征函数 ,得到
和
以及划分函数
- 。
其中,是权重,是势函数,映射团到实数。这些函数有时亦称为吉布斯势;术语势 源于物理,通常从字面上理解为在临近位置产生的势能。
对数线性模型是对势能的一种便捷的解释方式。一个这样的模型可以简约的表示很多分布,特别是在领域很大的时候。另一方面,负的似然函数是凸函数也带来便利。但是即便对数线性的马尔可夫网络似然函数是凸函数,计算似然函数的梯度仍旧需要模型推理,而这样的推理通常是难以计算的。
马尔可夫性质:
马尔可夫网络有这样的马尔可夫性质:图的顶点u在状态的概率只依赖顶点u的最近临节点,并且顶点u对图中的其他任何节点是条件独立的。该性质表示为
顶点u的最近临节点集合 也称为顶点u的马尔可夫毯。