NMF算法简介及python实现(gradient descent)

原文链接：http://www.albertauyeung.com/mf.php

基本原理

NMF，非负矩阵分解，它的目标很明确，就是将大矩阵分解成两个小矩阵，使得这两个小矩阵相乘后能够还原到大矩阵。而非负表示分解的矩阵都不包含负值。从应用的角度来说，矩阵分解能够用于发现两种实体间的潜在特征，一个最常见的应用就是协同过滤中的预测打分值，而从协同过滤的这个角度来说，非负也很容易理解：打分都是正的，不会出现负值。

在例如Netflix或MovieLens这样的推荐系统中，有用户和电影两个集合。给出每个用户对部分电影的打分，我们希望预测该用户对其他没看过电影的打分值，这样可以根据打分值为其做出推荐。用户和电影的关系，可以用一个矩阵来表示，每一行表示用户，每一列表示电影，每个元素的值表示用户对已经看过的电影的打分，矩阵看起来如下：

	D1	D2	D3	D4
U1	5	3	-	1
U2	4	-	-	1
U3	1	1	-	5
U4	1	-	-	4
U5	-	1	5	4

而使用矩阵分解来预测评分的思想来源于，我们可以通过矩阵分解来发现一些用户打分的潜在特征。比如两个人都喜欢某一演员，那他们就倾向于给TA演的电影打高分；或者两个人都喜欢动作片。假如我们能够发现这些特征，我们就能够预测特定用户对特定电影的打分。

为了发现不同的特征，我们假设特征的数量少于用户和电影的数量（要是每个用户都有一个独立特征，那代价也太大啦）。

数学基础

首先，我们定义U为用户的集合，D为电影的集合，R = U * D，为评分的集合。假设我们需要寻找K个特征，则我们的目标是，找到两个矩阵P和Q，使得它们相乘近似等于R。即：

$NMF算法简介及python实现(gradient descent)$

这样P的每一行表示用户，每一列表示一个特征，它们的值表示用户与某一特征的相关性，值越大，表明特征越明显。同理，Q的每一行表示电影，每一列表示电影与特征的关联。最后为了预测用户ui对特定电影dj的评分，我们可以直接计算ui和dj对应的特征向量的点积，即：

$NMF算法简介及python实现(gradient descent)$

现在我们就来计算P和Q。最简单的方法就是梯度下降，该方法先初始化P和Q为特定的值，计算它们的乘积与真实矩阵的误差，然后通过迭代，逐渐减小误差直至收敛。

由于误差可大可小，这里使用平方根误差(squared error)来计算，计算公式如下：

$NMF算法简介及python实现(gradient descent)$

即循环地计算每一条目的误差，最后相加。

为了最小化误差，我们需要知道怎么改变Pik和Qkj的值(在梯度下降中表现为下降的方向)。我们对这个公式求偏微分，即得：

$NMF算法简介及python实现(gradient descent)$

计算出梯度之后，我们逐步更新Pik和Qkj：

$NMF算法简介及python实现(gradient descent)$

上面公式中， $NMF算法简介及python实现(gradient descent)$ 为梯度下降常数，通常取一个较小的值（防止无法收敛），如0.0002。

有人可能会问一个问题：假如我们计算出P和Q，使得P*Q近似等于R，那么那些未评分的不全是0了么？首先，我们并不要求P*Q精确等于R；其次，我们输入的数据是所有已评分的数据（或它的子集），即训练集，而并不包含未评分的数据。因此，它能够对未评分的做出不等于0的预测。

通过上面的更新规则，我们就可以逐步减小误差，直至收敛：

$NMF算法简介及python实现(gradient descent)$

规范化

上面的算法只是最简单的一个实现，实际使用中可能复杂得多。一个最常见的修改就是引入规范化，以防止过度拟合。这通过加入另外一个参数 $NMF算法简介及python实现(gradient descent)$ 来修改误差公式：

$NMF算法简介及python实现(gradient descent)$

参数 $NMF算法简介及python实现(gradient descent)$ 用来控制用户特征向量与条目特征向量的比例，以避免出现特征向量中出现特别大的值。实际应用中，通常设置为0~0.02之间的值。因此更新公式变成：

$NMF算法简介及python实现(gradient descent)$

一个简单的python实现如下（需要安装numpy）

import numpy

def matrix_factorisation(R, P, Q, K, steps=5000, alpha=0.0002, beta=0.02):
    Q = Q.T
    for step in range(steps):
        for i in range(len(R)):
            for j in range(len(R[i])):
                if R[i][j] > 0:
                    eij = R[i][j] - numpy.dot(P[i,:],Q[:,j])
                    for k in range(K):
                        P[i][k] = P[i][k] + alpha * (2 * eij * Q[k][j] - beta * P[i][k])
                        Q[k][j] = Q[k][j] + alpha * (2 * eij * P[i][k] - beta * Q[k][j])
        eR = numpy.dot(P,Q)
        e = 0
        for i in range(len(R)):
            for j in range(len(R[i])):
                if R[i][j] > 0:
                    e = e + pow(R[i][j] - numpy.dot(P[i,:],Q[:,j]), 2)
                    for k in range(K):
                        e = e + (beta/2) * (pow(P[i][k],2) + pow(Q[k][j],2))
        if e < 0.001:
            break
    return P, Q.T

使用示例如下：

R = [
     [5,3,0,1],
     [4,0,0,1],
     [1,1,0,5],
     [1,0,0,4],
     [0,1,5,4],
    ]

R = numpy.array(R)

N = len(R)
M = len(R[0])
K = 2

P = numpy.random.rand(N,K)
Q = numpy.random.rand(M,K)

nP, nQ = matrix_factorisation(R, P, Q, K)
nR = numpy.dot(nP, nQ.T)
print(nR)

最后P*Q还原出的矩阵如下：

	D1	D2	D3	D4
U1	4.97	2.98	2.18	0.98
U2	3.97	2.40	1.97	0.99
U3	1.02	0.93	5.32	4.93
U4	1.00	0.85	4.59	3.93
U5	1.36	1.07	4.89	4.12

可以看到，还原后的矩阵跟原矩阵很接近，并且对原来空缺的值作出了预测。在这个例子中，我们可以看到U1和U2口味比较接近，他们都喜欢D1和D2。而其他的用户则喜欢D3,D4和D5。

以上转自：http://blog.csdn.net/inte_sleeper/article/details/7294003

秒客网

NMF算法简介及python实现(gradient descent)

相关文章