引言

本文是七月在线《NLP中的对话机器人》的视频笔记，主要介绍FAQ问答型聊天机器人的实现。

模型的评估

我们如何评估模型的好坏？由于我们的数据集没有提供测试数据，所以我们很难评估模型的好
坏。如果我们要做非常严谨的评估，最好是能够制作一个验证数据集，包括训练数据中不存在的
新问题，与该问题最相近的已知问题，以及问题的答案。

虽然我们实现的是FAQ问答机器人，但实际上解决的是搜索问题，比如给定问题查找最相似问题的答案。

MRR

评估指标可以采用Mean Reciprocal Rank(MRR)，这是一个推荐系统的评价指标，也就是正确答案在推荐答案中的排名的倒数平均。

MRR的原理如下：
$\text{MRR} = \frac{1}{|Q|} \sum_{i=1}^{|Q|} \frac{1}{\text{rank}_i}$

假设给定一个问题，你知道它的正确答案是什么。模型会在整个数据集上进行搜索，它会给数据集中的每个问题打一个分数，我们就知道正确答案被模型排到哪个位置。
正确答案排名越高表示系统越好，MRR表示的是最佳答案排名的倒数。最佳答案排名是1到样本总数n，那么倒数是就是0到1之间的数值。然后对所有问题样本计算的该数值求平均，得到的还是0到1之间的数值。分数越接近1表示模型越好。

其代码实现如下：


def mean_reciprocal_rank(rs):
    """Score is reciprocal of the rank of the first relevant item
    First element is 'rank 1'.  Relevance is binary (nonzero is relevant).
    Example from http://en.wikipedia.org/wiki/Mean_reciprocal_rank
    >>> rs = [[0, 0, 1], [0, 1, 0], [1, 0, 0]]
    >>> mean_reciprocal_rank(rs)
    0.61111111111111105
    >>> rs = np.array([[0, 0, 0], [0, 1, 0], [1, 0, 0]])
    >>> mean_reciprocal_rank(rs)
    0.5
    >>> rs = [[0, 0, 0, 1], [1, 0, 0], [1, 0, 0]]
    >>> mean_reciprocal_rank(rs)
    0.75
    Args:
        rs: Iterator of relevance scores (list or numpy) in rank order
            (first element is the first item)
    Returns:
        Mean reciprocal rank
    """
    rs = [np.asarray(r).nonzero()[0] for r in rs]
    return np.mean([1. / (r[0] + 1) if r.size else 0. for r in rs])

从注释中可知，rs = [[0, 0, 1], [0, 1, 0], [1, 0, 0]]表示正确答案的位置，比如第一个问题正确答案在位置3；第二个问题正确答案在位置2；第三个问题正确答案在位置1。

np.nonzero()返回非零元素的位置，可能有多个，因此返回的是数组。但这里实际上只有一个，nonzero()[0]得到它的位置。

rs = [[0, 0, 1], [0, 1, 0], [1, 0, 0]]
rs = [np.asarray(r).nonzero()[0] for r in rs]
rs

[array([2]), array([1]), array([0])]

这里表示我们只关注模型返回的前3个最相似问题，其中正确答案分别在位置3，位置2，和位置1。

np.mean([1. / (r[0] + 1) if r.size else 0. for r in rs])

0.611111111111111

如果某个结果中一个正确答案都没有，那么它的大小(size)就是0，得分就是0。否则得分为位置的倒数(索引才0开始，加1变成了位置)。

参考

https://gist.github.com/bwhite/3726239

秒客网

NLP中的对话机器人——模型的评估

引言

模型的评估

MRR

参考

相关文章