ask-answer-system:简单的问答系统实现,利用TF-IDF,词向量,倒排表等方法

时间:2024-03-31 13:44:54
【文件属性】:

文件名称:ask-answer-system:简单的问答系统实现,利用TF-IDF,词向量,倒排表等方法

文件大小:18.74MB

文件格式:ZIP

更新时间:2024-03-31 13:44:54

系统开源

问-答系统 简单的问答系统实现,利用TF-IDF,词向量,倒排表等方法 数据集 综合类中文词库.xlsx:包含了中文词,当做字典来用(用作PART1) dev-v2.0.json:这个数据包含了问题和答案的对,但是以JSON格式存在,需要编写parser来提取出里面的问题和答案。 手套。6B:这个文件需要从网上下载,下载地址为: ://nlp.stanford.edu/projects/glove/,请使用d = 100的单词向量(用于PART3) 环境: Python 3(必须要使用Python 3) 任务描述 分词工具编写 利用枚举法来实现分词,也就是首先把所有可能的分词结果列出来,然后通过UNIGRAM模型来选择最好的分词结构(这部分的难点在于怎么生成所有的可能的分词结果) 这部分首先需要创建一个有向图,然后根据维特比算法来计算出最好的分词结果。这部分里的创建有向图和维特比部


【文件预览】:
ask-answer-system-master
----starter_code_update.ipynb(67KB)
----data()
--------train-v2.0.json(40.17MB)
--------综合类中文词库.xlsx(9.68MB)
----json_test.py(298B)
----Reduce函数介绍.ipynb(1KB)
----starter_code.ipynb(196KB)
----README.md(1KB)

网友评论