【KAG:基于 OpenSPG 引擎的知识增强生成框架,旨在构建知识增强的严谨决策和信息检索知识服务】

时间:2024-10-27 18:57:12

KAG(Knowledge Augmented Generation)是一个基于OpenSPG引擎构建的知识增强生成框架,它旨在通过结合大型语言模型(LLM)和知识图谱的优势,提供更加严谨的决策支持和信息检索服务。KAG通过四个关键方面来增强LLM和知识图谱:对LLM友好的知识表示、知识图谱与原文片段之间的互索引、逻辑形式引导的混合推理引擎,以及与语义推理的知识对齐。

KAG的主要特点包括:

  1. 技术架构:KAG框架由kg-builder、kg-solver、kag-model三部分组成。kg-builder负责构建对LLM友好的知识表示,kg-solver则是一个逻辑形式引导的混合推理引擎。

  2. 知识表示:KAG能够处理非结构化数据、结构化信息和业务专家经验,并将它们融合到统一的业务知识图谱中。

  3. 逻辑形式引导的混合推理:KAG提出了一种新的推理引擎,它结合了规划、推理和检索三种类型的运算符,将自然语言问题转化为结合语言和符号的问题求解过程。

  4. 效果显著:在多跳问答任务中,KAG相较于其他方法如NaiveRAG、HippoRAG等,表现出显著的优势,例如在hotpotQA上的F1分数提高了19.6%,在2wiki上的F1分数提高了33.5%。

  5. 领域知识场景的应用:KAG已成功应用于蚂蚁集团的电子政务问答和电子健康问答等专业知识问答任务,显著提高了专业性

如何使用KAG:

  • 面向普通用户:可以通过Docker Compose启动服务,并在浏览器中访问KA*品。
  • 面向开发者:可以通过安装Python虚拟环境、克隆代码库、安装KAG包,并参考案例实现内置数据集的效果复现和新场景的落地。

如何扩展KAG:

  • 扩展能力:开发者可以扩展kag-builder和kag-solver的实现,以满足特定的需求。
  • 适配到定制模型:KAG支持与多种模型服务对接,包括OpenAI接口兼容的MaaS类API和本地模型。
  • 集成到其他框架:KAG可以集成到其他框架中,调用kag-builder和kag-solver完成图谱构建和推理问答。

KAG是一个强大的框架,它通过结合知识图谱和大型语言模型,为专业知识服务提供了一个有效的解决方案。如果你对KAG感兴趣,可以访问其GitHub页面了解更多信息:KAG GitHub