ArXiv| Graph-Toolformer: 基于ChatGPT增强提示以赋予大语言模型图数据推理能力

时间:2024-01-27 12:35:09

ArXiv| Graph-Toolformer: 基于ChatGPT增强提示以赋予大语言模型图数据推理能力.

在这里插入图片描述

来自加利福利亚大学戴维斯分校计算机科学系的IFM实验室发表在arXiv上的文章:“Graph-ToolFormer: To Empower LLMs with Graph Reasoning Ability via Prompt Augmented by ChatGPT”。

文章的目的是开发具有复杂图数据推理能力的大型语言模型(LLMs)。 目前,LLMs在各种自然语言学习上取得了优异的表现,其各种扩展还被应用于研究多模态数据下的视觉任务。然而,在涉及图学习时,LLMs在执行精确的数学计算、多步逻辑推理、对空间和拓扑因素感知以及处理时间进程方面存在固有弱点,呈现出严重的缺陷。为了应对这些挑战,文章通过探讨原理、方法和算法,以赋予现有的LLMs图推理能力,这将对当前LLMs和图学习领域的研究产生巨大影响。

受最新的ChatGPT和Toolformer模型的启发,作者提出了Graph-ToolFormer(面向图推理的Toolformer)框架,通过ChatGPT增强提示(Prompt)来教导LLMs使用外部图推理API工具。 具体而言,文章将研究如何教导Graph-ToolFormer处理各种图数据推理任务,包括:(1)基础的图数据加载和图属性推理任务,范围从简单的图顺序和大小到图直径和周边;(2)在实际图数据上进行更高级的推理任务,如文献引用网络、蛋白质分子图、顺序推荐系统、在线社交网络和知识图谱。

从技术上讲(同Meta提出的Toolformer)