医疗大模型华佗GPT-2:医学问答超越GPT-4,通过2023年国家执业药师考试

时间:2024-05-01 07:25:00
前言

随着人工智能技术的快速发展,特别是在自然语言处理(NLP)领域,大型预训练模型如GPT系列已经显示出在多个领域的强大应用潜力。最近,华佗GPT-2医疗大模型的发布,不仅标志着人工智能在医学领域的一大进步,更是在2023年国家执业药师考试中展示了其超越国际知名GPT-4模型的卓越能力。

模型概述

华佗GPT-2是由由深圳市大数据研究院和香港中文大学(深圳)联合推出的医疗系列大模型。此模型结合了最先进的深度学习技术和大规模的医疗专业数据集,旨在为用户提供准确、专业的医学知识问答服务。华佗GPT-2通过融合ChatGPT生成的“蒸馏数据”和真实世界医生回复的数据,能够模仿医生的诊断能力,提供有用的医学信息。

  • Huggingface模型下载:https://huggingface.co/FreedomIntelligence/HuatuoGPT2-13B

  • AI快站模型免费加速下载:https://aifasthub.com/models/FreedomIntelligence

技术细节

华佗GPT-2模型采用了四种不同的数据集,包括来自ChatGPT的蒸馏指令数据集和真实医生指令数据集,以及相应的对话数据集,使得模型训练更加全面和深入。HuatuoGPT 使用了四种不同的数据集,分别如下:

  • 蒸馏 ChatGPT 指令数据集(Distilled Instructions from ChatGPT):这个数据集受到 Alpaca 模型创建指令集的方法启发,从 ChatGPT 中提炼出医疗相关的指令。与之前工作不同的是,本方法还加入了科室和角色信息,根据采样的科室或角色生成符合条件的指令数据集。

  • 真实医生指令数据集(Real-world Instructions from Doctors):这个数据集来源于真实医生和患者之间的问答。医生的回复通常简洁且口语化,因此本方法通过润色以提高其可读性。

  • 蒸馏 ChatGPT 对话数据集(Distilled Conversations from ChatGPT):这个数据集通过为两个 ChatGPT 模型提供共享的对话背景,让它们分别模仿医生和患者进行对话。

  • 真实医生对话数据集(Real-world Conversations with Doctors):这个数据集来源于真实医生的对话,但对医生的回复使用模型进行了润色。

此外,华佗GPT-2应用了基于AI反馈的强化学习技术(RLAIF),利用ChatGPT对生成内容的评分作为反馈,通过PPO算法优化模型的生成偏好,以达到与真实医生回复一致的高质量输出。

成就与影响

华佗GPT-2的成功不仅体现在通过了2023年的国家执业药师考试,更在于它在各项医疗资格考试和专业评测中均取得了优异成绩。这一成就不仅证明了华佗GPT-2在中文医疗场景上的强大能力,也展示了人工智能在医疗领域应用的巨大潜力和未来发展方向。

展望未来

医疗大模型华佗GPT-2的出现,不仅为医学研究和临床实践提供了强有力的工具,也为广大患者和公众提供了更便捷、更准确的医疗咨询服务。随着技术的进一步发展和优化,未来医疗大模型将在提高医疗服务质量、降低医疗成本等方面发挥更大的作用,为全人类的健康福祉贡献力量。

模型下载

Huggingface模型下载

https://huggingface.co/FreedomIntelligence/HuatuoGPT2-13B

AI快站模型免费加速下载

https://aifasthub.com/models/FreedomIntelligence