医疗大模型华佗GPT-2：医学问答超越GPT-4，通过2023年国家执业药师考试

时间：2024-05-01 07:25:00
前言

随着人工智能技术的快速发展，特别是在自然语言处理(NLP)领域，大型预训练模型如GPT系列已经显示出在多个领域的强大应用潜力。最近，华佗GPT-2医疗大模型的发布，不仅标志着人工智能在医学领域的一大进步，更是在2023年国家执业药师考试中展示了其超越国际知名GPT-4模型的卓越能力。

模型概述

华佗GPT-2是由由深圳市大数据研究院和香港中文大学（深圳）联合推出的医疗系列大模型。此模型结合了最先进的深度学习技术和大规模的医疗专业数据集，旨在为用户提供准确、专业的医学知识问答服务。华佗GPT-2通过融合ChatGPT生成的“蒸馏数据”和真实世界医生回复的数据，能够模仿医生的诊断能力，提供有用的医学信息。

  • Huggingface模型下载：https://huggingface.co/FreedomIntelligence/HuatuoGPT2-13B

  • AI快站模型免费加速下载：https://aifasthub.com/models/FreedomIntelligence

技术细节

华佗GPT-2模型采用了四种不同的数据集，包括来自ChatGPT的蒸馏指令数据集和真实医生指令数据集，以及相应的对话数据集，使得模型训练更加全面和深入。HuatuoGPT 使用了四种不同的数据集，分别如下：

  • 蒸馏 ChatGPT 指令数据集（Distilled Instructions from ChatGPT）：这个数据集受到 Alpaca 模型创建指令集的方法启发，从 ChatGPT 中提炼出医疗相关的指令。与之前工作不同的是，本方法还加入了科室和角色信息，根据采样的科室或角色生成符合条件的指令数据集。

  • 真实医生指令数据集（Real-world Instructions from Doctors）：这个数据集来源于真实医生和患者之间的问答。医生的回复通常简洁且口语化，因此本方法通过润色以提高其可读性。

  • 蒸馏 ChatGPT 对话数据集（Distilled Conversations from ChatGPT）：这个数据集通过为两个 ChatGPT 模型提供共享的对话背景，让它们分别模仿医生和患者进行对话。

  • 真实医生对话数据集（Real-world Conversations with Doctors）：这个数据集来源于真实医生的对话，但对医生的回复使用模型进行了润色。

此外，华佗GPT-2应用了基于AI反馈的强化学习技术（RLAIF），利用ChatGPT对生成内容的评分作为反馈，通过PPO算法优化模型的生成偏好，以达到与真实医生回复一致的高质量输出。

成就与影响

华佗GPT-2的成功不仅体现在通过了2023年的国家执业药师考试，更在于它在各项医疗资格考试和专业评测中均取得了优异成绩。这一成就不仅证明了华佗GPT-2在中文医疗场景上的强大能力，也展示了人工智能在医疗领域应用的巨大潜力和未来发展方向。

展望未来

医疗大模型华佗GPT-2的出现，不仅为医学研究和临床实践提供了强有力的工具，也为广大患者和公众提供了更便捷、更准确的医疗咨询服务。随着技术的进一步发展和优化，未来医疗大模型将在提高医疗服务质量、降低医疗成本等方面发挥更大的作用，为全人类的健康福祉贡献力量。

模型下载

Huggingface模型下载

https://huggingface.co/FreedomIntelligence/HuatuoGPT2-13B

AI快站模型免费加速下载

https://aifasthub.com/models/FreedomIntelligence

相关文章