DeepSeek 协程API 调用与 vllm推理,llamafactory本地vllm部署-简介时间:2025-03-29 08:43:16 使用协程调用DeepSeek的API,发现效果并不明显,没有加速的效果。 但如是本地部署DeepSeek,本地部署需要支持异步调用,我使用 llamafactory 部署,发现协程加速的效果还是很显著的。