openwebui使用-feature

时间:2024-11-19 07:20:13
  1. 可以加载多个大模型 同时回复
    模型问答: 使用vLLM框架部署模型,再使用Open WebUI直接进行模型问答
    多模型支持: 多模型回复比对(Qwen2-72B-Instruct, llama3-70b-8192, mixtral-8x7b)
    RAG场景1: 文档问答
    RAG场景2: 使用Web Search进行问答
    Function Calling: 需用Python实现工具(Tool)代码
    多模态场景: 对图片进行问答(VQA)
    Pipelines: pipeline编排,可自定义工作流程
    模型问答