ollama修改模型的下载位置解决C盘空间不足问题

时间：2024-11-16 08:38:26

文章目录

  • 概述
  • `Windows` 修改模型保存位置
  • `Linux` 修改模型保存位置
  • 参考资料

概述

ollama + open-webui 可以在本地环境部署如同 OpenAI 的 ChatGPT 的大语言模型交互 UI ，部署方法参考[[大语言模型本地部署与使用_ollama_open-webui]] ，但 ollama 的大语言模型文件默认保存在 C 盘 (Windows), 动辄几个GB甚至几十个GB的数据会占据系统盘很大的空间，这里记录一下将模型文件保存在其他路径的设置方法.

ollama 默认的模型保存路径如下:

  • Windows : C:\Users\%username%\.ollama\models
  • MacOS : ~/.ollama/models
  • Linux : /usr/share/ollama/.ollama/models

Windows 修改模型保存位置

注: 原文链接
通过设置环境变量，添加 OLLAMA_MODELS 环境变量，例如 E:\ollama\models,设置完成后重启 ollama 或 PowerShell，即可完成模型位置的迁移，再次加载或拉取模型文件时生效，如下图所示：

set environment

Linux 修改模型保存位置

注: 原文链接

如果 Ollama 以 systemd 服务的形式运行，则应使用 systemctl 设置环境变量：

  1. 通过调用 systemctl edit 编辑 systemd 服务。这将打开一个编辑器。
  2. 对于每个环境变量，在 [Service] 部分下添加一行 Environment：
[Service]
Environment="OLLAMA_MODELS=/home/<username>/ollama_models"
  1. 退出编辑器并保存文本
  2. 重新启动 ollama 服务
systemctl daemon-reload
systemctl restart ollama

参考资料

  • ollama Github

相关文章