Ollama pull 与 run 有什么区别,模型文件在哪
`ollama pull`只下载模型后退出,`ollama run`缺失时下载并打开聊天。了解模型文件位置、为何占满 VPS 根磁盘,以及如何迁移存储目录。
ollama pull 与 ollama run
ollama pull会下载模型,然后退出。对于本地聊天模型,ollama run只会在模型缺失时下载模型,随后将模型加载到内存并打开交互式聊天。下载内容相同,文件也会保存到相同位置。只有 run会继续执行后续操作。嵌入模型不适用聊天部分:官方文档显示,ollama run embeddinggemma "Hello world"会输出 JSON 数组形式的嵌入向量,而不是回复。没有输入文本时,ollama run会通过 embedding models require input text拒绝嵌入模型。
这个差异决定了哪个命令适合放入脚本,哪个命令适合在终端中手动执行。
ollama pull gemma4
ollama run gemma4
ollama run gemma4 "Reply with one word: ready"第一行下载模型并退出,因此适合用于初始化配置和 systemd 单元。第二行打开聊天会话;输入 /bye 或按 Ctrl+D 退出。第三行发送单个提示词,打印回答后退出;当脚本需要回答而不是会话时,应使用这种形式。不过,第三种形式仍然完全由模型决定回答长度,因此一个单行问题可能得到 3 个段落的回答;使用 通过 num_predict 限制回答长度,才能将脚本中的 run 控制在调用方实际可处理的大小内。模型名称变化很快,因此请将这里的 gemma4 视为占位符:截至 October 2026,这是 Ollama 官方文档使用的示例;在相同流程中,可以替换为其他本地聊天模型。以 :cloud 结尾的标签(例如 gemma4:cloud)有所不同:Ollama 会在自己的服务器上运行这些模型,而不会下载模型权重,因此下文的磁盘空间要求仅适用于本地模型。如果您希望改用已经根据真实服务器资源进行过规格验证的模型,在 VPS 上运行 Nemotron 3.5 Lightning 会提供要拉取的确切标签及其所需内存。
首次运行 ollama 时为什么看起来像卡住了
在全新的 VPS 上,首次执行 run 后可能几分钟没有任何输出。这不是故障。只有模型下载到磁盘并加载到内存后,聊天提示符才会出现。因此,run 会先下载数 GB 的数据,之后才会显示任何内容。
有两件事会隐藏这个过程。Ollama 将进度条写入标准错误,因此在该流被丢弃或延迟到命令结束后才读取的场景中(例如以 2>/dev/null 结尾的脚本或 cron 任务),你不会看到任何下载正在进行的提示。下载完成后,还必须将文件从磁盘读入 RAM,才能生成第一个 token。在小型 VPS 上,这个读取过程可能很慢。如果主机没有足够内存容纳模型,内核会开始使用 swap,等待时间会进一步延长。
不要猜测,改用第二个会话监控:
df -h /
watch -n5 df -h /在全新的主机上,可用空间逐步减少,表示下载仍在进行。命令仍处于忙碌状态时,如果可用空间停止减少,不能据此确认模型已经开始加载:下载完成后,Ollama 还会执行单独的 verifying sha256 digest 阶段,读取文件,然后写入 manifest 并完成拉取。在 Ollama 0.40.2 中,已有模型的主机可能会造成误判:使用旧版本下载的模型首次运行时,Ollama 会在后台写入升级后的副本,并保留原文件作为备份,因此即使没有下载,可用空间也可能继续减少。Ollama 0.40.3 于 11 October 2026 发布,暂停了这一后台升级过程。
这就是应提前拉取模型的原因。输入 ollama run 的人不应承担下载所需的等待时间。
在有人请求前先拉取模型
对于任何非人工调用方,情况也一样:指向 Ollama 端点的代码代理在请求的本地模型尚未拉取时会收到 model-not-found 错误;推理请求不会自动下载模型。在新服务器上,应在安装服务器的同一脚本中执行拉取:
curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4如果您是首次部署服务器,完整的 VPS 上 Ollama 安装指南会介绍服务本身,以及允许哪些客户端访问它。完成这些配置后,值得设置一项不会随终端退出而中断的拉取任务,因为下载中途被终止,容易导致模型存储库只填充了一部分。
在 tmux 中运行该命令,或者将其交给 systemd,作为启动时运行的一次性单元。写入 /etc/systemd/system/ollama-pull.service:
[Unit]
Description=Pre-pull Ollama models
Wants=ollama.service network-online.target
After=ollama.service network-online.target
[Service]
Type=oneshot
RemainAfterExit=yes
ExecStart=/bin/sh -c 'until ollama list >/dev/null 2>&1; do sleep 2; done'
ExecStart=/bin/sh -c 'ollama pull gemma4'
[Install]
WantedBy=multi-user.target这两个命令都故意通过 /bin/sh -c 运行。直接使用 ExecStart= 时,systemd 只接受绝对路径,或通过其固定搜索路径解析出的简单可执行文件名;command -v ollama 会显示当前 shell 找到的路径。通过 shell 运行时使用的是服务的 PATH,而不是从指南中复制的路径。第一个 ExecStart 也很重要:After=ollama.service 表示服务器单元已经启动,但这不等于服务已就绪,因此循环会等待 ollama list 返回后再开始拉取。
sudo systemctl daemon-reload
sudo systemctl enable --now ollama-pull.service
journalctl -u ollama-pull.servicejournal 应显示拉取已完成且没有错误,随后 ollama list 应显示该模型。要保持会移动的标签为最新状态,请添加 systemd timer 或每周运行一次的 cron 条目,执行相同的拉取命令。重新拉取已移动的标签会下载新的层;对于大多数模型,在同一次拉取结束时,还会删除其他对象不再使用的旧层。
拉取中断后会发生什么
模型的每个层都按其自身内容的哈希值存储。因此,拉取中断不会浪费已完成的工作:再次运行相同的 ollama pull 时,系统会识别并跳过已经完成的层,从中断的层继续下载。
但有一个操作会破坏这部分进度。Ollama 服务器启动时,会删除不属于任何模型清单的部分下载文件和已存储层;中断拉取留下的文件正属于这类内容。当前版本(0.40.11,已于 26 October 2026 检查)会跳过最近 1 小时内写入的文件,因此在拉取中断后不久重启不会造成问题;但几小时后再重启,就会丢弃已经下载的部分。应先重试拉取,之后再重启。如果确实需要让部分下载在重启后保留,请在服务环境中设置 OLLAMA_NOPRUNE=1,完成后再移除该设置,因为该变量也会关闭每次拉取结束时的清理操作;这两项清理机制可以防止孤立层持续占用磁盘空间。
如果拉取因 no space left on device 中断,请先释放空间再重试。如果 df 报告磁盘已满,而模型目录中的 du 无法解释这些空间占用,说明空间被其他位置占用。在删除任何内容前,建议阅读df 和 du 结果不一致的原因。
Ollama 会将模型存储在哪里?
请直接查询您自己的服务器,不要相信任何教程(包括本文)提供的路径。软件包安装和容器中的位置不同;如果有人设置了 OLLAMA_MODELS,路径还会再次变化。
systemctl cat ollama.service
getent passwd ollama
sudo find / -xdev -type d -name blobs 2>/dev/nullsystemctl cat 会输出单元文件及其所有 drop-in 配置,因此您设置的 OLLAMA_MODELS 行或镜像中预置的该行都会显示在输出中。如果没有此类配置,模型存储目录位于服务运行账户的主目录下;getent passwd 会在以冒号分隔的第六个字段中输出该主目录。find 会在一个文件系统中搜索 blobs 目录,模型层实际就写入该目录。如果模型可能已经位于单独的挂载点上,请删除 -xdev。
现在测量实际占用空间,并以您自己的结果为准:
ollama list
df -h /
sudo du -sh /the/directory/you/found
sudo du -h -d1 /the/directory/you/found存储内容分为两类。清单目录(manifests;在当前版本中由 manifests-v2 连接)包含较小的文件。这些文件会列出每个模型标签所使用的模型层。blobs 包含模型层本身。每个模型层都以其内容的哈希值命名,占用的空间几乎全部来自这里。由于不同标签之间会共享模型层,使用相同权重构建的两个模型会在 ollama list 中分别报告自己的大小,但在磁盘上只占用一份空间。因此,列出的大小相加后可能大于 du 报告的目录大小。
另一个容易造成误判的情况来自 Ollama 0.40.2:它在后台升级的模型会在磁盘上保留原始副本作为备份,但 ollama list 不会将这些备份重复显示。因此,du 报告的大小可能远大于列表中显示的大小。0.40.2 的发行说明中包含一个脚本,该脚本只会删除这些备份。
模型文件会比您可能安装的其他内容更快填满小型 VPS 的根文件系统。影响模型大小的最大因素是权重格式。选择 q4、q8 和 fp16 每个模型都可能节省数 GB 空间。
使用 OLLAMA_MODELS 将模型移到数据卷
如果规划中包含第二块磁盘或更大的数据卷,请在根文件系统耗尽空间前移动模型存储。先停止服务器,避免复制仍在写入的文件。
sudo systemctl stop ollama
sudo mkdir -p /mnt/data/ollama-models
sudo rsync -a /the/directory/you/found/ /mnt/data/ollama-models/
sudo chown -R ollama:ollama /mnt/data/ollama-models
sudo systemctl edit ollama.servicesystemctl edit 会打开 drop-in 文件的编辑器,因此不会修改软件包提供的单元文件,软件包升级也不会覆盖您的更改。添加以下两行:
[Service]
Environment="OLLAMA_MODELS=/mnt/data/ollama-models"sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment
ollama listsystemctl show 应输出新的路径,ollama list 应显示移动前已有的相同模型。如果列表为空,请确认新目录包含复制后的模型存储,并确认服务器可以读取该目录。该服务以 ollama 用户身份运行,因此该用户必须拥有目标目录的读写权限;上面的 chown 行负责设置此权限。检查 journalctl -e -u ollama 是否存在涉及新路径的权限错误。只有在列表正确后才能删除旧副本,因为移动失败后又删除源文件,就必须重新下载所有内容。
另一种方法是保留原路径,并将数据卷挂载到该路径:
echo '/mnt/data/ollama-models /the/directory/you/found none bind 0 0' | sudo tee -a /etc/fstab
sudo mount -a
findmnt /the/directory/you/found
df -h /findmnt 输出挂载信息,表示绑定挂载已生效。当系统上的其他程序已经依赖默认位置时,绑定挂载很有用。但它有一个问题:您复制出去的文件仍位于根磁盘上的挂载点下,只是被挂载内容隐藏;只有卸载并删除这些文件后,磁盘空间才会释放。对于下一个登录系统的人员来说,环境变量更容易解释。
容器实际将它们保存在哪里
官方镜像会将模型存储在您挂载的位置,而不是存储在属于某个 ollama 用户的主机目录中。文档记录的运行命令如下:
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama冒号前的 ollama 是命名 Docker 卷,/root/.ollama 是服务器在容器内写入数据的位置。因此,针对上一节中的路径运行 du 不会找到任何内容,因为这些路径中没有模型。打印实际位置及其大小:
docker volume inspect ollama
docker system df -v
docker exec -it ollama ollama list从 docker volume inspect 读取 Mountpoint 字段,然后对该路径运行 sudo du -sh。如需将模型存储在数据卷中,请将命名卷替换为主机目录(-v /mnt/data/ollama:/root/.ollama),然后重新创建容器。容器会以 root 身份写入,因此该主机目录最终归 root 所有。在 rootless Podman 下,容器中的 root 默认会映射到主机用户的 UID 和 GID,其他容器 ID 则使用从属 ID 范围:在 rootless Podman 下运行 Ollama介绍了这种映射。
清理时需要注意:普通的 docker volume prune 只会删除匿名卷,因此会保留命名的 ollama 卷;但 docker volume prune --all 会删除所有未被任何容器引用的卷,包括命名卷。删除或重新创建 ollama 容器时如果不保留其卷,之后运行 prune --all 会删除您下载的所有模型,除非重新下载,否则无法恢复。在为存储模型的服务器运行 prune 前,请先阅读如何清理 VPS 上的 Docker 磁盘占用。
使用 ollama rm 删除模型,不要使用 rm
ollama list
ollama rm gemma4
ollama list
df -h /ollama rm 会删除该标签的清单,然后删除所有不再被任何清单引用的层。取消链接这些文件后,空间会立即释放,因此 df 会马上生效。由于层可以共享,删除两个密切相关标签中的一个,释放的空间可能远小于 ollama list 旁显示的大小。这是正常行为,不是删除失败。
手动删除文件会破坏这组对应关系。使用 rm 删除 blob 后,清单仍会列出它,因此 ollama list 仍会显示该模型;但尝试使用模型时,读取缺失层会失败。手动删除清单后,对应层仍会留在磁盘上,但已没有任何引用它们的内容,因此会持续占用空间,且 Ollama 的任何命令都不会报告这些空间。如果你已经删除了 blob,可对该标签执行 ollama rm,清除遗留条目;如果你删除的是清单,则已没有标签条目可供删除。当未被引用的层超过一小时后,重启服务器会清理这些层。
最后说明一个经常混淆的区别。ollama rm 针对磁盘空间。ollama stop gemma4 会将模型从内存中卸载,但完全不会释放磁盘空间。下载完成后模型在 RAM 中保留多长时间,是另一个独立设置;让模型保持加载状态,而不是每次请求都重新加载对此进行了说明。
FAQ
ollama pull 和 ollama run 有什么区别?
ollama pull 将模型下载到磁盘后退出。ollama run 检查模型是否已在磁盘上;如果没有,则下载模型,将其加载到内存,然后对聊天模型打开交互式聊天会话。两者将相同文件写入同一目录。在配置环境和脚本中使用 pull,有人在终端操作时使用 run。ollama run <model> "your prompt" 发送一条提示并退出,这是 run 的可脚本化形式。
为什么第一次 ollama run 看起来像是卡住了?
它可能正在下载、验证下载内容或加载模型。只有模型已写入磁盘并加载到内存后,聊天提示符才会出现;而一个模型可能有数 GB。Ollama 将进度条写入标准错误,因此脚本中丢弃该流的 run,或 cron 作业中的 run,在运行期间不会显示任何内容。打开第二个会话并运行 watch -n5 df -h /:在新系统上,空闲空间逐步减少表示下载正在进行。提前拉取模型可以省去下载和验证等待时间,但加载模型仍需要时间。
Ollama 将模型存储在哪里?
存储位置取决于安装方式,因此应将其打印出来,而不要自行假定。运行 systemctl cat ollama.service,查看单元或 drop-in 中是否设置了 OLLAMA_MODELS。如果未设置,存储目录位于服务运行账户的主目录下,该目录可由 getent passwd ollama 打印。sudo find / -xdev -type d -name blobs 2>/dev/null 可直接定位层目录。对于容器镜像,存储目录位于挂载卷内,docker volume inspect ollama 可打印其主机端 Mountpoint。
如何将 Ollama 模型移动到其他磁盘?
停止服务,使用 rsync -a 将存储目录复制到新位置,使用 sudo chown -R ollama:ollama <directory> 将目录所有者设为服务账户,然后运行 sudo systemctl edit ollama.service,并在 [Service] 行下添加 Environment="OLLAMA_MODELS=<directory>"。使用 sudo systemctl daemon-reload 重新加载并重启服务。使用 systemctl show ollama --property=Environment 和 ollama list 进行确认。如果列表为空,请检查新目录是否包含复制的存储目录,以及 ollama 用户是否有读取权限;检查 journalctl -e -u ollama 是否报告权限错误。
删除模型文件后会释放空间吗?
手动删除文件会释放磁盘空间,但会使存储目录不一致。删除 blob 后,manifest 仍会列出该模型,因此它仍显示在 ollama list 中,并且使用时会失败。删除 manifest 后,其层仍保留在磁盘上,但没有任何内容引用它们。请使用 ollama rm <model>;该命令会删除 manifest,以及其他模型不再需要的层。如果某个 blob 已被手动删除,请对该标签运行 ollama rm,以清除对应条目。如果 manifest 已被删除,则没有剩余的标签条目可供删除。重启服务器,以删除任何 manifest 都未引用且已超过一小时的层。