SSD Nodes Learn Hosting plans →
指南 Matt Connor作者: Matt Connor

Ollama 国内安装与模型镜像:手动安装和 ModelScope 拉模型

国内服务器执行 install.sh 卡住时,可手动安装 Ollama v0.40.16 并校验 sha256,从 ModelScope 下载 GGUF 模型后导入,再弄清模型来源、代理设置与 mirrors 配置的区别。

为什么在国内安装 Ollama 会卡住

在国内安装 Ollama,最常见的情况是这样的:在阿里云或腾讯云的服务器上执行 curl -fsSL https://ollama.com/install.sh | sh,进度一直不动,或者过一会儿直接报错。2026-11-16 查看时,安装脚本和安装包的下载地址都跳转到了 GitHub 的发布页(Releases)。只要你的服务器到 GitHub 的连接慢或不稳定,安装就会跟着慢或失败。

解决办法分两半。程序部分:手动下载固定版本的安装包,自己校验 sha256,再解压安装。模型部分:改从 ModelScope(魔搭社区)拉取 GGUF 模型,拉不下来就先下载文件,再用 ollama create 导入。

下面的内容依据 2026-11-16 当天读到的 Ollama 官方文档和源码写成,版本固定在 Ollama v0.40.16。命令按 Ubuntu 24.04 写,其他发行版把 apt 换成对应的包管理器即可。

install.sh 实际是从哪里下载的

先自己确认一下。下面这条命令只取响应头,不下载内容:

curl -sI https://ollama.com/install.sh | grep -i -E '^(http|location)'

2026-11-16 查看时,第一行是 307 状态码,location 一行指向 https://github.com/ollama/ollama/releases/latest/download/install.sh。也就是说,当时 ollama.com 只是把请求转给 GitHub,GitHub 再把文件交给它自己的下载域名。安装包也一样:当时 https://ollama.com/download/ollama-linux-amd64.tar.zst 同样以 307 跳转到 GitHub 的 releases/latest/download/ 路径。

我们读了 v0.40.16 标签下的 scripts/install.sh,有几点直接影响国内用户:

  • 下载地址的前缀写死为 https://ollama.com/download,脚本里没有任何可以指向镜像的变量。
  • 脚本读取的环境变量只有 OLLAMA_VERSION,以及一个只在 macOS 上使用的 OLLAMA_NO_START。
  • OLLAMA_VERSION 只会在每个下载地址后面加上 ?version=版本号,主机名不变,所以它能锁定版本,不能更换下载源。
  • 脚本先用 HEAD 请求检查 ollama-linux-<架构>.tar.zst 是否存在,只有更老的版本才回退到 .tgz。
  • 脚本不下载、也不校验任何 checksum 文件。

v0.40.16 的 Linux 安装包只有 .tar.zst 格式,没有 .tgz,所以 zstd 是必需的。机器上没有 zstd 时,脚本会停下来,报错里有这样一句:

This version requires zstd for extraction. Please install zstd and try again:

结论很直接:v0.40.16 的安装脚本没有更换下载源的参数。下面的手动安装同样要用 GitHub 上的文件,区别有两点。第一,你可以在任何一台网络好的机器上下载,再传到服务器。第二,你可以在安装前自己校验文件。

为什么把版本固定在 v0.40.16

2026-11-16 查看时,GitHub 发布页把 v0.40.16 标为 Latest,发布时间是 2026-11-09,它是正式版,不是预发布版。v0.40.17 在 11 月 10 日出现在列表里,当时标记为 Pre-release。2026-11-21 重新查看时,v0.40.17 已标为 Latest,本文仍固定使用 v0.40.16。

releases/latest/download/ 这个路径会跟着 Latest 标记变化,今天和下个月下载到的可能是不同版本。releases/download/v0.40.16/ 永远指向同一个文件,所以这里给出的哈希值和步骤才能对得上。以后要升级,把命令里的版本号换掉,再重新校验一次即可。

手动安装 Ollama v0.40.16

第一步:安装 zstd

sudo apt update
sudo apt install -y zstd
zstd --version

.tar.zst 是用 zstd 压缩的 tar 包。GNU tar 解压这种文件时,要调用系统里的 zstd 程序(这是我们的补充说明,官方文档没有写)。所以缺了它,后面的解压一步就会失败。zstd --version 能打印出版本号,就说明装好了。

第二步:下载安装包和校验文件

先确认服务器的架构:

uname -m

输出 x86_64 用 amd64 安装包,输出 aarch64 用 arm64 安装包。下面以 amd64 为例,ARM 服务器把文件名换成 ollama-linux-arm64.tar.zst。

mkdir -p ~/ollama-v0.40.16 && cd ~/ollama-v0.40.16
curl -fL -o sha256sum.txt https://github.com/ollama/ollama/releases/download/v0.40.16/sha256sum.txt
curl -fL -C - -o ollama-linux-amd64.tar.zst https://github.com/ollama/ollama/releases/download/v0.40.16/ollama-linux-amd64.tar.zst

amd64 安装包大约 1.5 GB。-C - 表示断点续传:连接中断后,重新执行同一条命令,curl 会从已经下载的位置继续,不必从头开始。-f 让 curl 在服务器返回错误时直接失败,不会把一个错误页面存成安装包。版本号写错时,你会看到 curl: (22) The requested URL returned error: 404。

如果服务器上下载实在太慢,就换一台访问 GitHub 正常的电脑,下载这两个文件,再用 scp 传到服务器:

scp ollama-linux-amd64.tar.zst sha256sum.txt user@203.0.113.10:~/ollama-v0.40.16/

把 user 和 203.0.113.10 换成你自己的用户名和服务器地址。

第三步:校验 sha256

2026-11-16 查看时,sha256sum.txt 里列出了这个版本所有安装包的哈希,每一行的文件名都带着 ./ 前缀。如果直接执行 sha256sum -c sha256sum.txt,没下载的那些文件都会报错。所以只取你需要的那一行:

grep ' ./ollama-linux-amd64.tar.zst$' sha256sum.txt | sha256sum -c -

正常的输出是:

./ollama-linux-amd64.tar.zst: OK

如果看到 FAILED,以及 sha256sum: WARNING: 1 computed checksum did NOT match,说明文件损坏或者没下载完。这时先删掉文件再重新下载。不要用 -C - 续传,因为续传会保留前面那段坏数据。

还有一点要清楚:sha256sum.txt 和安装包放在同一个 GitHub 发布页上。它能发现下载中断和文件损坏,但它和安装包来自同一个地方,不是独立的第二来源。下面是我们在 2026-11-16 从 v0.40.16 发布页抄下来的两个哈希,你可以多对一次:

# amd64
echo '87bfafb2acbc89b2e6a1be0a9043de6aa75fb450696f86bc426e65fc448f788d  ollama-linux-amd64.tar.zst' | sha256sum -c -
# arm64
echo 'e45b8e6dcb86cb9f3057396351655079c9a4879b4ced2678c9350d375dcbc224  ollama-linux-arm64.tar.zst' | sha256sum -c -

只执行和你架构对应的那一条。哈希的原理和更多校验方法,见 用 sha256 校验下载文件的完整方法。

第四步:解压到 /usr

官方文档的手动安装是一条管道:curl ... | sudo tar x -C /usr。我们已经把文件存到了本地,所以改成从文件解压:

sudo tar --zstd -xf ollama-linux-amd64.tar.zst -C /usr
ollama -v

ollama 程序会放到 /usr/bin/ollama。ollama -v 的输出里应该有 0.40.16。这时服务还没有启动,只看版本号即可。

第五步:创建 ollama 用户和 systemd 服务

下面的命令和服务文件都来自官方 Linux 文档。先创建一个专门运行 Ollama 的系统用户,再把当前用户加入 ollama 组:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

然后写入服务文件:

sudo tee /etc/systemd/system/ollama.service > /dev/null <<'EOF'
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=multi-user.target
EOF

启动服务并设为开机自启:

sudo systemctl daemon-reload
sudo systemctl enable --now ollama
sudo systemctl status ollama --no-pager
ollama -v

systemctl status 里应该显示 active (running)。服务起来以后,Ollama 监听 localhost:11434。官方文档说明,本地 API 不需要任何认证,所以不要随手把它开放到公网。真要远程访问,先读 如何保护 Ollama API 端口。

如果你的服务器访问 GitHub 没问题,只是想锁定版本,也可以用官方文档里的写法:curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.40.16 sh。注意版本号不带 v。按 2026-11-16 核验的下载路径,这条命令仍然从 GitHub 下载,它解决的是版本问题,不是网络问题。

ModelScope 还在发布 Ollama 的 Linux 安装包吗

2026-11-16 查看时还在发布,但已经落后很多,不建议用。当时 ModelScope 上的 modelscope/ollama-linux 仓库说明里写着:它提供 Linux 安装文件和安装脚本,脚本不需要联网就能安装,并且从 v0.14.0 起安装包是 tar.zst 格式,需要先装 zstd。

问题在版本。2026-11-16 通过 ModelScope 的接口查看,这个仓库最新的标签是 v0.17.5,提交时间是 2026-03-03,仓库里只有 amd64 安装包,没有 arm64。当时它没有任何 v0.40.x 的标签,所以无法用它安装 v0.40.16。如果你看到旧教程推荐这个仓库,先查一下它当前的版本标签,再决定用不用。

从 ModelScope 拉模型:ollama run modelscope.cn

程序装好以后,下一个问题是模型。ollama pull <模型名> 这类不带主机的名字,走的是 Ollama 自己的模型仓库。Ollama 的源码把模型名解析成 主机/命名空间/模型:标签 四段,主机默认是 registry.ollama.ai,命名空间默认是 library。所以只要在名字前面写上别的主机,Ollama 就会去那个主机找模型。

2026-11-16 查看时,ModelScope 提供了这种接口。我们在 2026-11-16 请求了 Qwen/Qwen2.5-3B-Instruct-GGUF 仓库 Q4_K_M 标签的 manifest(模型清单),ModelScope 返回了 Ollama 格式的清单。其中模型层的类型是 application/vnd.ollama.image.model,大小是 2104932768 字节,和仓库里 qwen2.5-3b-instruct-q4_k_m.gguf(2.10 GB)一致。你可以自己看一眼:

curl -s https://modelscope.cn/v2/Qwen/Qwen2.5-3B-Instruct-GGUF/manifests/Q4_K_M | head -c 800; echo

输出里能看到 application/vnd.ollama.image.model,就说明服务端这一半是通的。然后拉取模型:

ollama pull modelscope.cn/Qwen/Qwen2.5-3B-Instruct-GGUF:Q4_K_M
ollama list
ollama run modelscope.cn/Qwen/Qwen2.5-3B-Instruct-GGUF:Q4_K_M

需要说明:我们确认了 Ollama 的名字解析规则和 ModelScope 的服务端响应,但没有在 v0.40.16 上从头到尾实际跑过这条命令。请你自己执行一次。ollama list 里出现这个名字,就说明成功了。失败的话,直接用下面「一定能用的办法」。

pull 和 run 的区别,以及模型文件落在磁盘的哪里,见 ollama pull 和 ollama run 的区别与模型存储位置。冒号后面的 Q4_K_M 是量化级别。2026-11-16 查看时,这个仓库还有 q2_k、q3_k_m、q4_0、q5_0、q5_k_m、q6_k、q8_0 和分成两个文件的 fp16。怎么选,见 Q4、Q8 和 FP16 量化怎么选。

还要注意许可证。2026-11-16 查看时,这个仓库 README 里的 license 字段是 other,名称是 qwen-research。它只是一个方便演示的例子。用于商业项目之前,先读仓库里的 LICENSE 文件,或者换一个许可证合适的 GGUF 仓库,命令格式不变。

Hugging Face 官方文档也写了同样的用法:ollama run hf.co/{username}/{repository}:{quantization}。标签不区分大小写,不写标签时默认用 Q4_K_M(前提是仓库里有这个文件)。如果你的服务器访问 hf.co 同样不顺,这条路也走不通。

hf-mirror.com 能配合 ollama pull 使用吗

目前无法确认,所以不建议依赖它。hf-mirror.com 首页讲的是 export HF_ENDPOINT=https://hf-mirror.com,这个变量是给 Hugging Face 自己的工具和它的 hfd 下载脚本用的。首页没有提到 Ollama,也没有提到 ollama pull。我们在 2026-11-16 从大陆以外请求它的清单接口时,只拿到一个说明页面,说访问者的 IP 不在大陆,会转到 Hugging Face 官网。所以我们既不能证明它能用,也不能证明它不能用。你可以在自己的服务器上试,但不要把生产流程建立在它上面。

一定能用的办法:先下载 GGUF,再 ollama create

如果直接拉取失败,就把下载和导入分开。这条路只需要能下载一个文件,不需要 Ollama 访问任何模型仓库。

先装 ModelScope 的命令行工具。Ubuntu 24.04 不允许直接用 pip install 往系统 Python 里装包,会报 error: externally-managed-environment,所以放进一个虚拟环境:

sudo apt install -y python3-venv
python3 -m venv ~/modelscope-venv
~/modelscope-venv/bin/pip install modelscope

然后只下载需要的那一个 GGUF 文件:

mkdir -p ~/gguf
~/modelscope-venv/bin/modelscope download --model Qwen/Qwen2.5-3B-Instruct-GGUF qwen2.5-3b-instruct-q4_k_m.gguf --local_dir ~/gguf
stat -c %s ~/gguf/qwen2.5-3b-instruct-q4_k_m.gguf

按 2026-11-16 核验的文件大小,stat 打印的应该是 2104932768。数字更小,说明没下载完,重新执行 download 命令。

接着写一个 Modelfile。官方导入文档里 FROM 用的是 GGUF 文件的绝对路径,这里用 $HOME 让 shell 自动展开成绝对路径:

echo "FROM $HOME/gguf/qwen2.5-3b-instruct-q4_k_m.gguf" > ~/gguf/Modelfile
cat ~/gguf/Modelfile
ollama create qwen2.5-3b-q4 -f ~/gguf/Modelfile
ollama run qwen2.5-3b-q4

cat 应该显示类似 FROM /home/你的用户名/gguf/qwen2.5-3b-instruct-q4_k_m.gguf 的一行。ollama create 完成后,ollama list 里会出现 qwen2.5-3b-q4:latest。Modelfile 里还能设置对话模板和参数,这些不在这里重复,完整步骤见 把 GGUF 模型导入 Ollama。

用 OLLAMA_MODELS 把模型放到数据盘

模型文件动辄几 GB。如果系统盘不大,最好一开始就把模型放到数据盘上。先搞清楚模型现在在哪里:

  • 按上面的步骤用 systemd 运行(服务以 ollama 用户运行):官方文档给出的位置是 /usr/share/ollama/.ollama/models。
  • 你自己在终端里执行 ollama serve:源码在 OLLAMA_MODELS 为空时使用当前用户的 $HOME/.ollama/models。

数据盘的挂载方法见 给 VPS 添加并挂载块存储卷。下面假设它挂在 /data。官方 FAQ 要求 ollama 用户对模型目录有读写权限:

sudo mkdir -p /data/ollama/models
sudo chown -R ollama:ollama /data/ollama
sudo systemctl edit ollama.service

systemctl edit 会打开一个编辑器,写入下面两行后保存:

[Service]
Environment="OLLAMA_MODELS=/data/ollama/models"

然后重新加载并重启:

sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama -p Environment

最后一条命令的输出里应该有 OLLAMA_MODELS=/data/ollama/models。之后再拉一个模型,用 sudo du -sh /data/ollama/models 看目录是否变大。服务起不来时,用 journalctl -u ollama -n 50 看日志,并检查目录属主是不是 ollama。

旧目录里已经下载的模型不会自动搬过去,因为 Ollama 只读取 OLLAMA_MODELS 指定的那一个目录。需要保留的话,先停服务,再复制并修正属主:

sudo systemctl stop ollama
sudo rsync -a /usr/share/ollama/.ollama/models/ /data/ollama/models/
sudo chown -R ollama:ollama /data/ollama
sudo systemctl start ollama
ollama list

网上说的 config.json mirrors 配置有用吗

没有用。有些中文教程让你在 ~/.ollama/config.json 里加一段 mirrors 配置。我们查了 Ollama 的官方 FAQ 和 v0.40.16 的环境变量源文件 envconfig/config.go,都没有这个设置:

  • 这个源文件不读取 config.json。它唯一加载的配置文件是 ~/.ollama/server.json,FAQ 里它的用途是关闭 Ollama 的云端功能(disable_ollama_cloud)。
  • 没有任何名字里带 registry 或 mirror 的环境变量。唯一沾边的是 OLLAMA_REMOTES,默认值是 ollama.com,它控制的是远程模型允许使用哪些主机,不是镜像地址。

所以要说清楚:ollama.com 的模型仓库没有官方的镜像开关。写进 config.json 的 mirrors 不会改变下载地址。能换下载源的,只有上面那种在模型名前面写上主机的方式。

官方给出的网络选项:HTTPS_PROXY

Ollama 的网络配置不只有 HTTPS_PROXY。v0.40.16 的 envconfig/config.go 还明确列出了 HTTP_PROXY(HTTP 代理)和 NO_PROXY(不使用代理),非 Windows 系统上还列出了 http_proxy、https_proxy 和 no_proxy。让 Ollama 通过代理发出请求,要设置 HTTPS_PROXY。FAQ 特别提醒不要设置 HTTP_PROXY,因为 Ollama 拉取模型只用 HTTPS,不用 HTTP。如果代理会解密 HTTPS 流量,还要把代理的证书装成系统证书。

在 systemd 服务里,用同样的 sudo systemctl edit ollama.service 加一行:

[Service]
Environment="HTTPS_PROXY=https://proxy.example.com"

把地址换成你自己有权使用的代理,然后执行 sudo systemctl daemon-reload 和 sudo systemctl restart ollama。代理只是换了一条网络路径,文件仍然来自原来的仓库,它不是镜像。用 Docker 运行 Ollama 时,FAQ 的做法是给容器传 -e HTTPS_PROXY=...,或者配置 Docker 守护进程的代理。

另一条路:把服务器放在大陆以外

如果你的服务不必部署在大陆,也可以把 Ollama 放在香港、新加坡或东京的服务器上,直接用官方的 install.sh 和 ollama.com 模型仓库拉取,前面的绕路步骤就可以省掉。代价是大陆用户访问这台服务器的速度要重新评估,详细对比见 面向中国用户的 VPS:境外还是大陆。

我们没有从这些地区实测速度,所以不做承诺。决定之前,在候选服务器上先跑一次:

curl -sI https://ollama.com/install.sh | grep -i -E '^(http|location)'
curl -L -o /dev/null --max-time 30 -w '%{http_code} %{speed_download}\n' https://github.com/ollama/ollama/releases/download/v0.40.16/ollama-linux-amd64.tar.zst

第二条命令最多下载 30 秒,最后打印 HTTP 状态码和平均速度(单位是字节每秒)。到时间被中断时 curl 会报超时,这是正常的,看速度那个数字就够了。在大陆服务器和境外服务器上各跑一次,就能用自己的数字做决定。

FAQ

国内服务器执行 curl install.sh 为什么一直卡住?

2026-11-16 核验时,https://ollama.com/install.sh 会以 307 跳转到 GitHub 发布页,脚本再从 https://ollama.com/download 下载安装包,而这个地址同样跳转到 GitHub。服务器到 GitHub 的连接慢或不稳定,安装就会卡住。脚本没有镜像变量,OLLAMA_VERSION 只能锁定版本。解决办法是手动下载 v0.40.16 的 .tar.zst 安装包(可以在别的电脑下载后用 scp 上传),用 sha256sum -c 校验,再用 sudo tar --zstd -xf ollama-linux-amd64.tar.zst -C /usr 安装。

Ollama 有官方的国内镜像或 mirrors 配置吗?

没有。Ollama 的 FAQ 和 v0.40.16 的环境变量源文件里都没有 mirrors 设置,也没有名字带 registry 或 mirror 的环境变量,~/.ollama/config.json 里的 mirrors 配置不会生效。OLLAMA_REMOTES 控制的是远程模型允许的主机,不是镜像。官方 FAQ 推荐用 HTTPS_PROXY 代理拉取模型;v0.40.16 源码还列出了 HTTP_PROXY、NO_PROXY 和非 Windows 系统上的小写形式,但 FAQ 提醒避免设置 HTTP_PROXY。要换模型来源,就在模型名前面写主机,例如 modelscope.cn/Qwen/Qwen2.5-3B-Instruct-GGUF:Q4_K_M。

ollama pull modelscope.cn 的模型失败了怎么办?

先用 curl -s https://modelscope.cn/v2/<组织>/<仓库>/manifests/<量化标签> 看 ModelScope 有没有返回包含 application/vnd.ollama.image.model 的清单,再确认量化标签在仓库里真的存在。还是不行,就改用两步法:用 modelscope download --model <组织>/<仓库> <文件名>.gguf --local_dir ~/gguf 下载 GGUF 文件,写一个 FROM /绝对路径/文件.gguf 的 Modelfile,再执行 ollama create 模型名 -f Modelfile。这一步不需要 Ollama 访问任何模型仓库。

ModelScope 上的 ollama-linux 安装包能用来装最新版吗?

2026-11-16 查看时不能。modelscope/ollama-linux 仓库当时最新的标签是 v0.17.5(2026-03-03),只有 amd64 安装包,没有任何 v0.40.x 版本,而 Ollama 当时的正式版是 v0.40.16。想装当前版本,请从 GitHub 发布页下载固定版本的安装包并校验 sha256。

Ollama 的模型默认存在哪里,怎么改到数据盘?

用官方 systemd 服务运行时,模型在 /usr/share/ollama/.ollama/models。自己执行 ollama serve 时,在当前用户的 $HOME/.ollama/models。要改到数据盘,先建目录并执行 sudo chown -R ollama:ollama <目录>,再用 sudo systemctl edit ollama.service 在 [Service] 下加 Environment="OLLAMA_MODELS=<目录>",最后执行 sudo systemctl daemon-reload 和 sudo systemctl restart ollama。旧目录的模型不会自动搬过去,要自己复制。

这篇文章对您有帮助吗?

#ollama#china#mirrors#modelscope#gguf#self-hosted-llm