Verschil tussen ollama pull en ollama run uitgelegd
Begrijp het verschil tussen ollama pull en ollama run. Ontdek waar modellen worden opgeslagen, waarom ze uw schijf vullen en hoe u de opslaglocatie eenvoudig verplaatst.
ollama pull versus ollama run
ollama pull downloadt een model en stopt daarna. Voor een lokaal chatmodel downloadt ollama run het model alleen als dit ontbreekt, laadt het vervolgens in het geheugen en opent een interactieve chat. De download is identiek en de bestanden komen op dezelfde locatie terecht. Alleen run gaat daarna door. Embedding-modellen vormen de uitzondering op het chatgedeelte: de officiële documentatie toont dat ollama run embeddinggemma "Hello world" de embedding als een JSON-array afdrukt in plaats van als een antwoord. Zonder invoertekst weigert ollama run een embedding-model met embedding models require input text.
Dat ene verschil bepaalt welk commando in een script thuishoort en welk commando u vanaf een toetsenbord gebruikt.
ollama pull gemma4
ollama run gemma4
ollama run gemma4 "Reply with one word: ready"De eerste regel haalt het model op en sluit af, waardoor deze veilig is in provisioning en in een systemd-unit. De tweede opent een chatsessie; typ /bye of druk op Ctrl+D om deze te verlaten. De derde verstuurt een enkele prompt, drukt het antwoord af en sluit af; dit is de vorm die een script vereist wanneer het een antwoord nodig heeft in plaats van een sessie. Die derde vorm laat de lengte van het antwoord nog steeds volledig over aan het model, waardoor een vraag van één regel kan resulteren in drie alinea's. Het antwoord beperken met num_predict is wat een gescript run binnen een omvang houdt die de aanroeper daadwerkelijk kan verwerken. Modelnamen veranderen snel, dus beschouw gemma4 hier als een tijdelijke aanduiding: dit is het voorbeeld dat de officiële Ollama-documentatie gebruikt per oktober 2026; vervang dit door een ander lokaal chatmodel voor dezelfde workflow. Tags die eindigen op :cloud, zoals gemma4:cloud, zijn anders: Ollama draait deze op zijn eigen servers zonder de modelgewichten te downloaden, dus de schijfruimte hieronder geldt voor lokale modellen. Als u liever een model vervangt dat al is gedimensioneerd voor een echte server, biedt het draaien van Nemotron 3.5 Lightning op een VPS de exacte tag om op te halen en het geheugen dat het verwacht aan te treffen.
Waarom de eerste ollama run lijkt te zijn vastgelopen
Een eerste run op een verse VPS kan enkele minuten zonder output blijven staan. Er is niets defect. De chat-prompt kan pas verschijnen zodra het model op de schijf staat en in het geheugen is geladen, dus run voert een download van meerdere gigabytes uit voordat er iets getoond kan worden.
Twee factoren verhullen dit proces. Ollama schrijft de voortgangsbalk naar de standard error; op plekken waar die stroom wordt genegeerd of pas achteraf wordt uitgelezen, zoals een script dat eindigt op 2>/dev/null of een cron job, krijgt u geen melding dat er een download bezig is. Zodra de bytes zijn binnengehaald, moet het bestand bovendien van de schijf naar het RAM worden gelezen voordat het eerste token kan worden gegenereerd. Op een kleine VPS verloopt dit inlezen traag. Als de server onvoldoende geheugen heeft voor het model, begint de kernel met swappen en neemt de wachttijd aanzienlijk toe.
Monitor het proces vanuit een tweede sessie in plaats van te gissen:
df -h /
watch -n5 df -h /Op een verse server betekent afnemende vrije schijfruimte in stappen dat de download nog loopt. Als de vrije ruimte niet meer afneemt terwijl het commando nog actief is, betekent dit niet direct dat het laden is begonnen: na het downloaden voert Ollama een afzonderlijke verifying sha256 digest-fase uit die de bestanden leest voordat het manifest wordt geschreven en de pull wordt voltooid. Een server waarop al modellen stonden, kan u op Ollama 0.40.2 op het verkeerde been zetten: de eerste run van een model dat met een oudere versie was gedownload, schreef op de achtergrond een bijgewerkte kopie en behield het origineel als back-up, waardoor de vrije schijfruimte kon afnemen zonder dat er een download plaatsvond. Ollama 0.40.3, uitgebracht op 11 oktober 2026, heeft die achtergrond-upgrade gepauzeerd.
Dit is de reden om modellen vooraf te downloaden. De gebruiker die ollama run typt, zou nooit degene moeten zijn die op de download moet wachten.
Haal het model op voordat iemand erom vraagt
Hetzelfde geldt voor alles wat geen persoon is: een coding agent die naar uw Ollama-endpoint wijst krijgt een model-not-found-fout als het gevraagde lokale model niet is opgehaald; een inference-verzoek downloadt het model niet automatisch. Haal op een nieuwe machine het model op in hetzelfde script dat de server installeert:
curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4Als u de server voor de eerste keer opzet, behandelt de volledige Ollama op een VPS-installatie de service zelf en wie deze mag benaderen. Daarna is het de moeite waard om een pull-actie in te stellen die uw terminalsessie overleeft, omdat een download die halverwege wordt afgebroken ertoe leidt dat gebruikers eindigen met een gedeeltelijk gevulde modelopslag.
Voer dit uit binnen tmux, of geef het aan systemd als een one-shot unit die bij het opstarten wordt uitgevoerd. Schrijf /etc/systemd/system/ollama-pull.service:
[Unit]
Description=Pre-pull Ollama models
Wants=ollama.service network-online.target
After=ollama.service network-online.target
[Service]
Type=oneshot
RemainAfterExit=yes
ExecStart=/bin/sh -c 'until ollama list >/dev/null 2>&1; do sleep 2; done'
ExecStart=/bin/sh -c 'ollama pull gemma4'
[Install]
WantedBy=multi-user.targetBeide commando's worden bewust uitgevoerd via /bin/sh -c. Een kale ExecStart= accepteert een absoluut pad of een eenvoudige naam van een uitvoerbaar bestand dat wordt opgelost via het vaste zoekpad van systemd; command -v ollama toont het pad dat uw huidige shell vindt. Door via de shell te werken, wordt het service-PATH gebruikt in plaats van een pad dat uit een handleiding is gekopieerd. De eerste ExecStart is ook van belang: After=ollama.service betekent dat de server-unit is gestart, wat niet hetzelfde is als gereed zijn, dus de lus wacht tot ollama list antwoordt voordat de pull begint.
sudo systemctl daemon-reload
sudo systemctl enable --now ollama-pull.service
journalctl -u ollama-pull.serviceHet journal zou moeten laten zien dat de pull zonder fouten is voltooid en ollama list zou daarna het model moeten tonen. Om een bewegende tag actueel te houden, voegt u een systemd-timer of een wekelijkse cron-entry toe die dezelfde pull uitvoert. Het opnieuw ophalen van een tag die is verplaatst, downloadt de nieuwe lagen en verwijdert, voor de meeste modellen, aan het einde van diezelfde pull de oude lagen die nergens anders voor worden gebruikt.
Wat gebeurt er als een pull wordt onderbroken
Elke laag van een model wordt opgeslagen onder een hash van de eigen inhoud. Een onderbroken pull is daarom geen verloren werk: voer hetzelfde ollama pull-commando opnieuw uit, en de lagen die al voltooid waren worden herkend en overgeslagen, zodat de download doorgaat bij de laag die werd afgebroken.
Eén actie kan die voortgang tenietdoen. Wanneer de Ollama-server start, verwijdert deze gedeeltelijke downloads en opgeslagen lagen waarnaar geen enkel modelmanifest verwijst, en de brokstukken van een afgebroken pull vallen precies in die categorie. Huidige releases (0.40.11, gecontroleerd op 26 oktober 2026) slaan elk bestand over dat in het laatste uur is geschreven, dus een herstart kort nadat de pull is mislukt is ongevaarlijk, maar een herstart uren later gooit het deel dat u al had gedownload weg. Probeer de pull eerst opnieuw en herstart pas later. Als een gedeeltelijke download echt een herstart moet overleven, stel dan OLLAMA_NOPRUNE=1 in de service-omgeving in en verwijder deze daarna weer, omdat die variabele ook de opschoning aan het einde van elke pull uitschakelt, en die twee opschoonacties voorkomen dat er verweesde lagen op de schijf achterblijven.
Als de pull is mislukt met no space left on device, maak dan schijfruimte vrij voordat u het opnieuw probeert. Als df een volle schijf rapporteert en du op de modeldirectory dit niet verklaart, dan is de ruimte ergens anders naartoe gegaan, en de redenen waarom df en du verschillen zijn het lezen waard voordat u iets verwijdert.
Waar slaat Ollama modellen op een VPS op?
Vraag het aan uw eigen server in plaats van te vertrouwen op een pad uit een handleiding, inclusief deze. De locatie verschilt tussen een pakketinstallatie en een container, en verandert opnieuw als iemand OLLAMA_MODELS heeft ingesteld.
systemctl cat ollama.service
getent passwd ollama
sudo find / -xdev -type d -name blobs 2>/dev/nullsystemctl cat toont het unit-bestand samen met elke drop-in, zodat een OLLAMA_MODELS-regel die door u is ingesteld of in uw image is ingebakken, daar verschijnt. Zonder zo'n regel bevindt de opslag zich in de thuismap van het account waaronder de service draait, en getent passwd toont die thuismap in het zesde veld, gescheiden door dubbele punten. Het find-commando doorzoekt één bestandssysteem naar de blobs-map, waar de lagen daadwerkelijk worden weggeschreven. Laat -xdev weg als de modellen zich mogelijk al op een apart koppelpunt bevinden.
Meet nu zelf en lees uw eigen cijfers af:
ollama list
df -h /
sudo du -sh /the/directory/you/found
sudo du -h -d1 /the/directory/you/foundDe opslag bevat twee soorten inhoud. De manifest-mappen (manifests, samengevoegd door manifests-v2 in huidige releases) bevatten kleine bestanden die voor elke model-tag opsommen uit welke lagen deze is opgebouwd. blobs bevat de lagen zelf, elk vernoemd naar de hash van de inhoud, en bijna de gehele omvang bevindt zich daar. Omdat lagen worden gedeeld tussen tags, rapporteert elk van twee modellen die op dezelfde gewichten zijn gebaseerd hun eigen grootte in ollama list, terwijl ze die ruimte slechts eenmaal op de schijf innemen. De vermelde groottes kunnen daarom optellen tot meer dan wat du voor de map rapporteert. De tegenovergestelde verrassing komt van Ollama 0.40.2: modellen die op de achtergrond zijn geüpgraded, behouden hun oorspronkelijke kopie op de schijf als back-up, wat ollama list niet dubbel weergeeft, waardoor du veel meer kan rapporteren dan de lijst suggereert. De release notes van 0.40.2 bevatten een script dat alleen die back-ups verwijdert.
Modelbestanden vullen een klein VPS-rootbestandssysteem sneller dan al het andere dat u waarschijnlijk zult installeren, en de belangrijkste factor voor hun omvang is het gewichtsformaat. Kiezen tussen q4, q8 en fp16 scheelt gigabytes per model.
Verplaats de modellen naar een datavolume met OLLAMA_MODELS
Als het plan voorziet in een tweede schijf of een groter datavolume, verplaats de opslag dan voordat het root-bestandssysteem vol raakt. Stop eerst de server, zodat u geen bestand kopieert dat nog wordt weggeschreven.
sudo systemctl stop ollama
sudo mkdir -p /mnt/data/ollama-models
sudo rsync -a /the/directory/you/found/ /mnt/data/ollama-models/
sudo chown -R ollama:ollama /mnt/data/ollama-models
sudo systemctl edit ollama.servicesystemctl edit opent een editor voor een drop-in-bestand, zodat de meegeleverde unit ongewijzigd blijft en een pakket-upgrade uw wijziging niet kan overschrijven. Voeg deze twee regels toe:
[Service]
Environment="OLLAMA_MODELS=/mnt/data/ollama-models"sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment
ollama listsystemctl show hoort uw nieuwe pad weer te geven en ollama list hoort dezelfde modellen te tonen als voor de verplaatsing. Als de lijst leeg is, controleer dan of de nieuwe map de gekopieerde opslag bevat en of de server deze kan lezen. De service draait als de ollama gebruiker, dus die gebruiker heeft lees- en schrijfrechten nodig voor de bestemming; dit is de taak van de bovenstaande chown regel. Controleer journalctl -e -u ollama op permissiefouten die het nieuwe pad vermelden. Verwijder de oude kopie pas nadat de lijst correct is, want een mislukte verplaatsing in combinatie met een verwijderde bron betekent dat alles opnieuw moet worden gedownload.
De andere optie behoudt het oorspronkelijke pad en koppelt het datavolume daaraan:
echo '/mnt/data/ollama-models /the/directory/you/found none bind 0 0' | sudo tee -a /etc/fstab
sudo mount -a
findmnt /the/directory/you/found
df -h /findmnt dat de mount toont, betekent dat de bind actief is. Een bind mount is nuttig wanneer iets anders op de machine al de standaardlocatie verwacht. Er is één valkuil: de bestanden die u hebt gekopieerd, staan nog steeds onder het mountpoint op de root-schijf, verborgen door de mount. De schijfruimte komt pas vrij nadat u de mount ontkoppelt en de bestanden verwijdert. De omgevingsvariabele is de makkelijkste van de twee om uit te leggen aan de volgende beheerder die inlogt.
Waar een container ze bewaart
De officiële image slaat modellen op in wat u ook mount, niet in een hostmap die toebehoort aan een ollama gebruiker. Het gedocumenteerde run-commando is:
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollamaollama voor de dubbele punt is een named Docker volume, en /root/.ollama is de locatie waar de server binnen de container schrijft. Daarom vindt du op de paden uit de vorige sectie niets, omdat daar niets staat. Toon de werkelijke locatie en grootte:
docker volume inspect ollama
docker system df -v
docker exec -it ollama ollama listLees het Mountpoint veld uit docker volume inspect en voer vervolgens sudo du -sh uit op die locatie. Om de modellen op een datavolume te plaatsen, vervangt u het named volume door een hostmap (-v /mnt/data/ollama:/root/.ollama) en maakt u de container opnieuw aan. De container schrijft als root, waardoor die hostmap eigendom wordt van root. Bij rootless Podman wordt de container-root standaard gemapt naar de UID en GID van uw hostgebruiker, terwijl andere container-ID's gebruikmaken van subordinate ranges: Ollama draaien onder rootless Podman behandelt deze mapping.
Eén waarschuwing over opschonen. Een standaard docker volume prune verwijdert alleen anonieme volumes, dus het named ollama volume blijft behouden, maar docker volume prune --all verwijdert elk volume waarnaar geen enkele container verwijst, inclusief named volumes. Als u de ollama-container verwijdert of opnieuw aanmaakt zonder het bijbehorende volume, zal een latere prune --all elk model dat u heeft gedownload verwijderen, zonder mogelijkheid tot herstel behalve door ze opnieuw te downloaden. Lees hoe u Docker-schijfgebruik opschoont op een VPS voordat u prune uitvoert op een server die modellen host.
Verwijder een model met ollama rm, niet met rm
ollama list
ollama rm gemma4
ollama list
df -h /ollama rm verwijdert het manifest voor die tag en verwijdert vervolgens de lagen waarnaar geen enkel overgebleven manifest meer verwijst. De schijfruimte komt direct vrij zodra deze bestanden zijn ontkoppeld, dus df werkt onmiddellijk. Omdat lagen worden gedeeld, kan het verwijderen van een van de twee nauw verwante tags veel minder ruimte vrijmaken dan de grootte die ollama list ernaast weergeeft. Dit is het correcte gedrag, geen mislukte verwijdering.
Het handmatig verwijderen van bestanden verbreekt de koppeling. Verwijder een blob met rm en het manifest blijft ernaar verwijzen, waardoor ollama list het model blijft tonen en elke poging om het te gebruiken mislukt zodra de ontbrekende laag wordt gelezen. Verwijder een manifest handmatig en de bijbehorende lagen blijven op de schijf staan zonder dat er iets naar wijst; ze nemen ruimte in beslag waar geen enkel Ollama-commando u over zal informeren. Als u al een blob hebt verwijderd, wist ollama rm op de tag het achtergebleven item; als u het manifest hebt verwijderd, is er geen tag-item meer over om te verwijderen. Het herstarten van de server wist lagen waarnaar niets verwijst zodra deze ouder zijn dan een uur.
Nog één laatste onderscheid, omdat de twee constant door elkaar worden gehaald. ollama rm gaat over schijfruimte. ollama stop gemma4 verwijdert een model uit het geheugen en maakt geen schijfruimte vrij. Hoe lang een model in het RAM-geheugen blijft staan nadat het downloaden is voltooid, is een afzonderlijke instelling, en een model geladen houden in plaats van het bij elk verzoek opnieuw te laden behandelt dit onderwerp.
FAQ
Wat is het verschil tussen ollama pull en ollama run?
ollama pull downloadt een model naar de schijf en sluit af. ollama run controleert of het model al op de schijf staat, downloadt het indien dit niet het geval is, laadt het in het geheugen en opent vervolgens, bij een chatmodel, een interactieve chatsessie. Beide schrijven dezelfde bestanden naar dezelfde map. Gebruik pull in provisioning en scripts, en gebruik run wanneer een gebruiker achter het toetsenbord zit. ollama run <model> "your prompt" verstuurt één prompt en sluit af; dit is de scriptbare vorm van run.
Waarom lijkt mijn eerste ollama run te blijven hangen?
Het model kan worden gedownload, geverifieerd of in het geheugen worden geladen. De chat-prompt verschijnt pas zodra het model op de schijf staat en in het geheugen is geladen; een model is enkele gigabytes groot. Ollama schrijft de voortgangsbalk naar de standaardfoutuitvoer (stderr). Een run in een script dat deze stroom negeert, of in een cron-job, toont daarom niets terwijl het proces bezig is. Open een tweede sessie en voer watch -n5 df -h / uit: op een nieuwe machine betekent afnemende vrije schijfruimte dat de download bezig is. Download het model vooraf om de wachttijd voor downloaden en verifiëren te omzeilen; het laden kost nog steeds tijd.
Waar slaat Ollama zijn modellen op?
De locatie hangt af van de installatie, dus controleer dit in plaats van ervan uit te gaan. Voer systemctl cat ollama.service uit om te zien of OLLAMA_MODELS is ingesteld in de unit of een drop-in. Als dit niet het geval is, bevindt de opslag zich in de thuismap van het account waaronder de service draait, wat getent passwd ollama weergeeft. sudo find / -xdev -type d -name blobs 2>/dev/null lokaliseert de map met lagen direct. Bij een container-image bevindt de opslag zich in het gekoppelde volume en docker volume inspect ollama toont het host-Mountpoint.
Hoe verplaats ik Ollama-modellen naar een andere schijf?
Stop de service, kopieer de opslag naar de nieuwe locatie met rsync -a, wijs de map toe aan het service-account met sudo chown -R ollama:ollama <directory>, voer daarna sudo systemctl edit ollama.service uit en voeg Environment="OLLAMA_MODELS=<directory>" toe onder een [Service]-regel. Herlaad met sudo systemctl daemon-reload en herstart de service. Bevestig met systemctl show ollama --property=Environment en ollama list. Als de lijst leeg is, controleer dan of de nieuwe map de gekopieerde opslag bevat en of de ollama-gebruiker deze kan lezen; controleer journalctl -e -u ollama op rechtenfouten.
Maakt het verwijderen van modelbestanden de ruimte vrij?
Het handmatig verwijderen van bestanden maakt de bytes vrij, maar laat de opslag inconsistent achter. Verwijder een blob en het manifest bevat nog steeds dat model, waardoor het blijft verschijnen in ollama list en faalt bij gebruik. Verwijder een manifest en de lagen blijven op de schijf staan zonder verwijzingen. Gebruik ollama rm <model>, wat het manifest verwijdert en vervolgens de lagen die door geen enkel ander model nodig zijn. Als een blob al handmatig is verwijderd, voer dan ollama rm uit op de tag om de invoer te wissen. Als het manifest is verwijderd, is er geen tag-invoer meer om te verwijderen. Herstart de server om lagen die door geen enkel manifest worden verwezen te verwijderen zodra ze ouder zijn dan een uur.