Kunt u Claude zelf hosten? De eerlijke realiteit

Kunt u Claude zelf hosten? Nee, en dit is waarom

U kunt Claude niet zelf hosten. Anthropic publiceert de modelgewichten niet, dus er is geen bestand om te downloaden, geen container om uit te voeren en geen licentie die u toestaat het vanaf uw eigen hardware aan te bieden. Elk verzoek aan Claude gaat naar de API van Anthropic of naar een gehoste partner zoals Amazon Bedrock, Google Vertex AI of Microsoft Foundry. Het draaien op een machine die u bezit is geen configuratieprobleem. Het artefact bestaat simpelweg niet buiten Anthropic.

Dat is het korte antwoord. Het langere antwoord is dat de meeste mensen die deze vraag stellen, de gewichten niet echt nodig hebben. Zij willen een van de drie volgende zaken die allemaal haalbaar zijn op een server die u beheert: een capabel model dat lokaal draait, een gateway die hun API-sleutels beheert en hun uitgaven beperkt, of een programmeer-agent die op hun eigen server draait in plaats van op hun laptop. Deze handleiding behandelt alle drie de opties, inclusief de commando's.

Wat "self-hosted Claude" doorgaans betekent

Zoekverkeer naar "self hosted Claude" valt uiteen in verschillende behoeften, waarvoor telkens een andere oplossing nodig is.

Sommige gebruikers zoeken privacy. Zij willen niet dat prompts hun netwerk verlaten. Alleen een lokaal model met open gewichten lost dit op, omdat elk verzoek aan Claude per definitie een verzoek aan Anthropic is.

Sommige gebruikers willen kostenbeheersing. Zij zijn bezorgd dat een ongecontroleerde agent hun tegoeden verbruikt. Een gateway lost dit op en werkt met Claude, waardoor u de modelkwaliteit behoudt.

Sommige gebruikers willen onafhankelijkheid van een laptop. Zij willen een agent die blijft werken terwijl de laptop is gesloten. Een VPS lost dit op en Claude Code draait hier probleemloos op.

Sommige gebruikers zoeken naar de term "self hosted OpenRouter". Ook dit is een gateway, waarvoor LiteLLM de gebruikelijke oplossing is.

Bepaal welke behoefte voor u geldt, aangezien de juiste configuratie per geval verschilt.

Zelf een open model hosten met Ollama

Als de eis is dat er geen prompt uw server verlaat, draai dan een model met open gewichten. De families die momenteel bruikbaar zijn op een gehuurde server zijn Llama, Qwen, Mistral, Gemma en DeepSeek. Van al deze modellen zijn de gewichten openbaar beschikbaar om te downloaden en uit te voeren.

Ollama is de snelste manier om te beginnen. Het installatiescript bestaat uit één regel en configureert automatisch een systemd-service op Ubuntu.

curl -fsSL https://ollama.com/install.sh | sh
systemctl status ollama

systemctl status ollama zou active (running) moeten weergeven. Haal daarna een model op en communiceer ermee.

ollama pull qwen3:8b
ollama run qwen3:8b "Summarise what a reverse proxy does in two sentences."

De eerste pull downloadt enkele gigabytes; het model moet dus in het RAM of in het GPU-geheugen passen voordat het antwoorden kan genereren. Een grove vuistregel voor gekwantiseerde modellen: een model met 8 miljard parameters heeft ongeveer 6 GB vrije ruimte nodig, een model met 14 miljard parameters ongeveer 10 GB, en een model met 70 miljard parameters vereist meer geheugen dan de meeste algemene VPS-abonnementen bieden. Als de server onvoldoende geheugen heeft, wordt het proces door de kernel beëindigd en ziet u Error: llama runner process has terminated, met een 'out of memory'-melding in dmesg. Controleer free -h voordat u het model de schuld geeft. Datzelfde geheugenbudget bepaalt ook hoeveel van een lange prompt het model daadwerkelijk leest, aangezien Ollama alles wat voorbij een bescheiden standaardvenster gaat stilletjes afkapt. Daarom is het verhogen van num_ctx en het instellen van de KV-cache het eerste wat u moet controleren wanneer lange documenten slechts half samengevat terugkomen.

Ollama biedt ook een HTTP API aan op 127.0.0.1:11434, wat het nuttig maakt voor andere software in plaats van enkel als chat-tool.

curl http://127.0.0.1:11434/api/generate -d '{"model":"qwen3:8b","prompt":"ping","stream":false}'

Als het eerste verzoek na een rustige periode dertig seconden duurt terwijl het volgende direct terugkomt, is er niets kapot: Ollama ontlaadt het model na vijf minuten inactiviteit, en het in het geheugen houden met keep_alive heft die herlaadvertraging op.

Laat die poort gebonden aan localhost. Een open Ollama-poort op een publiek IP-adres is een gratis GPU voor iedereen die hem vindt. De volledige opzet, inclusief de systemd-unit, GPU-detectie en het plaatsen van een reverse proxy ervoor, wordt behandeld in de handleiding voor het draaien van Ollama op een VPS. Als u meer dan één gebruiker tegelijk bedient, lees dan eerst de vergelijking tussen Ollama en vLLM, omdat het single-stream ontwerp van Ollama de bottleneck wordt nog voordat de hardware dat is.

Wees eerlijk over het verschil. Een goed open model op een middelgrote VPS is oprecht nuttig voor samenvatten, classificeren, opstellen en eenvoudige extractie. Bij complexe redeneringen in meerdere stappen, grote codebases en agent-gebaseerd gebruik van tools komt het niet in de buurt van een toonaangevend gehost model, en geen enkele hoeveelheid prompt-tuning dicht dat gat. Kies het lokale model voor het werk waar het goed in is, en betaal voor het gehoste model wanneer de complexiteit dat vereist.

Beheer uw eigen gateway met LiteLLM

Dit is de "self-hosted OpenRouter" waar veel gebruikers naar zoeken. Een gateway fungeert als tussenlaag tussen uw applicaties en elke modelprovider. Uw applicaties gebruiken één sleutel die naar uw server wijst. De daadwerkelijke providersleutels bevinden zich uitsluitend op die server. U kunt uitgaven per sleutel beperken, verschillende applicaties naar verschillende modellen routeren en elk verzoek centraal loggen.

LiteLLM is de meest gekozen optie omdat het een OpenAI-compatibele API gebruikt en fungeert als proxy voor Anthropic, Ollama en de meeste andere providers via hetzelfde eindpunt. Draai het in Docker met een configuratiebestand.

model_list:
  - model_name: claude
    litellm_params:
      model: anthropic/claude-sonnet-5
      api_key: os.environ/ANTHROPIC_API_KEY
  - model_name: local
    litellm_params:
      model: ollama/qwen3:8b
      api_base: http://127.0.0.1:11434

Sla dit op als litellm_config.yaml en start de proxy. Deze luistert op poort 4000.

docker run -v $(pwd)/litellm_config.yaml:/app/config.yaml \
  -e ANTHROPIC_API_KEY=$ANTHROPIC_API_KEY \
  -e LITELLM_MASTER_KEY=sk-1234 \
  -p 4000:4000 docker.litellm.ai/berriai/litellm:latest \
  --config /app/config.yaml

LITELLM_MASTER_KEY is het beheerderswachtwoord; behandel dit als een root-wachtwoord en verspreid de voorbeeldwaarde niet. Roep de proxy op precies zoals u een gehoste API zou aanroepen.

curl http://localhost:4000/v1/chat/completions \
  -H 'Authorization: Bearer sk-1234' \
  -H 'Content-Type: application/json' \
  -d '{"model": "claude","messages": [{"role": "user","content": "Say hello in five words."}]}'

Een succesvolle respons is standaard JSON met een choices-array. Een 401 duidt op een authenticatiefout. Bij deze configuratie is de gebruikelijke oorzaak een Authorization-header die niet overeenkomt met uw hoofdsleutel. LiteLLM geeft deze fout ook bij een ongeldige virtuele sleutel, of wanneer een providersleutel door de provider wordt geweigerd (bijvoorbeeld een onjuiste ANTHROPIC_API_KEY); in dat geval faalt de authenticatie ook, met de naam van de provider in de foutmelding in de vorm <Provider>Exception. Een 400 die het model benoemt, betekent vaak dat de model in uw verzoek niet overeenkomt met een model_name in het configuratiebestand. LiteLLM retourneert ook 400 wanneer een verzoek te lang is voor het contextvenster van het model; lees daarom de foutmelding voordat u de configuratie aanpast.

De reden om dit op te zetten in plaats van Anthropic rechtstreeks aan te roepen, is de uitgavenlimiet. Geef per applicatie een aparte virtuele sleutel uit, elk met een eigen budget.

curl 'http://0.0.0.0:4000/key/generate' \
--header 'Authorization: Bearer sk-1234' \
--header 'Content-Type: application/json' \
--data-raw '{"models": ["claude"], "max_budget": 100}'

Virtuele sleutels en budgetten vereisen een Postgres-database achter de proxy. De docker run hierboven bevat er geen, dus voeg eerst -e DATABASE_URL=postgresql://user:password@host:5432/litellm toe. Zonder database mislukt deze aanroep met No connected db..

Die sleutel kan honderd dollar uitgeven en slechts één model benaderen, en niets anders. Wanneer een agent zich om drie uur 's nachts misdraagt, is de schade beperkt tot één sleutel in plaats van uw gehele account. Dat patroon, inclusief de bijbehorende monitoring, is het onderwerp van het beheersen van agentkosten op een VPS. Als u nog twijfelt of u per token wilt betalen, helpt de vergelijking tussen API- en abonnementskosten u bij de berekening.

Let op wat de gateway niet doet. Het maakt Claude niet lokaal en het verbergt uw prompts niet voor Anthropic. Verzoeken verlaten nog steeds uw server richting de provider. Wat u wint, is controle over sleutels, uitgaven, routering en logs.

Claude Code op uw eigen VPS draaien

De derde wens is het eenvoudigst in te willigen. Claude Code is een client. Het installeert als een enkel native binary-bestand en communiceert via HTTPS met de API. Door het op een server in uw eigen beheer te plaatsen, blijft de agent actief nadat u uw laptop afsluit. Bovendien is de impact van de agent beperkt tot een omgeving die u opnieuw kunt opbouwen, in plaats van uw primaire machine.

npm install -g @anthropic-ai/claude-code
claude --version

Het npm-pakket vereist Node.js 22 of hoger, hoewel de installatie bij een oudere versie van Node.js slechts een EBADENGINE-waarschuwing geeft en alsnog wordt voltooid. De door Anthropic aanbevolen native installer, curl -fsSL https://claude.ai/install.sh | bash, heeft helemaal geen Node.js nodig. Hoe dan ook, het geïnstalleerde claude-binary-bestand draait niet op Node. Anthropic geeft 4 GB RAM op als minimumvereiste, dus kies een VPS die hieraan voldoet.

Draai het binnen tmux zodat een verbroken SSH-verbinding een langlopende taak niet onderbreekt. Die configuratie, inclusief het sessiebeheer, wordt behandeld in Claude Code draaien op een VPS met tmux. Geef de agent een eigen gebruiker zonder bevoorrechte rechten en lees de veiligheidsregels voor het draaien van Claude Code op een server voordat u de agent schrijfrechten geeft voor bestanden die voor u van belang zijn.

Dit is het zelf hosten van de agent, niet van het model. Het is belangrijk om hier nauwkeurig in te zijn, omdat dit het punt is dat mensen vaak verwarren. U bent eigenaar van het proces, het bestandssysteem, het netwerkverkeer en de logs. Anthropic blijft eigenaar van de inferentie.

Wat elke optie daadwerkelijk kost

Prijzen veranderen, dus beschouw deze als een indicatie en niet als een offerte. Per 17 oktober 2026 kost Claude Sonnet 5.5 $2 per miljoen input-tokens en $10 per miljoen output-tokens, en Claude Opus 5.5 kost $4 en $20. Sonnet 5, het model in de gateway-configuratie hierboven, is opgevolgd door Sonnet 5.5 maar is niet uitgefaseerd: de pagina met model-deprecations van Anthropic vermeldt dit model als 'Active', met een pensioenering die niet eerder dan 30 juni 2027 plaatsvindt. Het kost nog steeds $2 en $10, en Opus 5 kost nog steeds $5 en $25. Een lokaal model kost niets per token, maar kost in plaats daarvan het maandelijkse bedrag van de server, ongeacht of u het gebruikt of niet.

Het omslagpunt ligt lager dan mensen verwachten. Een VPS met voldoende geheugen om een bruikbaar open model te draaien kost elke maand geld en staat het grootste deel van de tijd stil. Als uw gebruik piekgewijs is, is de gehoste API meestal goedkoper. Als uw gebruik constant is, of als uw data uw netwerk niet mag verlaten, wint het lokale model op beide punten.

Het eerlijke, gecombineerde antwoord is waar de meeste teams op uitkomen. Draai een open model lokaal voor het werk met een hoog volume en een lage moeilijkheidsgraad. Route de complexe verzoeken naar een gehost frontier-model. Plaats een gateway voor beide, zodat applicaties niet hoeven te weten welk model wordt gebruikt en zodat u de grens daartussen kunt verleggen zonder de applicatiecode aan te passen. Die architectuur is de praktische versie van "zelfgehoste Claude", en in tegenstelling tot de letterlijke versie, bestaat deze wel. Als u ook de volledige agent-stack zelf wilt draaien, behandelt het overzicht van zelfgehoste AI-agents wat er beschikbaar is.

FAQ

Kan ik de modelgewichten van Claude downloaden en lokaal draaien?

Nee. Anthropic heeft nooit gewichten voor een Claude-model vrijgegeven en er is geen licentie die self-hosting toestaat. Alles wat online wordt aangeboden als een downloadbaar "Claude-model" is ofwel een ander model met een misleidende naam, of een wrapper die de API aanroept. Als er een API-sleutel vereist is, is het niet lokaal.

Wat is het open model dat het dichtst bij Claude ligt?

Er is geen exacte match en de koplopers veranderen elke paar maanden. De families met open gewichten die het testen waard zijn, zijn Llama, Qwen, Mistral, Gemma en DeepSeek. Bij het samenvatten, classificeren en eenvoudige code-aanpassingen is een goed open model met 8 tot 14 miljard parameters oprecht nuttig. Bij complexe redeneringen in meerdere stappen en het gebruik van agent-tools is de kloof met een gehost frontier-model nog steeds groot. Test op uw eigen prompts in plaats van te vertrouwen op een leaderboard.

Is LiteLLM een self-hosted OpenRouter?

Functioneel gezien wel, voor wat betreft de routing en het sleutelbeheer. LiteLLM draait op uw server, presenteert één OpenAI-compatibel eindpunt en fungeert als proxy naar Anthropic, Ollama en de meeste andere aanbieders. U krijgt bestedingslimieten per sleutel zodra er een Postgres-database is gekoppeld, plus model-routing en één centrale plek om logs in te zien. Wat het u niet biedt is lokale inferentie: verzoeken aan Claude gaan nog steeds naar Anthropic.

Blijft mijn code privé als ik Claude Code op mijn eigen server draai?

Nee. Claude Code verstuurt de inhoud van de bestanden die het leest naar de Anthropic API, ongeacht waar het proces draait. Wat een VPS u biedt is isolatie van de agent, niet de privacy van de inhoud. Geef het een toegewezen gebruiker zonder speciale rechten, houd het uit de buurt van inloggegevens en niet-gerelateerde repositories, en behandel alles wat het kan lezen als inhoud die de server verlaat.