Claude selbst hosten: Die ehrliche Antwort

Können Sie Claude selbst hosten? Nein, und das ist der Grund

Sie können Claude nicht selbst hosten. Anthropic veröffentlicht die Modellgewichte nicht. Daher gibt es keine Datei zum Herunterladen, keinen Container zum Ausführen und keine Lizenz, mit der Sie das Modell auf Ihrer eigenen Hardware bereitstellen könnten. Jede Claude-Anfrage geht an die API von Anthropic oder an einen gehosteten Partner wie Amazon Bedrock, Google Vertex AI oder Microsoft Foundry. Claude auf einem eigenen Rechner auszuführen, ist kein Konfigurationsproblem. Das erforderliche Artefakt existiert außerhalb von Anthropic schlicht nicht.

Das ist die kurze Antwort. Die längere Antwort lautet: Die meisten Personen, die diese Frage stellen, benötigen die Modellgewichte tatsächlich nicht. Sie benötigen eines von drei Dingen, die alle auf einem von Ihnen kontrollierten Server möglich sind: ein leistungsfähiges Modell, das lokal ausgeführt wird, ein Gateway, das Ihre API-Schlüssel verwaltet und Ihre Ausgaben begrenzt, oder einen Coding-Agent, der auf Ihrem eigenen Rechner statt auf Ihrem Laptop läuft. Dieser Leitfaden behandelt alle drei Varianten einschließlich der Befehle.

Was „self-hosted Claude“ normalerweise bedeutet

Suchanfragen nach „self hosted Claude“ beziehen sich auf mehrere unterschiedliche Anforderungen. Dafür gibt es jeweils andere Lösungen.

Manche Nutzer möchten den Datenschutz verbessern. Ihre Prompts sollen das eigene Netzwerk nicht verlassen. Das lässt sich nur mit einem lokalen Modell mit offenen Gewichten erreichen, weil jede Claude-Anfrage definitionsgemäß an Anthropic gesendet wird.

Manche Nutzer möchten die Kosten kontrollieren. Sie befürchten, dass ein außer Kontrolle geratener Agent zu viele Credits verbraucht. Ein Gateway löst dieses Problem. Es funktioniert mit Claude, sodass die Modellqualität erhalten bleibt.

Manche Nutzer möchten nicht von einem Laptop abhängig sein. Sie möchten, dass ein Agent weiterarbeitet, während der Laptop zugeklappt ist. Ein VPS löst dieses Problem. Claude Code läuft darauf problemlos.

Manche Nutzer suchen nach einem „self hosted OpenRouter“. Auch das ist ein Gateway. Die übliche Lösung dafür ist LiteLLM.

Finden Sie zuerst heraus, welcher Anwendungsfall auf Sie zutrifft. Der richtige Aufbau unterscheidet sich in jedem Fall.

Ein Open-Weight-Modell mit Ollama selbst hosten

Wenn kein Prompt Ihren Server verlassen darf, verwenden Sie ein Open-Weight-Modell. Die Modellfamilien, die sich heute auf einem gemieteten Server tatsächlich einsetzen lassen, sind Llama, Qwen, Mistral, Gemma und DeepSeek. Für alle diese Familien werden Weights veröffentlicht, die Sie herunterladen und ausführen können.

Ollama ist der schnellste Einstieg. Das Installationsskript besteht aus einer Zeile und richtet unter Ubuntu einen systemd-Dienst ein.

curl -fsSL https://ollama.com/install.sh | sh
systemctl status ollama

systemctl status ollama sollte active (running) ausgeben. Laden Sie anschließend ein Modell herunter und senden Sie ihm eine Anfrage.

ollama pull qwen3:8b
ollama run qwen3:8b "Summarise what a reverse proxy does in two sentences."

Beim ersten pull werden mehrere Gigabyte heruntergeladen. Das Modell muss daher in den Arbeitsspeicher oder den GPU-Speicher passen, bevor es Anfragen beantworten kann. Als grobe Faustregel für quantisierte Modelle gilt: Ein Modell mit 8 Milliarden Parametern benötigt etwa 6 GB freien Speicher, ein Modell mit 14 Milliarden Parametern etwa 10 GB. Ein Modell mit 70 Milliarden Parametern benötigt mehr Speicher, als die meisten VPS-Tarife für allgemeine Zwecke bereitstellen. Wenn der Server zu wenig Speicher hat, beendet der Kernel den Prozess. Sie sehen dann Error: llama runner process has terminated und in dmesg eine Zeile mit einem Out-of-Memory-Fehler. Prüfen Sie free -h, bevor Sie das Modell dafür verantwortlich machen. Das gleiche Speicherbudget bestimmt außerdem, wie viel eines langen Prompts das Modell tatsächlich liest. Ollama kürzt alles nach einem relativ kleinen Standardfenster stillschweigend ab. Wenn lange Dokumente daher nur teilweise zusammengefasst zurückkommen, sollten Sie zuerst num_ctx erhöhen und den KV-Cache dimensionieren.

Ollama stellt außerdem eine HTTP-API unter 127.0.0.1:11434 bereit. Dadurch kann andere Software darauf zugreifen, statt Ollama nur als Chat-Anwendung zu verwenden.

curl http://127.0.0.1:11434/api/generate -d '{"model":"qwen3:8b","prompt":"ping","stream":false}'

Wenn die erste Anfrage nach einer längeren Pause 30 Sekunden dauert und die nächste sofort beantwortet wird, ist nichts defekt: Ollama entfernt das Modell nach fünf Minuten ohne Aktivität aus dem Speicher. Mit keep_alive bleibt es resident und muss nicht erneut geladen werden.

Binden Sie diesen Port an localhost. Ein offener Ollama-Port auf einer öffentlichen IP-Adresse stellt jedem, der ihn findet, kostenlos GPU-Ressourcen bereit. Der vollständige Aufbau einschließlich der systemd-Unit, der GPU-Erkennung und eines vorgeschalteten Reverse Proxys wird im Leitfaden zum Betrieb von Ollama auf einem VPS beschrieben. Wenn Sie mehr als einen Benutzer gleichzeitig bedienen, lesen Sie zuerst den Vergleich von Ollama und vLLM. Ollamas Design mit einem einzelnen Stream wird deutlich früher zum Engpass als die Hardware.

Seien Sie beim Vergleich realistisch. Ein gutes Open-Weight-Modell auf einem mittelgroßen VPS ist für Zusammenfassungen, Klassifizierung, Entwürfe und einfache Extraktion tatsächlich nützlich. Bei langen mehrstufigen Schlussfolgerungen, großen Codebasen und agentischer Tool-Nutzung kommt es nicht annähernd an ein gehostetes Frontier-Modell heran. Keine Optimierung der Prompts schließt diese Lücke. Wählen Sie das lokale Modell für Aufgaben, die es gut bewältigt, und verwenden Sie das gehostete Modell dort, wo die Aufgabe tatsächlich schwierig ist.

Betreiben Sie Ihr eigenes Gateway mit LiteLLM

Dies ist der „self-hosted OpenRouter“, nach dem viele suchen. Ein Gateway sitzt zwischen Ihren Anwendungen und allen Modellanbietern. Ihre Anwendungen verwenden einen einzigen Schlüssel und greifen damit auf Ihren Server zu. Die echten Anbieter-Schlüssel liegen nur auf diesem Server. Sie können Ausgaben pro Schlüssel begrenzen, verschiedene Anwendungen an unterschiedliche Modelle weiterleiten und jede Anfrage zentral protokollieren.

LiteLLM ist eine häufige Wahl, weil es eine OpenAI-kompatible API bereitstellt und über denselben Endpunkt an Anthropic, Ollama und die meisten anderen Anbieter weiterleitet. Führen Sie es mit einer Konfigurationsdatei in Docker aus.

model_list:
  - model_name: claude
    litellm_params:
      model: anthropic/claude-sonnet-5
      api_key: os.environ/ANTHROPIC_API_KEY
  - model_name: local
    litellm_params:
      model: ollama/qwen3:8b
      api_base: http://127.0.0.1:11434

Speichern Sie die Datei als litellm_config.yaml und starten Sie den Proxy. Er lauscht auf Port 4000.

docker run -v $(pwd)/litellm_config.yaml:/app/config.yaml \
  -e ANTHROPIC_API_KEY=$ANTHROPIC_API_KEY \
  -e LITELLM_MASTER_KEY=sk-1234 \
  -p 4000:4000 docker.litellm.ai/berriai/litellm:latest \
  --config /app/config.yaml

LITELLM_MASTER_KEY ist das Administratorkennwort. Behandeln Sie es daher wie ein root-Passwort und verwenden Sie nicht den Beispielwert. Rufen Sie den Proxy genauso auf wie eine gehostete API.

curl http://localhost:4000/v1/chat/completions \
  -H 'Authorization: Bearer sk-1234' \
  -H 'Content-Type: application/json' \
  -d '{"model": "claude","messages": [{"role": "user","content": "Say hello in five words."}]}'

Eine erfolgreiche Antwort ist normales JSON mit einem choices-Array. Ein 401 bedeutet, dass der Authorization-Header nicht mit Ihrem Master-Schlüssel übereinstimmt. Ein 400 mit dem Modellnamen bedeutet, dass model in Ihrer Anfrage keinem model_name in der Konfigurationsdatei entspricht.

Der Grund, dieses Gateway einzurichten, statt Anthropic direkt aufzurufen, ist die Ausgabenbegrenzung. Erstellen Sie für jede Anwendung einen eigenen virtuellen Schlüssel mit einem eigenen Budget.

curl 'http://0.0.0.0:4000/key/generate' \
--header 'Authorization: Bearer sk-1234' \
--header 'Content-Type: application/json' \
--data-raw '{"models": ["claude"], "max_budget": 100}'

Mit diesem Schlüssel können Sie einhundert Dollar ausgeben und ein Modell erreichen, aber nichts anderes. Wenn sich ein Agent um drei Uhr morgens fehlerhaft verhält, beschränkt sich der mögliche Schaden auf einen Schlüssel und betrifft nicht Ihr gesamtes Konto. Dieses Muster und die zugehörige Überwachung werden unter Agentenkosten auf einem VPS unter Kontrolle halten behandelt. Wenn Sie noch entscheiden, ob Sie überhaupt pro Token zahlen möchten, stellt Kostenvergleich zwischen API und Abonnement die Berechnung auf.

Beachten Sie, was das Gateway nicht leistet. Es macht Claude nicht lokal verfügbar und verbirgt Ihre Prompts nicht vor Anthropic. Anfragen verlassen Ihren Server weiterhin in Richtung des Anbieters. Sie erhalten jedoch Kontrolle über Schlüssel, Ausgaben, Routing und Logs.

Claude Code auf Ihrem eigenen VPS ausführen

Der dritte Wunsch lässt sich am einfachsten erfüllen. Claude Code ist ein Client. Es läuft überall dort, wo Sie Node.js installieren können, und kommuniziert über HTTPS mit der API. Wenn Sie es auf einem eigenen Server installieren, arbeitet der Agent weiter, nachdem Sie Ihren Laptop ausgeschaltet haben. Außerdem bleibt der mögliche Schadensumfang auf einen Server begrenzt, den Sie neu aufsetzen können, statt auf Ihr Hauptsystem.

npm install -g @anthropic-ai/claude-code
claude --version

Führen Sie es innerhalb von tmux aus, damit eine unterbrochene SSH-Verbindung keinen langen Auftrag beendet. Diese Konfiguration einschließlich der Sitzungsverwaltung wird unter Claude Code mit tmux auf einem VPS ausführen beschrieben. Geben Sie dem Agenten einen eigenen Benutzer ohne privilegierte Rechte. Lesen Sie außerdem die Sicherheitsregeln für Claude Code auf einem Server, bevor Sie ihm Schreibzugriff auf wichtige Daten geben.

Sie hosten dabei den Agenten selbst, nicht das Modell. Eine klare Unterscheidung ist wichtig, weil beides häufig verwechselt wird. Ihnen gehören der Prozess, das Dateisystem, der ausgehende Netzwerkverkehr und die Logs. Anthropic betreibt weiterhin die Inferenz.

Was jede Option tatsächlich kostet

Preise ändern sich. Betrachten Sie diese Angaben daher als Größenordnung und nicht als Angebot. Im Juli 2026 kostet Claude Sonnet 5 laut Preisliste $3 pro 1 Million Eingabetoken und $15 pro 1 Million Ausgabetoken. Für Claude Opus 5 liegen die Preise bei $5 beziehungsweise $25. Ein lokales Modell kostet pro Token nichts. Stattdessen zahlen Sie die monatlichen Serverkosten, unabhängig davon, ob Sie das Modell verwenden.

Der Break-even-Punkt liegt niedriger als viele erwarten. Ein VPS mit ausreichend Arbeitsspeicher für ein brauchbares Open Model kostet jeden Monat echtes Geld. Außerdem ist er die meiste Zeit ungenutzt. Bei stoßweiser Nutzung ist die gehostete API meist günstiger. Bei kontinuierlicher Nutzung oder wenn Ihre Daten das Netzwerk nicht verlassen dürfen, ist das lokale Modell in beiden Punkten überlegen.

Die ehrliche Mischlösung ist die, bei der die meisten Teams landen. Führen Sie ein Open Model lokal für Aufgaben mit hohem Volumen und geringer Schwierigkeit aus. Leiten Sie schwierige Anfragen an ein gehostetes Frontier Model weiter. Schalten Sie vor beide Modelle ein Gateway. Dadurch müssen die Anwendungen nicht wissen, welches Modell eine Anfrage verarbeitet. Außerdem können Sie die Aufgabengrenze zwischen beiden Modellen verschieben, ohne den Anwendungscode anzupassen. Diese Architektur ist die praktische Variante von "self hosted Claude". Anders als die wörtliche Variante existiert sie tatsächlich. Wenn Sie außerdem den gesamten Agent-Stack selbst betreiben möchten, behandelt die Übersicht zu selbst gehosteten AI-Agenten, welche Optionen verfügbar sind.

FAQ

Kann ich Claudes Modellgewichte herunterladen und lokal ausführen?

Nein. Anthropic hat niemals Gewichte für ein Claude-Modell veröffentlicht, und es gibt keine Lizenz, die Self-Hosting erlaubt. Alles, was online als herunterladbares „Claude-Modell“ beworben wird, ist entweder ein anderes Modell mit irreführendem Namen oder ein Wrapper, der die API aufruft. Wenn ein API-Schlüssel erforderlich ist, läuft es nicht lokal.

Welches Open Model kommt Claude am nächsten?

Es gibt keine exakte Entsprechung, und die führenden Modelle ändern sich alle paar Monate. Die Open-Weight-Modellfamilien Llama, Qwen, Mistral, Gemma und DeepSeek sind einen Test wert. Für Zusammenfassungen, Klassifizierung und einfache Codeänderungen ist ein gutes Open Model mit 8 bis 14 Milliarden Parametern tatsächlich nützlich. Bei langen mehrstufigen Schlussfolgerungen und der agentenbasierten Nutzung von Tools ist der Abstand zu einem gehosteten Frontier-Modell weiterhin groß. Testen Sie Ihre eigenen Prompts, statt sich auf ein Leaderboard zu verlassen.

Ist LiteLLM ein selbst gehostetes OpenRouter?

Funktional ja, was Routing und Schlüsselverwaltung betrifft. LiteLLM läuft auf Ihrem Server, stellt einen OpenAI-kompatiblen Endpunkt bereit und fungiert als Proxy für Anthropic, Ollama und die meisten anderen Anbieter. Sie erhalten Ausgabenlimits pro Schlüssel, Model-Routing und eine zentrale Stelle zum Lesen der Logs. Lokale Inferenz bietet LiteLLM jedoch nicht: Anfragen an Claude werden weiterhin an Anthropic übertragen.

Bleibt mein Code privat, wenn ich Claude Code auf meinem eigenen Server ausführe?

Nein. Claude Code sendet die Inhalte der gelesenen Dateien an die Anthropic API, unabhängig davon, wo der Prozess ausgeführt wird. Ein VPS bietet Ihnen die Isolation des Agenten, nicht den Schutz der Inhalte. Weisen Sie ihm einen eigenen Benutzer ohne privilegierte Rechte zu, halten Sie ihn von Zugangsdaten und nicht zugehörigen Repositorys fern, und behandeln Sie alles, was er lesen kann, als Inhalt, der den Server verlässt.