Claude selbst hosten: Die ehrliche Antwort

Können Sie Claude selbst hosten? Nein, und das sind die Gründe

Sie können Claude nicht selbst hosten. Anthropic veröffentlicht die Modellgewichte nicht. Daher gibt es keine Datei zum Herunterladen, keinen Container zum Ausführen und keine Lizenz, mit der Sie Claude auf Ihrer eigenen Hardware bereitstellen könnten. Jede Claude-Anfrage geht an die API von Anthropic oder an einen gehosteten Partner wie Amazon Bedrock, Google Vertex AI oder Microsoft Foundry. Claude auf einem eigenen Rechner auszuführen, ist kein Konfigurationsproblem. Das erforderliche Artefakt existiert außerhalb von Anthropic schlicht nicht.

Das ist die kurze Antwort. Die längere Antwort lautet: Die meisten Personen, die diese Frage stellen, benötigen die Gewichte tatsächlich nicht. Sie benötigen eines von drei Dingen, die sich alle auf einem von Ihnen kontrollierten Server umsetzen lassen: ein leistungsfähiges lokal ausgeführtes Modell, ein Gateway, das Ihre API-Schlüssel verwaltet und Ihre Ausgaben begrenzt, oder einen Coding-Agent, der auf dem eigenen Rechner statt auf dem Laptop ausgeführt wird. Dieser Leitfaden behandelt alle drei Varianten einschließlich der Befehle.

Was „self-hosted Claude“ normalerweise bedeutet

Der Suchverkehr zu „self-hosted Claude“ umfasst mehrere unterschiedliche Anforderungen. Dafür gibt es jeweils andere Lösungen.

Manche Nutzer möchten Datenschutz. Sie möchten nicht, dass Prompts ihr Netzwerk verlassen. Das lässt sich nur mit einem lokalen Modell mit offenen Gewichten erreichen, weil jede Claude-Anfrage definitionsgemäß eine Anfrage an Anthropic ist.

Manche Nutzer möchten die Kosten kontrollieren. Sie befürchten, dass ein außer Kontrolle geratener Agent zu viele Credits verbraucht. Ein Gateway löst dieses Problem. Es funktioniert mit Claude, sodass die Modellqualität erhalten bleibt.

Manche Nutzer möchten unabhängig von einem Laptop sein. Der Agent soll weiterarbeiten, während sie den Deckel schließen. Ein VPS löst dieses Problem. Claude Code läuft darauf problemlos.

Manche Nutzer suchen nach „self-hosted OpenRouter“. Auch dafür wird ein Gateway benötigt. Die übliche Lösung ist LiteLLM.

Ermitteln Sie, welcher Fall auf Sie zutrifft. Der passende Aufbau unterscheidet sich je nach Anforderung.

Ein offenes Modell mit Ollama selbst hosten

Wenn keine Eingabe Ihren Server verlassen darf, führen Sie ein Modell mit offenen Gewichten aus. Die heute auf einem gemieteten Server tatsächlich nutzbaren Modellfamilien sind Llama, Qwen, Mistral, Gemma und DeepSeek. Für alle diese Familien werden Gewichte veröffentlicht, die Sie herunterladen und ausführen können.

Ollama ist der schnellste Einstieg. Das Installationsskript besteht aus einer Zeile und richtet unter Ubuntu einen systemd-Dienst ein.

curl -fsSL https://ollama.com/install.sh | sh
systemctl status ollama

systemctl status ollama sollte active (running) ausgeben. Laden Sie anschließend ein Modell herunter und verwenden Sie es.

ollama pull qwen3:8b
ollama run qwen3:8b "Summarise what a reverse proxy does in two sentences."

Der erste pull lädt mehrere Gigabyte herunter. Das Modell muss daher in den Arbeitsspeicher oder den GPU-Speicher passen, bevor es Antworten geben kann. Als grobe Regel für quantisierte Modelle gilt: Ein Modell mit 8 Milliarden Parametern benötigt etwa 6 GB freien Speicher, ein Modell mit 14 Milliarden Parametern etwa 10 GB. Ein Modell mit 70 Milliarden Parametern benötigt mehr Speicher, als die meisten VPS-Tarife für allgemeine Zwecke bereitstellen. Wenn dem Server Speicher fehlt, beendet der Kernel den Prozess. Sie sehen dann Error: llama runner process has terminated und eine Out-of-Memory-Zeile in dmesg. Prüfen Sie free -h, bevor Sie das Modell verantwortlich machen.

Ollama stellt außerdem eine HTTP-API unter 127.0.0.1:11434 bereit. Dadurch ist es für andere Software nutzbar und nicht nur für einen Chat.

curl http://127.0.0.1:11434/api/generate -d '{"model":"qwen3:8b","prompt":"ping","stream":false}'

Binden Sie diesen Port weiterhin an localhost. Ein offener Ollama-Port auf einer öffentlichen IP-Adresse stellt jedem, der ihn findet, kostenlos GPU-Ressourcen bereit. Der vollständige Aufbau einschließlich der systemd-Unit, der GPU-Erkennung und eines vorgeschalteten Reverse-Proxy wird im Leitfaden zum Ausführen von Ollama auf einem VPS beschrieben. Wenn Sie mehr als einen Benutzer gleichzeitig bedienen, lesen Sie zuerst den Vergleich von Ollama und vLLM. Das Design von Ollama mit einem einzelnen Datenstrom wird zum Engpass, lange bevor die Hardware ausgelastet ist.

Seien Sie ehrlich bezüglich der Unterschiede. Ein gutes offenes Modell auf einem VPS mittlerer Größe ist für das Zusammenfassen, Klassifizieren, Erstellen von Entwürfen und einfache Extraktionen tatsächlich nützlich. Bei langem mehrstufigem Schlussfolgern, großen Codebasen und der agentenbasierten Nutzung von Tools reicht es nicht an ein gehostetes Frontier-Modell heran. Keine noch so umfangreiche Optimierung der Eingabeaufforderungen schließt diese Lücke. Wählen Sie das lokale Modell für Aufgaben, bei denen es seine Stärken ausspielt, und bezahlen Sie für das gehostete Modell, wenn die Aufgabe tatsächlich anspruchsvoll ist.

Betreiben Sie Ihr eigenes Gateway mit LiteLLM

Dies ist das „selbst gehostete OpenRouter“, nach dem viele suchen. Ein Gateway steht zwischen Ihren Anwendungen und allen Modellanbietern. Ihre Anwendungen verwenden einen einzigen Schlüssel, der auf Ihren Server zeigt. Die echten Anbieterschlüssel liegen nur auf diesem Server. Sie können Ausgaben pro Schlüssel begrenzen, verschiedene Anwendungen an verschiedene Modelle weiterleiten und jede Anfrage zentral protokollieren.

LiteLLM ist die gängige Wahl, weil es eine mit OpenAI kompatible API bereitstellt und über denselben Endpunkt als Proxy für Anthropic, Ollama und die meisten anderen Anbieter dient. Führen Sie es mit Docker und einer Konfigurationsdatei aus.

model_list:
  - model_name: claude
    litellm_params:
      model: anthropic/claude-sonnet-5
      api_key: os.environ/ANTHROPIC_API_KEY
  - model_name: local
    litellm_params:
      model: ollama/qwen3:8b
      api_base: http://127.0.0.1:11434

Speichern Sie das als litellm_config.yaml und starten Sie den Proxy. Er lauscht auf Port 4000.

docker run -v $(pwd)/litellm_config.yaml:/app/config.yaml \
  -e ANTHROPIC_API_KEY=$ANTHROPIC_API_KEY \
  -e LITELLM_MASTER_KEY=sk-1234 \
  -p 4000:4000 docker.litellm.ai/berriai/litellm:latest \
  --config /app/config.yaml

LITELLM_MASTER_KEY ist das Administratorkennwort. Behandeln Sie es daher wie ein root-Passwort und verwenden Sie nicht den Beispielwert. Rufen Sie den Proxy genau so auf wie eine gehostete API.

curl http://localhost:4000/v1/chat/completions \
  -H 'Authorization: Bearer sk-1234' \
  -H 'Content-Type: application/json' \
  -d '{"model": "claude","messages": [{"role": "user","content": "Say hello in five words."}]}'

Eine erfolgreiche Antwort ist normales JSON mit einem choices-Array. Ein 401 bedeutet, dass der Authorization-Header nicht mit Ihrem Master-Schlüssel übereinstimmt. Ein 400, das das Modell nennt, bedeutet, dass model in Ihrer Anfrage mit keinem model_name in der Konfigurationsdatei übereinstimmt.

Der Grund, dies einzurichten, statt Anthropic direkt aufzurufen, ist die Ausgabenbegrenzung. Erstellen Sie pro Anwendung einen eigenen virtuellen Schlüssel, jeweils mit einem eigenen Budget.

curl 'http://0.0.0.0:4000/key/generate' \
--header 'Authorization: Bearer sk-1234' \
--header 'Content-Type: application/json' \
--data-raw '{"models": ["claude"], "max_budget": 100}'

Mit diesem Schlüssel können Sie einhundert Dollar ausgeben und ein Modell erreichen, aber nichts anderes. Wenn sich ein Agent um drei Uhr morgens fehlerhaft verhält, ist der Schadensbereich auf einen Schlüssel begrenzt und betrifft nicht Ihr gesamtes Konto. Dieses Muster und die dazugehörige Überwachung werden unter Agentenkosten auf einem VPS unter Kontrolle halten behandelt. Wenn Sie noch entscheiden, ob Sie überhaupt pro Token bezahlen möchten, stellt der Kostenvergleich zwischen API und Abonnement die Berechnung auf.

Beachten Sie, was das Gateway nicht leistet. Es macht Claude nicht lokal und verbirgt Ihre Prompts nicht vor Anthropic. Anfragen verlassen Ihren Server weiterhin in Richtung des Anbieters. Sie gewinnen Kontrolle über Schlüssel, Ausgaben, Weiterleitung und Protokolle.

Claude Code auf Ihrem eigenen VPS ausführen

Der dritte Wunsch ist am einfachsten zu erfüllen. Claude Code ist ein Client. Es läuft überall dort, wo Sie Node.js installieren, und kommuniziert über HTTPS mit der API. Wenn Sie es auf einem Server betreiben, den Sie selbst kontrollieren, arbeitet der Agent weiter, nachdem Sie Ihren Laptop ausgeschaltet haben. Außerdem bleibt der mögliche Schaden auf einen Rechner begrenzt, den Sie neu aufsetzen können, statt auf Ihr Hauptgerät.

npm install -g @anthropic-ai/claude-code
claude --version

Führen Sie es innerhalb von tmux aus, damit eine unterbrochene SSH-Verbindung keinen langen Auftrag beendet. Diese Einrichtung einschließlich der Sitzungsverwaltung wird in Claude Code auf einem VPS mit tmux ausführen beschrieben. Geben Sie dem Agenten einen eigenen Benutzer ohne privilegierte Rechte. Lesen Sie außerdem Sicherheitsregeln für die Ausführung von Claude Code auf einem Server, bevor Sie ihm Schreibzugriff auf wichtige Daten geben.

Dabei hosten Sie den Agenten selbst, nicht das Modell. Eine genaue Unterscheidung ist wichtig, weil beides häufig verwechselt wird. Sie kontrollieren den Prozess, das Dateisystem, den ausgehenden Netzwerkverkehr und die Protokolle. Anthropic kontrolliert weiterhin die Inferenz.

Was jede Option tatsächlich kostet

Preise ändern sich. Betrachten Sie diese Angaben daher als Größenordnung und nicht als Angebot. Im Juli 2026 wird Claude Sonnet 5 mit $3 pro 1 Million Eingabe-Token und $15 pro 1 Million Ausgabe-Token angegeben. Für Claude Opus 5 gelten $5 und $25. Ein lokales Modell verursacht keine Kosten pro Token. Stattdessen zahlen Sie die monatlichen Serverkosten, unabhängig davon, ob Sie den Server verwenden.

Der Break-even-Punkt liegt niedriger als erwartet. Ein VPS mit ausreichend Arbeitsspeicher für ein brauchbares Open Model kostet jeden Monat Geld. Außerdem ist er die meiste Zeit ungenutzt. Bei schwankender Auslastung ist die gehostete API normalerweise günstiger. Bei konstanter Auslastung oder wenn Ihre Daten Ihr Netzwerk nicht verlassen dürfen, ist das lokale Modell in beiden Punkten überlegen.

Die meisten Teams entscheiden sich für eine Kombination. Führen Sie ein Open Model lokal für Aufgaben mit hohem Volumen und geringer Schwierigkeit aus. Leiten Sie schwierige Anfragen an ein gehostetes Frontier Model weiter. Schalten Sie vor beide Systeme ein Gateway. Die Anwendungen müssen dann nicht wissen, welches Modell eine Anfrage verarbeitet. Außerdem können Sie die Zuordnung zwischen den Modellen ändern, ohne den Anwendungscode anzupassen. Diese Architektur ist die praktische Variante von „self hosted Claude“. Anders als die wörtliche Variante existiert sie tatsächlich. Wenn Sie auch den gesamten Agent-Stack selbst betreiben möchten, behandelt die Übersicht zu selbst gehosteten AI-Agents die verfügbaren Optionen.

FAQ

Kann ich Claudes Modellgewichte herunterladen und lokal ausführen?

Nein. Anthropic hat noch nie Gewichte für ein Claude-Modell veröffentlicht. Es gibt keine Lizenz, die Self-Hosting erlaubt. Alles, was online als herunterladbares „Claude-Modell“ beworben wird, ist entweder ein anderes Modell mit irreführendem Namen oder ein Wrapper, der die API aufruft. Wenn ein API-Schlüssel erforderlich ist, läuft es nicht lokal.

Welches offene Modell kommt Claude am nächsten?

Es gibt keine exakte Entsprechung. Die führenden Modelle ändern sich alle paar Monate. Die offenen Modellfamilien, die Sie testen sollten, sind Llama, Qwen, Mistral, Gemma und DeepSeek. Für Zusammenfassungen, Klassifizierung und einfache Codeänderungen ist ein gutes offenes Modell mit 8 bis 14 Milliarden Parametern tatsächlich nützlich. Beim mehrstufigen Schlussfolgern über lange Kontexte und bei der agentenbasierten Verwendung von Tools ist der Abstand zu einem gehosteten Frontier-Modell weiterhin groß. Testen Sie Ihre eigenen Prompts, statt einem Leaderboard zu vertrauen.

Ist LiteLLM ein selbst gehostetes OpenRouter?

Funktional ja, was Routing und Schlüsselverwaltung betrifft. LiteLLM läuft auf Ihrem Server, stellt einen OpenAI-kompatiblen Endpunkt bereit und vermittelt Anfragen an Anthropic, Ollama und die meisten anderen Anbieter. Sie erhalten Ausgabenlimits pro Schlüssel, Modell-Routing und eine zentrale Stelle zum Lesen von Logs. Lokale Inferenz bietet Ihnen LiteLLM jedoch nicht: Anfragen an Claude werden weiterhin an Anthropic übertragen.

Bleibt mein Code privat, wenn ich Claude Code auf meinem eigenen Server ausführe?

Nein. Claude Code sendet die Inhalte der gelesenen Dateien an die Anthropic API, unabhängig davon, wo der Prozess ausgeführt wird. Ein VPS bietet Ihnen die Isolation des Agenten, nicht die Vertraulichkeit der Inhalte. Geben Sie dem Agenten einen eigenen unprivilegierten Benutzer, halten Sie ihn von Zugangsdaten und nicht zugehörigen Repositories fern, und behandeln Sie alles, was er lesen kann, als Inhalt, der den Server verlässt.