SSD Nodes Learn Hosting plans →
Anleitungen Matt ConnorVon Matt Connor · Aktualisiert 2026-10-26

Nemotron 3.5 Lightning auf VPS mit Ollama ausführen

Erfahren Sie, wie Sie NVIDIA Nemotron 3.5 Lightning via Ollama auf einem Server betreiben. Wir klären den benötigten RAM, den korrekten Pull-Befehl und die CPU-Performance.

Was Nemotron 3.5 Lightning ist

Nemotron 3.5 Lightning ist NVIDIAs offenes 30B Mixture-of-Experts-Modell, das im August 2026 veröffentlicht wurde. Es wurde für Agenten entwickelt, die über Stunden hinweg laufen und nicht nur für ein einzelnes Chat-Fenster gedacht sind. MoE (Mixture of Experts) bedeutet, dass die Gewichte in viele Experten-Teilnetzwerke aufgeteilt sind und jedes Token nur durch wenige davon geleitet wird. Die Modellkarte von NVIDIA gibt 30 Milliarden Gesamtparameter an, von denen 3 Milliarden pro Token aktiv sind. Man zahlt für die hohe Anzahl im Arbeitsspeicher. Man erhält die niedrige Anzahl als Geschwindigkeit zurück.

Dieser Kompromiss ist der Grund, sich dieses Modell für einen gemieteten Server anzusehen. Ein Agent, der echte Arbeit verrichtet, sendet über den Tag verteilt Tausende kurzer Anfragen. Daher entscheidet der Durchsatz pro Dollar darüber, ob er auf dem eigenen Server betrieben werden kann. Ein Modell, das 40 Sekunden pro Antwort benötigt, ist ein brauchbarer Assistent, aber ein schlechter Agent, da eine Aufgabe zwanzig Aufrufe erfordert und man auf jeden einzelnen warten muss.

NVIDIA beschreibt die Architektur als hybrid: verschachtelte Mamba-2- und MoE-Schichten mit ausgewählten Attention-Schichten. Die Modellkarte gibt eine maximale Kontextlänge von bis zu 1M Token an und eine OpenMDW-1.1-Lizenz, die für die kommerzielle Nutzung freigegeben ist. Die Hauptsprachen sind Englisch und Programmcode; Spanisch, Französisch, Deutsch, Italienisch und Japanisch sind ebenfalls aufgeführt.

Artificial Analysis veröffentlichte im August 2026 Messwerte zum Start, die fast 670 ausgegebene Token pro Sekunde auf einem Pre-Release-DeepInfra-Endpunkt zeigten, der die NVFP4-Gewichte bereitstellte. Dies ist ein gehosteter GPU-Endpunkt. Betrachten Sie dies als das, was die Architektur ermöglicht, nicht als das, was Ihr VPS leisten wird.

Welcher Ollama-Tag passt zu welchem VPS

Die Ollama-Bibliothek veröffentlicht mehrere Builds mit denselben Gewichten. Sie unterscheiden sich durch die Quantisierung. Diese legt fest, mit wie vielen Bits jedes Gewicht gespeichert wird. Dadurch ändert sich die Downloadgröße erheblich.

DiagrammDownload size by Ollama tag, GB (Ollama library, checked October 2026)
Die Daten hinter diesem Diagramm
[
  {
    "label": "30b-a3b-q4_K_M",
    "size_gb": 25
  },
  {
    "label": "30b-a3b-q8_0",
    "size_gb": 35
  },
  {
    "label": "30b-a3b-bf16",
    "size_gb": 66
  },
  {
    "label": "30b-a3b-mlx",
    "size_gb": 19
  }
]

Die Tags latest, 30b und 30b-a3b haben jetzt jeweils einen eigenen Digest. Seit der Aktualisierung der Bibliothek Mitte Oktober 2026 werden sie mit 19 bis 25 GB angegeben. Eine direkte Abfrage bei der Registry am 25. Oktober 2026 lieferte für diesen Zeiger exakt dieselben Dateien wie 30b-a3b-q4_K_M. Der Standarddownload auf einem VPS ist daher der 25 GB große Vier-Bit-Build mit dem vollständigen Kontext von 1M. Das untere Ende des angegebenen Bereichs, 19 GB, entspricht den MLX-Builds. Das deutet darauf hin, dass diese Builds für Apple-Silicon-Systeme vorgesehen sind. Q8_0 ist 35 GB groß und bf16 66 GB. Beide verwenden ebenfalls einen Kontext von 1M. Die MLX-Builds mit 19 GB sind für Apple Silicon vorgesehen und auf einen Kontext von 256K begrenzt. Sie sind daher für einen Linux-VPS die falsche Wahl. Die Bibliothek führt außerdem 30b-mlx und 30b-a3b-nvfp4 auf. Beide haben denselben Digest wie 30b-a3b-mlx, obwohl der Name des zweiten Formats nach NVIDIA klingt. Hinzu kommen 30b-a3b-mxfp8 mit 34 GB und 30b-a3b-mlx-bf16 mit 66 GB. Auch diese Builds sind auf 256K begrenzt. Keiner davon stellt daher das vollständige Kontextfenster bereit.

Das sind Downloadgrößen und keine Angaben zum erforderlichen Arbeitsspeicher. NVIDIA veröffentlicht für die Ollama-Builds keine Mindestangabe zum VRAM (Videospeicher). Betrachten Sie die Downloadgröße daher nur als Untergrenze. Die Gewichte müssen vollständig an einem geeigneten Ort im Speicher liegen: im GPU-Speicher, wenn die Grafikkarte sie aufnehmen kann, andernfalls im System-RAM. Zusätzlich wird der KV-Cache (Key/Value-Cache, der tokenweise Speicher des Modells für die Unterhaltung) benötigt. Der tatsächliche Wert für Ihre Hardware wird durch einen Befehl ermittelt, nicht durch eine Berechnung. Dieser Befehl folgt weiter unten. Wenn Sie sich noch nicht für eine Quantisierungsstufe entschieden haben, erklärt welchen Aufwand Q4, Q8 und FP16 jeweils verursachen, was Sie bei den einzelnen Stufen aufgeben.

Den exakten Tag abrufen, niemals latest

latest ist ein veränderlicher Verweis. Wenn die Bibliothek ihn erneut veröffentlicht, ändert sich das Verhalten Ihres Agents beim nächsten Abruf, ohne dass Ihre Notizen den Grund erklären. Das ist bei diesem Modell bereits einmal passiert: Mitte Oktober 2026 hat die Bibliothek latest auf einen neuen Digest verschoben. Nennen Sie den Tag.

curl -fsSL https://ollama.com/install.sh | sh
ollama --version
ollama pull nemotron-3.5-lightning:30b-a3b-q4_K_M

Das Installationsskript richtet einen systemd-Dienst ein, der als Benutzer ollama ausgeführt wird und Modelle unter /usr/share/ollama/.ollama/models speichert. Dieser Pfad liegt bei den meisten VPS-Images auf dem Root-Dateisystem. Prüfen Sie daher den verfügbaren Speicherplatz, bevor Sie 25 GB anfordern. Wenn dieses Dateisystem knapp bemessen ist, sollten Sie lesen, wo Ollama seine Modelle speichert und wie Sie sie verschieben, bevor Sie den Pull starten und der Datenträger voll ist.

df -h /usr/share/ollama

Wenn ein Pull zwischendurch abbricht und no space left on device meldet, bedeutet das genau dies. Die teilweise geladenen Blobs bleiben auf dem Datenträger, bis Sie sie löschen. Prüfen Sie anschließend, was tatsächlich geladen wurde:

ollama show nemotron-3.5-lightning:30b-a3b-q4_K_M

ollama show gibt die Architektur, die Parameteranzahl, die Kontextlänge und die Quantisierung aus, die die Datei tatsächlich enthält. Wenn einer dieser Werte von der Bibliotheksseite abweicht, haben Sie einen anderen Tag abgerufen als beabsichtigt.

Bereitstellung und Überprüfung des tatsächlichen Ausführungsorts

sudo systemctl enable --now ollama
ollama run nemotron-3.5-lightning:30b-a3b-q4_K_M "Reply with one word: ready"

Während das Modell geladen ist, führen Sie in einem zweiten Terminal Folgendes aus:

ollama ps

Dieser Befehl beantwortet die Frage nach dem Speicherbedarf für Ihr System. ollama ps gibt das geladene Modell, den belegten Speicherplatz und eine PROCESSOR-Spalte aus. 100% GPU bedeutet, dass sich das Modell vollständig im VRAM befindet. 100% CPU bedeutet, dass sich kein Teil davon im VRAM befindet und jeder Token vom Prozessor aus dem Arbeitsspeicher berechnet wird. Eine Aufteilung wie 65%/35% CPU/GPU bedeutet, dass nicht alle Layer in den VRAM passten; der CPU-Anteil bestimmt in diesem Fall die Geschwindigkeit. Schätzen Sie den Bedarf nicht. Laden Sie das Modell und lesen Sie diese Zeile ab.

Falls das Modell gar nicht geladen werden kann, verweigert Ollama den Dienst sauber, anstatt abzustürzen:

Error: model requires more system memory (28.4 GiB) than is available (15.6 GiB)

Ist eine VPS nur mit CPU schnell genug?

Eine VPS für allgemeine Zwecke hat keine GPU. Daher übernimmt die CPU die gesamte Verarbeitung und liest jedes benötigte Gewicht aus dem System-RAM. MoE ist hier hilfreich, weil pro Token nur etwa 3 Milliarden der 30 Milliarden Parameter verwendet werden. Der Rechenaufwand pro Token ist dadurch deutlich geringer als bei einem dichten 30B-Modell. Der Speicherbedarf verringert sich dadurch jedoch überhaupt nicht. Alle 30 Milliarden Parameter müssen im Speicher bleiben, weil der Router für jeden Token einen beliebigen Experten auswählen kann.

Die Inferenz dieses Modells ist daher auf einer VPS nur mit CPU durch die Speicherbandbreite und nicht durch die Anzahl der CPU-Kerne begrenzt. Wenn ein Plan bereits über eine angemessene Anzahl an vCPUs verfügt, bringt das Hinzufügen weiterer vCPUs nur sehr wenig. Sie benötigen genügend RAM für die Gewichte und den KV-Cache sowie den schnellsten Speicher, den der Plan bereitstellt.

Messen Sie die Leistung, bevor Sie einen Agenten darauf ausführen. Verwenden Sie dazu die Methode unter Tokens pro Sekunde für ein lokales LLM messen:

ollama run --verbose nemotron-3.5-lightning:30b-a3b-q4_K_M "Write a 200 word summary of TCP slow start."

Die am Ende ausgegebene Zeile eval rate gibt die Generierungsgeschwindigkeit in Tokens pro Sekunde an. Diese einzelne Zahl entscheidet über die Frage, weil sie die Ausführungszeit eines Agenten maßgeblich bestimmt. Multiplizieren Sie sie mit der erwarteten Antwortlänge. Wenn das Ergebnis länger ist, als Sie warten möchten, ist die Ausgabe mit num_predict begrenzen der einzige Hebel, mit dem Sie einen einzelnen Aufruf begrenzen können, ohne die Hardware zu ändern.

DiagrammAverage seconds per Intelligence Index task (Artificial Analysis, published August 2026)
Die Daten hinter diesem Diagramm
[
  {
    "label": "Nemotron 3.5 Lightning",
    "sec_per_task": 30
  },
  {
    "label": "gpt-oss-120b",
    "sec_per_task": 204
  },
  {
    "label": "Qwen3.6 35B",
    "sec_per_task": 210
  }
]

Das sind veröffentlichte Werte von Drittanbietern. Sie wurden aus den von Artificial Analysis zum Start veröffentlichten Minutenangaben pro Aufgabe umgerechnet und auf gehosteten GPU-Endpunkten statt auf einer VPS gemessen. Nemotron 3.5 Lightning benötigte im Durchschnitt etwa 30 Sekunden pro Aufgabe. Dabei dauerte gpt-oss-120b ungefähr 204 und Qwen3.6 35B ungefähr 210. Verwenden Sie diese Werte, um die Größenordnung des Abstands einzuschätzen, nicht als Zusage für Ihre Hardware.

Die ehrliche Empfehlung hängt davon ab, wer wartet. Wenn eine Person auf den Agenten wartet oder der Agent lange Aufrufketten direkt hintereinander ausführt, sollten Sie GPU-Kapazität mieten. Wenn der Agent nachts nach einem Zeitplan läuft und niemand ihn überwacht, ist ein CPU-Plan mit viel RAM eine vernünftige Lösung. In beiden Fällen ist die Einrichtung gleich. Ollama auf einer VPS betreiben behandelt die Dimensionierung des Plans und den Vergleich einer GPU-Instanz mit der Abrechnung eines API-Anbieters pro Token. Die Gewinnschwelle hängt von der Auslastung ab: Eine GPU-Instanz wird für jede Stunde abgerechnet, in der sie existiert. API-Tokens werden dagegen nur bei ihrer Verwendung berechnet. Ein Agent, der den größten Teil des Tages ausgelastet ist, spricht daher eher für die eigene Instanz. Ein Agent, der zweimal pro Stunde läuft, spricht in der Regel nicht dafür. Die Ollama-Software fügt keiner der beiden Seiten dieser Rechnung zusätzliche Kosten hinzu, weil sie auf einem gemieteten Server kostenlos betrieben werden kann. Wofür Ollama Gebühren erhebt und wofür nicht erklärt, wo Ollama Cloud eine Option ist, wenn Sie die Hardware überhaupt nicht mieten möchten.

Das Kontextfenster mit 1M Tokens ist nicht kostenlos

1M Tokens ist das Maximum des Modells. Ollama verwendet dieses Maximum standardmäßig nicht. Ollama stellt standardmäßig ein deutlich kleineres Fenster bereit und verwirft die ältesten Tokens, sobald eine Unterhaltung dieses Limit überschreitet. Bei der standardmäßigen Protokollierstufe wird dabei nichts protokolliert. Für einen Agenten sieht es deshalb so aus, als würde das Modell den Anfang seiner eigenen Aufgabe vergessen.

Legen Sie die Fenstergröße bewusst fest. Für den gesamten Server bearbeiten Sie den Dienst:

sudo systemctl edit ollama

Fügen Sie diese Einstellung hinzu und führen Sie anschließend sudo systemctl restart ollama aus:

[Service]
Environment="OLLAMA_CONTEXT_LENGTH=32768"

Senden Sie sie stattdessen pro Anfrage als num_ctx im Optionsobjekt:

curl http://localhost:11434/api/chat -d '{
  "model": "nemotron-3.5-lightning:30b-a3b-q4_K_M",
  "messages": [{"role": "user", "content": "Say ready"}],
  "options": {"num_ctx": 32768},
  "stream": false
}'

Jede Erhöhung benötigt mehr Speicher, weil der KV-Cache mit der Anzahl der zugelassenen Tokens wächst. Erhöhen Sie den Wert, starten Sie den Dienst neu und führen Sie anschließend erneut ollama ps aus. Beobachten Sie, wie die gemeldete Größe steigt. Wenn die Spalte PROCESSOR nach dieser Änderung von 100% GPU auf eine Aufteilung wechselt, hat der KV-Cache Modellebenen aus dem VRAM verdrängt. Ihre Geschwindigkeit sinkt dann deutlich. Die Auswahl von num_ctx in Ollama erläutert diesen Zielkonflikt ausführlich. Setzen Sie den Wert nicht einfach auf 1000000, nur weil die Model Card diesen Wert erlaubt. Die Speicherzuweisung erfolgt vorab, und der Ladevorgang schlägt dann einfach fehl.

Integration in einen dauerhaft laufenden Agenten

Die Bibliotheksseite von Ollama für dieses Modell dokumentiert eine Abkürzung, mit der ein unterstützter Agent gestartet wird, der bereits auf das Modell verweist:

ollama launch claude --model nemotron-3.5-lightning

An dieser Stelle führt die Seite claude, opencode, openclaw und hermes auf. Das Subkommando benötigt eine aktuelle Ollama-Version. Prüfen Sie daher zuerst ollama --version. Falls die Version fehlt, konfigurieren Sie den Agenten selbst für die API. Ollama stellt einen OpenAI-kompatiblen Endpunkt bereit, den die meisten Agent-Frameworks akzeptieren:

export OPENAI_BASE_URL=http://localhost:11434/v1
export OPENAI_API_KEY=ollama

Ollama ignoriert den Schlüssel. Die meisten Clients starten jedoch nicht, wenn kein Schlüssel gesetzt ist. Die Konfiguration auf der Seite des Agent-Frameworks wird unter einen Coding-Agenten auf Ollama verweisen und unter einen eigenen OpenClaw-Agenten erstellen beschrieben.

Sobald der Agent unbeaufsichtigt läuft, sind zwei Servereinstellungen wichtig. OLLAMA_KEEP_ALIVE legt fest, wie lange ein Modell nach der letzten Anfrage im Speicher bleibt. Standardmäßig wird es nach fünf Minuten entladen. Beim nächsten Aufruf fällt daher erneut die vollständige Ladezeit an. Bei einer Datei mit 25 GB kann diese Pause ohne GPU lang genug sein, um einen Timeout auszulösen. Setzen Sie OLLAMA_KEEP_ALIVE=-1, damit das Modell im Speicher bleibt. OLLAMA_HOST=0.0.0.0:11434 macht die API von anderen Rechnern aus erreichbar. Die API bietet keinerlei Authentifizierung. Öffnen Sie sie daher nur hinter einer Firewall-Regel oder in einem privaten Netzwerk.

Fehlermodi und die zugehörigen Meldungen

Der Pull-Vorgang schlägt sofort fehl. Error: pull model manifest: file does not exist bedeutet, dass das Tag nicht existiert. Tag-Namen sind exakte Zeichenfolgen; kopieren Sie diese daher von der Bibliotheksseite, anstatt ein Quantisierungs-Suffix zu erraten.

Das Modell lädt nicht. Error: model requires more system memory (28.4 GiB) than is available (15.6 GiB) bedeutet, dass das Tag für die aktuelle Konfiguration des Plans zu groß ist. Wechseln Sie zu einer kleineren Quantisierung oder verringern Sie OLLAMA_CONTEXT_LENGTH, da der KV-Cache in diese Anforderung einberechnet wird.

Auf Port 11434 antwortet niemand. curl: (7) Failed to connect to localhost port 11434 bedeutet, dass der Dienst nicht läuft oder nicht auf dem erwarteten Port lauscht. Lesen Sie systemctl status ollama und journalctl -u ollama -n 50. Falls Sie ollama serve zusätzlich manuell gestartet haben, beendet sich die zweite Instanz mit Error: listen tcp 127.0.0.1:11434: bind: address already in use.

Die Antwort erfolgt sehr langsam. Prüfen Sie ollama ps, bevor Sie Änderungen vornehmen. Jeder CPU-Anteil in der Spalte PROCESSOR auf einer GPU-Maschine bedeutet, dass ein Teil des Modells aus dem VRAM ausgelagert wurde. Verringern Sie in diesem Fall den Kontext oder wählen Sie die kleinere Quantisierung. Auf einer Maschine ohne GPU ist eine langsame Ausführung zu erwarten; keine Einstellung kann dies beheben.

Der Agent vergisst seine Anweisungen während einer Aufgabe. Das Gespräch hat das Kontextfenster überschritten und die ältesten Token wurden lautlos verworfen. Erhöhen Sie OLLAMA_CONTEXT_LENGTH und bestätigen Sie mit ollama ps, dass das Modell weiterhin in den Speicher passt. Falls dies nicht mehr der Fall ist, ist eine leistungsfähigere Maschine die Lösung, nicht ein kleineres Fenster.

Wo dieses Modell im Vergleich zu den Alternativen einzuordnen ist

Ein 30B-MoE-Modell ist für eine kleine Aufgabe aufwendig zu hosten. Wenn ein dichtes 8B-Modell Ihre Aufgabe bereits erledigt, verursacht es beim Betrieb deutlich weniger Kosten und ist in wenigen Sekunden geladen. Qwen 3 mit 8B und 27B auf einem VPS ist der direkte Vergleich für diese Entscheidung. Einen breiteren Überblick darüber, welche Modelle ein bestimmter Tarif tatsächlich aufnehmen kann, finden Sie unter welche AI-Modelle Sie selbst hosten können. Wenn Sie mehrere Agents gleichzeitig statt nur eines bereitstellen möchten, lesen Sie zuerst Ollama im Vergleich mit vLLM. Ollama kann Anfragen an ein Modell parallel verarbeiten. OLLAMA_NUM_PARALLEL wird jedoch mit dem Wert 1 ausgeliefert. Daher wartet die Anfrage eines zweiten Agents standardmäßig in einer Warteschlange, bis die erste abgeschlossen ist. Bei diesem Modell hilft auch eine Erhöhung nicht: Ab Ollama v0.40.11 erzwingt der Scheduler für die nemotron_h_moe-Architektur, die dieses Tag verwendet, wieder die Verarbeitung von jeweils nur einer Anfrage und protokolliert model architecture does not currently support parallel requests. Bei Modellen, die diesen Wert akzeptieren, erhöht eine Anhebung den Speicherbedarf: Laut der Ollama-FAQ skaliert der benötigte RAM mit dem OLLAMA_NUM_PARALLEL-fachen von OLLAMA_CONTEXT_LENGTH. Bei einem großen Modell ist diese Multiplikation daher der Punkt, an dem ein Setup für einen einzelnen Benutzer nicht mehr skaliert.

FAQ

Welches Nemotron 3.5 Lightning-Tag sollte ich auf einem Linux-VPS herunterladen?

Verwenden Sie nemotron-3.5-lightning:30b-a3b-q4_K_M. Es ist 25 GB groß, unterstützt den vollständigen maximalen Kontext von 1M und ist der Build, auf den die Verweise latest, 30b und 30b-a3b bei einer Abfrage am 25. Oktober 2026 zeigten, obwohl die Bibliothek diese Verweise Mitte Oktober auf einen separaten Digest umgestellt hat. Geben Sie den Namen explizit an, statt latest herunterzuladen. Dadurch kann eine künftige erneute Veröffentlichung unter diesem Verweis das Verhalten Ihres Agenten nicht unbemerkt ändern. Die Tags mlx sind Builds für Apple Silicon. Das gilt auch für 30b-a3b-nvfp4, das denselben 30b-a3b-mlx-Digest verwendet. Diese Builds helfen Ihnen unter Linux nicht.

Wie viel RAM benötigt Nemotron 3.5 Lightning?

NVIDIA veröffentlicht keine Mindestangabe zum Speicherbedarf der Ollama-Builds. Messen Sie daher statt zu schätzen. Laden Sie das Tag herunter, führen Sie das Modell einmal aus und lesen Sie ollama ps aus, während es geladen ist. Die Ausgabe zeigt die tatsächlich belegte Größe und ob das Modell auf der GPU oder der CPU liegt. Die Downloadgröße des Standard-Tags beträgt 25 GB. Sie ist nur ein Mindestwert, weil zusätzlich der KV-Cache benötigt wird und mit dem eingestellten Kontextfenster wächst. Ist der Plan zu klein, verweigert Ollama den Start mit model requires more system memory und nennt beide Werte.

Kann ich Nemotron 3.5 Lightning auf einem VPS ohne GPU ausführen?

Ja, sofern der Plan genügend RAM für die Gewichte bereitstellt. Die MoE-Architektur hilft dabei, weil pro Token nur etwa 3 der 30 Milliarden Parameter berechnet werden. Die Geschwindigkeit ist der entscheidende Nachteil. Ohne GPU wird das Modell durch die Speicherbandbreite begrenzt. Zusätzliche vCPUs verbessern das Ergebnis daher kaum. Führen Sie ollama run --verbose mit einem festen Prompt aus, lesen Sie die Zeile eval rate und vergleichen Sie diesen Wert mit dem Zeitlimit Ihres Agenten. Für einen nächtlichen Batch-Job reicht die Geschwindigkeit häufig aus. Für Anwendungen, auf deren Antwort eine Person wartet, reicht sie normalerweise nicht aus.

Warum stellt Ollama nicht das vollständige Kontextfenster von 1M bereit?

1M ist das Maximum des Modells, nicht die Standardeinstellung von Ollama. Ollama verwendet ein deutlich kleineres Fenster und verwirft die ältesten Tokens, sobald eine Unterhaltung dieses Fenster überschreitet. Dabei wird kein Fehler ausgegeben. Dadurch wirkt es, als würde der Agent seine eigenen Anweisungen vergessen. Setzen Sie OLLAMA_CONTEXT_LENGTH im systemd-Dienst oder übergeben Sie num_ctx für jede Anfrage. Erhöhen Sie den Wert schrittweise und prüfen Sie ollama ps nach jeder Änderung erneut. Der Speicherbedarf des KV-Caches skaliert mit der Fenstergröße und kann dazu führen, dass Modellebenen von der GPU auf die CPU verschoben werden.

Kann Nemotron 3.5 Lightning kostenlos kommerziell genutzt werden?

Die Model Card von NVIDIA stellt das Modell unter die Lizenz OpenMDW-1.1 und kennzeichnet es als für die kommerzielle Nutzung geeignet, wie am 25. Oktober 2026 geprüft. Auf der Bibliotheksseite von Ollama wird die mit dem Download ausgelieferte Lizenz als NVIDIA Open Model License Agreement angegeben. Lesen Sie daher beide Lizenzen, bevor Sie sich auf eine von ihnen stützen. Diese Angaben betreffen die Gewichte, die Sie selbst herunterladen und ausführen. Für die übrige Software in Ihrem Stack machen sie keine Aussage. Prüfen Sie daher die Lizenzen des Agenten-Frameworks und aller angebundenen Tools separat. Lesen Sie außerdem die aktuelle Model Card, bevor Sie diese Informationen für vertragliche Zwecke verwenden.

War dieser Artikel hilfreich?