KI-Agent, LLM oder Assistent: Die Unterschiede erklärt

Was ist der Unterschied zwischen einem KI-Agenten, einem LLM und einem KI-Assistenten?

Ein KI-Agent, ein LLM und ein KI-Assistent sind drei Ebenen desselben Stacks. Um sie zu unterscheiden, fragen Sie, was die jeweilige Ebene von einem Server benötigt. Ein LLM (Large Language Model) ist eine Datei mit Gewichten. Dafür werden RAM und Rechenleistung benötigt. Ein Assistent ist dieses Modell, eingebettet in eine Chat-Oberfläche, mit einem Benutzerkonto und gespeicherter Historie. Er läuft fast immer auf der Hardware eines anderen Betreibers. Ein Agent ist ein Assistent, der zusätzlich über Tools und eine Ausführungsschleife verfügt. Er verwaltet außerdem Zugangsdaten. Deshalb muss er auf einer Maschine laufen, die dauerhaft eingeschaltet bleibt.

Die meisten Texte zu diesem Thema beschränken sich auf Definitionen. Diese Definitionen sind nur deshalb relevant, weil jede Ebene andere Kosten verursacht. Die erste benötigt RAM. Die nächste benötigt eine öffentliche URL und TLS (Transport Layer Security). Die letzte benötigt Zugangsdaten. Zugangsdaten, die ein Agent verwendet hat, müssen Sie anschließend rotieren.

Ein LLM besteht aus Gewichten, und Gewichte benötigen RAM

Ein LLM ist eine Datei mit Zahlen. Sie laden diese Datei herunter, eine Laufzeitumgebung lädt sie in den Arbeitsspeicher, und das Modell beantwortet jeweils eine Anfrage. Die Schnittstelle ist eng definiert: Text wird eingegeben, Text wird ausgegeben. Das Modell hat zwischen Aufrufen kein Gedächtnis, keine Uhr, keinen Netzwerkzugriff und keine Möglichkeit, eine Datei zu öffnen. Alles, woran sich ein LLM scheinbar erinnert, wurde von dem Programm, das es aufruft, in seinen Kontext eingefügt.

Die Dateigröße bestimmt, welchen VPS-Tarif Sie benötigen, weil die gesamte Datei während der Ausführung des Modells im Arbeitsspeicher liegt. Bei der 4-Bit-Quantisierung, die Ollama standardmäßig ausliefert, sollten Sie mit etwa 0.6 GB pro Milliarde Parameter rechnen. Für das Kontextfenster und die Laufzeitumgebung kommen zusätzlich ein bis zwei Gigabyte hinzu.

[
  {
    "label": "qwen3:4b",
    "download_gb": 2.5,
    "ram_gb_needed": 6
  },
  {
    "label": "qwen3:8b",
    "download_gb": 5.2,
    "ram_gb_needed": 8
  },
  {
    "label": "qwen3:14b",
    "download_gb": 9.3,
    "ram_gb_needed": 12
  },
  {
    "label": "qwen3:32b",
    "download_gb": 20.0,
    "ram_gb_needed": 24
  }
]

Der qwen3:8b-Build belegt 5.2 GB auf der Festplatte und benötigt etwa 8 GB RAM, damit er ohne Auslagerung ausgeführt werden kann. Ein VPS mit 4 GB lädt qwen3:14b nicht, das bereits vor der Eingabe eines einzigen Wortes 9.3 GB benötigt. Die größte Zeile hier, qwen3:32b, benötigt etwa 24 GB. Das entspricht bei den meisten Preislisten einem anderen Tarif und einer anderen monatlichen Rechnung.

Ob das Modell in den Arbeitsspeicher passt, ist eine Frage. Die Geschwindigkeit ist eine andere. Auf einem VPS ohne GPU ist die Speicherbandbreite der Engpass, nicht die Taktfrequenz. Daher kann ein passendes Modell trotzdem nur wenige Token pro Sekunde ausgeben. Für einen Auftrag, der über Nacht läuft, ist das ausreichend. Für einen Chat ist es unangenehm langsam. Eine GPU erhöht diesen Wert ungefähr um eine Größenordnung und zugleich Ihre Rechnung. Treffen Sie die Entscheidung daher anhand einer Messung: Benchmark des VPS mit der geplanten Arbeitslast durchführen und lesen Sie wann sich ein GPU-VPS lohnt. Um die Gewichte überhaupt auszuführen, beginnen Sie mit Ollama auf Ihrem eigenen VPS.

Ein Assistent ist ein LLM plus eine Chat-Oberfläche

Ein Assistent ist die Produktschicht um ein Modell. ChatGPT und Claude sind Assistenten: ein Modell, ein Chatfenster, ein Konto, gespeicherte Unterhaltungen und ein Ratenlimit. Fast nichts davon läuft auf Hardware, die Sie kontrollieren. Deshalb kostet ein gehosteter Assistent ein Abonnement und 0 RAM.

Die Self-Hosting-Variante ist ein Frontend wie Open WebUI, das auf ein lokales Ollama oder eine gehostete API zeigt. Das Frontend ist eine kleine Software. Rechnen Sie mit etwa 1 GB residentem Speicher für die Chat-Oberfläche zusätzlich zu dem Speicherbedarf des Modells. Was ein Frontend benötigt und ein reines Modell nicht benötigt, ist eine öffentliche URL und ein Zertifikat. Sie möchten von einem Smartphone darauf zugreifen: stellen Sie das Zertifikat mit Certbot und Nginx aus, oder terminieren Sie TLS mit Traefik vor mehreren Anwendungen. Wenn Sie noch ein Frontend auswählen, vergleichen Sie die Alternativen zu Open WebUI.

Ein Assistent antwortet. Er führt keine Aktionen aus. Wenn er einen Shell-Befehl schreibt, liest eine Person diesen Befehl und entscheidet, ob sie ihn einfügt. Diese Person ist eine Sicherheitsebene. Ein Agent entfernt diese Sicherheitsebene.

Ein Agent erhält Tools und eine Schleife

Ein Agent ist ein Assistent, der Funktionen aufrufen und anschließend die Ergebnisse lesen kann. Zwei Bestandteile übernehmen diese Arbeit. Der erste ist ein Tool: eine Beschreibung einer Funktion, die das Modell anfordern darf, plus Ihr Code, der sie tatsächlich ausführt. Der zweite ist die Schleife: Ihr Programm ruft das Modell auf, das Modell fordert ein Tool an, Ihr Programm führt es aus, fügt die Ausgabe zur Konversation hinzu und ruft das Modell erneut auf. Das wiederholt sich, bis das Modell meldet, dass es fertig ist, oder ein Limit den Vorgang beendet.

Die Schleife besteht aus normalem Code. Eine einfache Implementierung passt in weniger als hundert Zeilen. Zum Agenten wird sie dadurch, dass die Tools echte Zugangsdaten verwenden. Dadurch kann die Schleife Änderungen außerhalb ihrer eigenen Umgebung vornehmen. Diese Tatsache bestimmt alle nachfolgenden Hosting-Entscheidungen. Agent-Funktionen und MCP-Server (Model Context Protocol) sind zwei Möglichkeiten, einem Agenten weitere Tools bereitzustellen, ohne die Schleife neu zu schreiben.

• Der Agent läuft unabhängig von Ihrer Sitzung weiter. Ein Chat endet, wenn Sie den Tab schließen. Ein Agentenlauf kann zwanzig Minuten dauern und sollte auch dann fortbestehen, wenn Ihr Laptop in den Ruhezustand wechselt. Deshalb gehört er auf ein dauerhaft laufendes System und sollte von einem systemd-Dienst oder -Timer gestartet werden, der ihn nach einem Reboot wieder aktiviert.
• Der Agent enthält Geheimnisse. Dazu gehören ein API-Schlüssel, ein SSH-Schlüssel oder ein Datenbankpasswort. Alles, was der Agent lesen kann, kann eine in seiner Eingabe versteckte bösartige Anweisung zur Verwendung dieser Daten veranlassen. Deshalb sollten Sie die Geheimnisse außerhalb der Reichweite des Agents halten.
• Seine Kosten steigen mit der Länge der Schleife, nicht mit Ihrer Frage. Bei jedem Schritt wird die gesamte Konversation erneut als Eingabe gesendet. Ein Lauf mit zehn Schritten berechnet dieses Protokoll daher zehnmal. Deshalb machen Eingabe-Tokens den größten Teil der Agent-Kosten aus und deshalb benötigen Sie ein festes Limit für die Kosten eines einzelnen Laufs.
• Der Agent kann Fehler machen, die Änderungen schreiben. Eine falsche Antwort im Chat kostet Sie eine erneute Prüfung. Ein falscher Löschvorgang innerhalb einer Schleife kann dagegen das Verzeichnis löschen. Führen Sie den Agenten als Benutzer mit den geringsten erforderlichen Berechtigungen aus. Bei Coding-Agenten sollten Sie ihn zuerst in einer Sandbox ausführen, bevor Sie ihm Ihr Repository übergeben.

Was die einzelnen Schichten vom System benötigen

[
  {
    "label": "LLM (weights you host)",
    "ram_gb": 8,
    "gpu": "helps a lot",
    "public_url": "no",
    "credentials": "none"
  },
  {
    "label": "Assistant (chat surface)",
    "ram_gb": 1,
    "gpu": "no",
    "public_url": "yes",
    "credentials": "one login"
  },
  {
    "label": "Agent (tools and a loop)",
    "ram_gb": 2,
    "gpu": "no",
    "public_url": "only for webhooks",
    "credentials": "several"
  }
]

Lesen Sie die Spalte für den RAM-Bedarf sorgfältig, denn sie schließt das Modell aus. Ein Chat-Frontend und eine Agentenlaufzeit sind beide kleine Programme. Wenn der Agent ein gehostetes Modell aufruft, führt 2 GB RAM das Modell aus, und ein günstiger Tarif ist eine praktikable Lösung statt eines Kompromisses. Wenn Sie die Gewichte auf demselben System ablegen, bestimmt die Modellzeile mit 8 GB den gesamten übrigen Bedarf.

Die anderen Spalten sind wichtiger, als viele erwarten. Nur die Modellebene wird durch eine GPU schneller. Nur die Assistentenebene benötigt grundsätzlich eine öffentliche URL, weil ein Browser sie erreichen muss. Ein Agent benötigt eine solche URL nur, wenn ein Dienst von außen Anfragen an ihn senden muss, beispielsweise über einen Webhook. Außerdem verwaltet ein Agent several Zugangsdaten. Das ist der entscheidende Unterschied zu einem Chatfenster. Ein Chatfenster kann eine falsche Antwort liefern. Ein Agent kann eine falsche Antwort liefern und anschließend danach handeln.

Benötigen Sie eine GPU, um einen KI-Agenten auszuführen?

Nein, außer wenn Sie die Gewichte ebenfalls auf demselben Rechner hosten. Die Agentenschleife besteht aus HTTP-Anfragen, der Verarbeitung von JSON und dem Aufrufen von Subprozessen. Während der Agent auf das Netzwerk wartet, ist die CPU nahezu untätig. Die GPU-Frage betrifft eigentlich die LLM-Schicht.

Treffen Sie die Entscheidung daher in zwei Schritten. Wenn der Text Ihren Rechner nicht verlassen darf, benötigen Sie ausreichend Arbeitsspeicher für das Modell und für eine brauchbare Geschwindigkeit außerdem eine GPU, die es ausführt. Wenn Sie nur die Automatisierung benötigen, rechnen Sie das Modell nach Token ab und investieren Sie das Geld stattdessen in Verfügbarkeit und Backups. Die meisten selbst gehosteten Agenten verwenden 2026 ein gehostetes Modell und sind dadurch kostengünstiger zu betreiben.

Kann man einen KI-Agenten selbst hosten?

Ja. Der Agent ist die Komponente, die sich am meisten für Self-Hosting eignet, weil sich in seiner Ausführungsschleife Ihre Daten und Zugangsdaten befinden. Ein kleiner VPS mit 2 GB RAM, einem Dienstmanager und ausgehendem Netzwerkzugriff kann einen echten Agenten ausführen. Wählen Sie den Weg zur eigenen Erstellung auf einem VPS, wenn Sie die Ausführungsschleife selbst kontrollieren möchten. Wenn Sie lieber mit einer fertigen Lösung beginnen, stellen Sie einen der fertigen, selbst gehosteten Agenten bereit.

Den Assistenten selbst zu hosten, ist einfach: Sie benötigen einen Container und ein Zertifikat. Das Self-Hosting des Modells ist der teure Teil. Viele geben es auf, nachdem sie beobachtet haben, wie Tokens quälend langsam von einer CPU erzeugt werden. Hosten Sie die Modellgewichte selbst, wenn die Daten das System nicht verlassen dürfen oder Ihr Nutzungsvolumen die Kosten pro Token zu hoch macht. Andernfalls lassen Sie den Agenten eine API aufrufen und halten die interessanten Komponenten lokal.

Ist ChatGPT ein KI-Agent?

Ein Chat-Produkt wird zu einem Agenten, sobald es ein Tool aufrufen und ohne vorherige Rückfrage auf das Ergebnis reagieren kann. Nach diesem Maßstab sind gehostete Assistenten mit Webzugriff, Codeausführung oder Konnektoren Agenten. Für Sie ist entscheidend, wo diese Schleife ausgeführt wird und wessen Zugangsdaten sie verwendet. Bei einem gehosteten Produkt liegen beide beim Anbieter. Auf Ihrem eigenen Server liegen beide bei Ihnen. Damit tragen Sie auch die Verantwortung für alles, was diese Schleife um drei Uhr morgens ausführt.

Reaktiv, planend und Multi-Agent

Übersichten führen gerne sieben Agententypen auf. Die meisten dieser Typen sind Marketingbegriffe. Zwei Unterscheidungen ändern den Code, den Sie schreiben, und eine ändert die Kosten. Ein reaktiver Agent ruft ein Tool auf, liest die Antwort und antwortet. Ein planender Agent erstellt zuerst einen Plan und arbeitet ihn anschließend ab. Das funktioniert bei langen Aufgaben zuverlässiger und kostet mehr Tokens, weil der Plan bei jedem Schritt erneut gesendet wird. Ein Multi-Agent-Setup ermöglicht es einem Agenten, weitere Agenten zu starten. Gleichzeitig vervielfacht es den Tokenverbrauch und die möglichen Fehlerquellen. Es lohnt sich daher nur, wenn die Teilaufgaben tatsächlich unabhängig voneinander sind, zum Beispiel wenn vier Quellen gleichzeitig durchsucht werden. Beginnen Sie mit einem reaktiven Agenten. Ergänzen Sie Planung, wenn die Ausführungen länger werden. Verwenden Sie Multi-Agent-Setups zuletzt. Einen umfassenderen Überblick finden Sie unter was Sie 2026 über KI-Agenten lernen sollten.

Woran Sie erkennen, auf welcher Ebene Sie tatsächlich arbeiten

Fragen Sie auf dem Server ab, welche Prozesse den Arbeitsspeicher belegen.

free -h
ps -eo rss,comm --sort=-rss | head -5

Wenn in der ersten Zeile ollama oder llama-server mit mehreren Gigabyte RSS (Resident Set Size, also der tatsächlich von einem Prozess belegte Arbeitsspeicher) steht, hosten Sie das Modell. Wenn kein Prozess mehr als einige hundert Megabyte belegt und Ihre API-Kosten weiter steigen, hosten Sie einen Agenten oder Assistenten und mieten das Modell. Wenn die Liste leer ist, weil alles in einem Browser-Tab geschieht, nutzen Sie einen Assistenten als Kunde. Das ist völlig in Ordnung, solange Sie keine Software benötigen, die in Ihrem Auftrag handelt.

Welche Variante möchten Sie betreiben?

• Wenn der Text privat bleiben soll, betreiben Sie das Modell mit einem selbst gehosteten LLM mit Ollama und vergleichen Sie anschließend die Laufzeiten mit Ollama im Vergleich zu vLLM, sobald aus einem Benutzer zehn werden.
• Wenn Sie den gesamten Ablauf und die Tools selbst kontrollieren möchten, erstellen Sie den Agenten mit einem eigenen AI-Agenten auf einem VPS.
• Wenn Sie noch heute Abend eine funktionierende Lösung benötigen, stellen Sie einen fertigen Agenten aus den empfehlenswerten selbst gehosteten Agenten bereit.
• Wenn darunter bisher noch kein Server läuft, beginnen Sie mit dem tatsächlichen Nutzen eines VPS.

FAQ

Ist ein AI-Agent nur ein LLM mit zusätzlichen Schritten?

Die zusätzlichen Schritte sind das Produkt. Ein LLM wandelt Text in Text um und tut nichts anderes. Ein Agent ergänzt es um Tools, die er aufrufen kann, und um eine Schleife, die diese Tools wiederholt aufruft. Diese Tools verwenden Zugangsdaten. Dadurch kann die Ausgabe eine Datei, eine Datenbank oder einen laufenden Dienst ändern. Deshalb benötigt ein Agent eine dauerhaft laufende Maschine, einen Dienstmanager und eine Richtlinie für Secrets. Ein LLM benötigt dagegen nur genügend Arbeitsspeicher, um seine Gewichte während der Antwort zu halten.

Benötige ich eine GPU, um einen AI-Agenten auszuführen?

Nicht für den Agenten. Die Schleife besteht aus HTTP-Anfragen, der Verarbeitung von JSON und Aufrufen von Subprozessen. Das kann jede CPU erledigen, während sie auf das Netzwerk wartet. Eine GPU benötigen Sie nur, wenn Sie die Modellgewichte selbst hosten und mehr als wenige Tokens pro Sekunde erzeugen möchten. Ein Agent, der ein gehostetes Modell aufruft, läuft problemlos auf einem kleinen VPS ganz ohne GPU.

Wie viel RAM benötigt ein VPS für einen AI-Agenten?

Etwa 2 GB, wenn der Agent ein gehostetes Modell aufruft. Dann hält er nur die Laufzeitumgebung, ihre Abhängigkeiten und eine kleine lokale Datenbank. Wenn Sie die Gewichte selbst hosten, müssen Sie das Modell zusätzlich einrechnen: qwen3:8b benötigt allein etwa 8 GB. Ein All-in-One-System beginnt daher mit diesem Wert und benötigt je nach gewähltem Modell mehr RAM.

Kann ich einen AI-Assistenten selbst hosten und meine Unterhaltungen privat halten?

Ja, mit einer Einschränkung, die entscheidend ist. Ein selbst gehostetes Frontend wie Open WebUI speichert Konten und Verlauf auf Ihrem Server. Die Unterhaltungen bleiben nur dann privat, wenn auch das dahinterliegende Modell lokal läuft. Wenn Sie dasselbe Frontend auf eine gehostete API verweisen, verlässt der Text bei jeder Nachricht Ihren Server. Sie behalten dann den Verlauf, aber nicht die Privatsphäre.

Was ist der Unterschied zwischen einem AI-Agenten und einem Chatbot?

Ein Chatbot antwortet und beendet den Vorgang. Ein Agent entscheidet, was als Nächstes zu tun ist, ruft ein Tool auf, liest das Ergebnis und entscheidet erneut, bis die Aufgabe abgeschlossen ist oder eine Begrenzung den Vorgang beendet. Der praktische Test lautet: Wenn die Software etwas ändern kann, ohne dass ein Mensch zwischen der Antwort und der Aktion eine Schaltfläche drückt, handelt es sich um einen Agenten. Dann benötigt sie auch das Hosting und die dafür erforderlichen Schutzvorkehrungen.