Kostet Claudes Memory extra? Preise und Abrechnung
Anthropic nennt keinen eigenen Memory-Token-Preis: Gespeicherter Text wird als Input erneut übertragen und nach Tokenmenge sowie Prompt-Caching abgerechnet.
Verursachen Claudes Memory-Funktionen zusätzliche Kosten?
Claudes Memory-Funktionen haben keinen eigenen Preis. Die von Anthropic veröffentlichten Preise gelten pro Million Input-Tokens und pro Million Output-Tokens. Für Prompt-Caching gelten zusätzliche Preise. Keine dieser Kategorien wird als Memory-Token bezeichnet. Das Speichern der Memory selbst verursacht in der Claude API (application programming interface) keine Kosten, weil das Memory-Tool clientseitig arbeitet und die Datei auf einem Speicher liegt, den Sie selbst verwalten.
Memory kann sich trotzdem auf Ihre Rechnung auswirken. Eine gespeicherte Information beeinflusst eine Antwort nur, wenn sie in der Anfrage enthalten ist, die Claude liest. Das Speichern bedeutet also, dass der Text erneut gesendet wird. Dieser Text wird als Input-Tokens übertragen und zum normalen Input-Preis des Modells abgerechnet. Zwei Werte bestimmen die Kosten: Wie viele Tokens des gespeicherten Textes Sie bei jeder Runde erneut übertragen und ob dieser erneut übertragene Text aus dem Prompt-Cache bereitgestellt werden kann.
Mit einem Pro- oder Max-Abonnement werden Ihnen keine Tokens einzeln berechnet. Memory verbraucht daher Ihr Nutzungskontingent und nicht Ihr Geld. Der Mechanismus darunter ist identisch. Nur die Abrechnungseinheit ändert sich. Das Kontingent ist begrenzt. Daher sollten Sie wissen, was Claude Pro kostet und ab welchem Punkt seine Limits Sie einschränken, bevor Sie entscheiden, wie viel Memory jede Runde enthalten soll. Claude Enterprise wird wiederum anders abgerechnet: Jedes Token wird zusätzlich zum Sitzpreis nach API-Preisen abgerechnet. Ein zu großer Memory-Block verursacht daher wieder direkte Kosten statt den Verbrauch des Kontingents zu erhöhen. Wenn Sie durch das Kürzen der Memory bei einem kleineren Tarif problemlos unter dessen Limit bleiben, ist der Wechsel von Max zu Pro der nächste sinnvolle Schritt. Die Änderung wird am Ende des bereits bezahlten Abrechnungszeitraums wirksam. Wenn Sie tatsächlich Anbieter statt der Anthropic-eigenen Tarife vergleichen, ist der Vergleich von Claudes Tarifen mit ChatGPT zu den aktuellen Preisen der richtige Ausgangspunkt.
Was „Memory“ auf den einzelnen Claude-Oberflächen bedeutet
Drei separate Produkte verwenden diesen Begriff. Ihre Vermischung ist der Hauptgrund dafür, dass diese Frage verwirrend wirkt.
Das Memory-Tool in der Claude API. Sie fügen einen Eintrag zum Array tools hinzu und implementieren die Dateioperationen in Ihrem eigenen Code.
{"type": "memory_20250818", "name": "memory"}Stand August 2026 ist dieses Tool in der Messages API ohne Beta-Header allgemein verfügbar, und zwar für Claude 4 und neuere Modelle. Es arbeitet clientseitig: Claude fordert eine Operation wie view /memories an, Ihr Handler führt sie für den von Ihnen kontrollierten Speicher aus, und Sie geben das Ergebnis in einem tool_result-Block zurück. Anthropic speichert die Datei nicht. Daher fallen keine Speicherkosten an, die Sie weiterberechnen müssten. Sie bezahlen stattdessen für den Roundtrip. Die Tool-Definition wird mit jeder Anfrage gesendet. Der zurückgegebene Dateiinhalt bleibt ab diesem Zeitpunkt Teil der Unterhaltung.
Anthropic veröffentlicht den festen Anteil dieses Overheads. Bei Claude Opus 5 und einer Tool-Auswahl von auto umfasst der System-Prompt für die Tool-Nutzung laut Dokumentation von August 2026 286 Tokens. Diese Kosten fallen einmal pro Anfrage an, sobald ein beliebiges Tool vorhanden ist, unabhängig davon, ob es sich um Memory handelt.
Claude Code. Zu Beginn jeder Sitzung werden zwei Mechanismen geladen. CLAUDE.md-Dateien enthalten von Ihnen verfasste Anweisungen. Auto memory enthält Notizen, die Claude selbst unter ~/.claude/projects/<project>/memory/ speichert. Es werden höchstens die ersten 200 Zeilen oder 25KB von MEMORY.md geladen, je nachdem, welches Limit zuerst erreicht wird. Die danebenliegenden Themendateien werden bei Bedarf gelesen, nicht beim Sitzungsstart. Alles, was beim Sitzungsstart geladen wird, wird Teil des Präfixes, das jede spätere Anfrage in dieser Sitzung enthält. So ruft Claude Code Memory zwischen Sitzungen ab beschreibt die Ladereihenfolge für jede Datei.
Claude im Web. Auf claude.ai besteht Memory aus Einträgen, die Claude während Ihrer Chats schreibt und aktualisiert. Für jedes Projekt gibt es einen separaten Memory-Bereich. Unter Settings > Memory sehen Sie, welche Daten gespeichert sind. Der Schalter dort bietet die Optionen Pause memory und Reset memory. Diese Oberfläche wird über ein Abonnement abgerechnet. Memory verbraucht hier daher Nutzungsgrenzen.
Warum gespeicherter Text als Input-Tokens berechnet wird
Die Messages API ist zustandslos. Sie speichert zwischen Aufrufen nichts. Deshalb sendet Ihr Client bei jedem Turn die gesamte Unterhaltung, und das Modell liest sie erneut vollständig ein. Für den Speicher gibt es keine Ausnahme. Er ist ein weiterer Textblock in derselben Anfrage.
Die Aufteilung ist im Objekt usage jeder Antwort sichtbar.
"usage": {
"input_tokens": 412,
"cache_creation_input_tokens": 0,
"cache_read_input_tokens": 18240,
"output_tokens": 236
}input_tokens zählt nur die Tokens, die weder aus dem Cache gelesen noch zum Erstellen des Caches verwendet wurden. In der Praxis sind das die Tokens nach dem letzten Cache-Breakpoint. Der gesamte Input der Anfrage ist cache_read_input_tokens plus cache_creation_input_tokens plus input_tokens. Eine Memory-Datei, die Claude vor drei Turns geöffnet hat, ist bei jedem folgenden Turn Teil dieser Summe. Solange der gecachte Präfix gültig ist, wird sie unter cache_read_input_tokens erfasst. Wenn er nicht mehr gültig ist, wird sie unter input_tokens erfasst. Derselbe Text führt damit zu zwei sehr unterschiedlichen Preisen. Für Input- und Output-Tokens gelten unterschiedliche Preise, und Memory wird immer nur auf der Input-Seite erfasst.
Wo Sie diese Zahlen bei Ihrer eigenen Nutzung sehen
Übernehmen Sie keine Zahl aus einem Blogbeitrag, auch nicht aus diesem. Messen Sie Ihren eigenen Speicherblock. Das Zählen von Tokens ist kostenlos und hat ein eigenes Rate Limit. Die Messung verursacht daher keine Kosten.
curl https://api.anthropic.com/v1/messages/count_tokens \
-H "x-api-key: $ANTHROPIC_API_KEY" \
-H "content-type: application/json" \
-H "anthropic-version: 2023-06-01" \
-d '{
"model": "claude-opus-5",
"system": "You are a scientist",
"messages": [{"role": "user", "content": "Hello, Claude"}]
}'Die Antwort ist eine Zahl, beispielsweise { "input_tokens": 14 }. Führen Sie den Vorgang einmal mit Ihrem Speichertext im Feld system und einmal ohne ihn aus. Die Differenz zeigt, wie viele Tokens dieser Speicher bei jedem Turn kostet. Beachten Sie zwei Punkte. Die Anzahl ist eine Schätzung. Zusätzliche Tokens, die Anthropic für eigene Systemoptimierungen hinzufügt, werden Ihnen nicht berechnet. Zählen Sie außerdem für das Modell, das Sie tatsächlich verwenden. Claude 4.7 und spätere Versionen verwenden einen neueren Tokenizer, der für denselben Text ungefähr 30 Prozent mehr Tokens erzeugt.
In Claude Code erhalten Sie die gleiche Information ohne curl.
/contextzeigt, was aktuell geladen ist, einschließlich der Memory-Dateien. So sehen Sie deren Anteil am Kontextfenster, bevor Sie etwas eingeben./memorylistet Ihre CLAUDE.md-Dateien auf und öffnet den Ordner für den automatischen Speicher./usagegibt unter anderem die Sitzungs-Gesamtsummen sowie Cache-Lese- und Cache-Schreibvorgänge aus.- Die Statuszeile kann die Nutzung des Kontextfensters fortlaufend anzeigen. So wird sichtbar, wie sie während der Nutzung wächst.
Der Sitzungsblock von /usage sieht so aus:
Total cost: $0.55
Total duration (API): 6m 20s
Total duration (wall): 6h 33m 10s
Total code changes: 0 lines added, 0 lines removed
Usage by model:
claude-sonnet-4-6: 1.2k input, 5.3k output, 940.0k cache read, 50.0k cache write ($0.55)Lesen Sie die letzte Zeile sorgfältig. Der Wert für den Cache-Lesevorgang von 940.0k beschreibt die gesamte Unterhaltung einschließlich Speicher, die bei jedem Turn erneut zum Cache-Tarif gesendet wird. Der Eingabewert von 1.2k umfasst nur den neu hinzugekommenen Teil. Claude Code berechnet diesen Dollarbetrag lokal anhand der Listenpreise. Dabei werden Ihre individuellen Rabatte nicht berücksichtigt, und der Betrag kann von Ihrer Rechnung abweichen. Die Usage-Seite in der Claude Console ist der maßgebliche Wert.
Führen Sie anschließend den Vergleich direkt aus. Stellen Sie dieselbe Einstiegsfrage in zwei neuen Sitzungen. Lassen Sie den automatischen Speicher in einer Sitzung aktiviert und in der anderen deaktiviert.
CLAUDE_CODE_DISABLE_AUTO_MEMORY=1 claudeFühren Sie in beiden Sitzungen /context aus und vergleichen Sie den Eintrag für die Speicherdateien. Die Differenz zeigt, wie viel Ihr angesammelter Speicher zu Beginn jeder Sitzung kostet, bevor irgendeine Arbeit ausgeführt wird. Eine vollständige Aufschlüsselung der Token-Nutzung von Claude Code ist eine sinnvolle Ergänzung zu diesen beiden Zahlen.
Wie viel kostet das erneute Einlesen des Speichers pro Million Tokens?
Prompt-Caching ist der Grund, warum derselbe Speicherblock in einem Durchlauf zehnmal mehr kosten kann als in einem anderen. Anthropic veröffentlicht die Cache-Preise als Vielfache des jeweiligen Basispreises für Eingabetokens. Daher bleibt das Verhältnis auch dann bestehen, wenn sich die Preise in Dollar ändern.
The data behind this chart
[
{
"label": "Base input",
"price_multiple": 1
},
{
"label": "5 minute cache write",
"price_multiple": 1.25
},
{
"label": "1 hour cache write",
"price_multiple": 2
},
{
"label": "Cache read",
"price_multiple": 0.1
}
]Ein Cache-Lesevorgang kostet das 0.1-Fache des Basispreises für Eingabetokens. Das Schreiben eines Eintrags mit einer Gültigkeitsdauer von 5 Minuten kostet 1.25-mal den Basispreis. Bei einer Gültigkeitsdauer von 1 Stunde sind es 2-mal der Basispreis. Anthropic nennt den Break-even-Punkt eindeutig: Bei einer Dauer von 5 Minuten lohnt sich das Caching nach einem Cache-Lesevorgang. Bei einer Dauer von 1 Stunde lohnt es sich nach zwei Cache-Lesevorgängen. Der Break-even-Punkt beim Prompt-Caching ist die Berechnung, die Sie durchführen sollten, bevor Sie entscheiden, wo der Speicher abgelegt wird.
Mit diesen Vielfachen lässt sich die Anzahl der erneuten Einlesevorgänge berechnen. Der folgende Block basiert auf den oben veröffentlichten Vielfachen. Er ist keine Messung einer laufenden Arbeitslast. Er berechnet die Kosten eines Speicherblocks auf drei Arten über eine Sitzung mit 100 Durchläufen. Das Ergebnis wird als entsprechende Anzahl von Tokens ausgedrückt, die zum einfachen Basispreis für Eingabetokens abgerechnet werden.
The data behind this chart
[
{
"label": "4,000 tokens, never cached",
"base_rate_equivalent_tokens": "400,000"
},
{
"label": "4,000 tokens, 1 write and 99 reads",
"base_rate_equivalent_tokens": "44,600"
},
{
"label": "1,000 tokens, 1 write and 99 reads",
"base_rate_equivalent_tokens": "11,150"
}
]Ein Speicherblock mit 4,000 Tokens, der in allen 100 Durchläufen den Cache verfehlt, wird wie 400,000 Tokens zum Basispreis abgerechnet. Derselbe Block mit einem Cache-Schreibvorgang für 5 Minuten und 99 Cache-Lesevorgängen wird wie 44,600 Tokens abgerechnet. Wenn Sie ihn auf ein Viertel seiner Größe reduzieren und das Caching beibehalten, wird er wie 11,150 Tokens abgerechnet. Die Funktion hat sich in diesen 3 Zeilen nicht geändert. Nur das Verhalten beim erneuten Einlesen war anders. Es handelt sich weiterhin um Token-Anzahlen und nicht um Geldbeträge. Die Umrechnung einer Token-Anzahl in einen Betrag auf Ihrer Monatsrechnung erfolgt durch eine Multiplikation mit dem Preis Ihres Modells pro Million Tokens. Dieser Preis wird durch das von Ihnen verwendete Modell festgelegt. Wenn der Agent auf Claude Fable 5 laufen soll, beginnen Sie daher mit den veröffentlichten Preisen pro Million Tokens und den dafür geeigneten Aufgaben.
Die zweite Zeile setzt voraus, dass jede der 99 späteren Anfragen eintrifft, während ein Cache-Eintrag noch gültig ist. Diese Annahme ist der Grund, warum die meisten tatsächlichen Rechnungen von der Berechnung abweichen.
Warum kostet dieselbe Frage nach einer Pause mehr?
Ein Cache-Eintrag hat eine Lebensdauer. Die Zeitmessung beginnt mit der Anfrage, die den Eintrag schreibt oder liest. Der Standardwert beträgt 5 Minuten. Die Option mit 1 Stunde kostet das oben gezeigte 2x-Schreiben. In Claude Code beträgt die Lebensdauer bei einem Abonnement eine Stunde. Sobald Sie Nutzungsguthaben verwenden, sinkt sie auf fünf Minuten. Bei einem API-Schlüssel oder einem Cloud-Anbieter beträgt sie standardmäßig fünf Minuten. Mit ENABLE_PROMPT_CACHING_1H=1 bleibt die Lebensdauer bei Nutzungsguthaben eine Stunde.
Eine einzeilige Frage in einer Sitzung, die Sie über die Mittagspause geöffnet gelassen haben, ist deshalb teuer, weil der Cache-Eintrag während Ihrer Abwesenheit abgelaufen ist. Das gesamte Präfix einschließlich des Kontexts wird erneut zum Basiseingabetarif verarbeitet und wieder in den Cache geschrieben. Die Länge der Pause bestimmt den Preis.
Sie können das überprüfen, statt es einfach zu glauben. In einem Pro-, Max-, Team- oder Enterprise-Tarif kennzeichnet die Aufschlüsselung /usage jedes Verhalten, das für mindestens 10 Prozent der letzten Nutzung verantwortlich ist. Sowohl ein langer Kontext als auch Cache Misses werden dort namentlich aufgeführt. Über die API können Sie beobachten, wie cache_creation_input_tokens bei der ersten Anfrage nach einer Ruhephase wieder auf die vollständige Größe Ihres Präfixes ansteigt.
Was den Cache unbemerkt ungültig macht
Der gecachte Präfix ist geordnet: zuerst Tools, dann System, dann Nachrichten. Eine Änderung auf einer Ebene macht diese Ebene und alle nachfolgenden Ebenen ungültig. Wenn Sie eine Tool-Definition bearbeiten, wird der gesamte Cache verworfen. Wenn Sie den System-Prompt bearbeiten, werden der System-Cache und der Nachrichten-Cache verworfen.
Das ist die Falle für alle, die den Speicher im System-Prompt ablegen und ihn aktualisieren, während der Agent dazulernt. Jede Aktualisierung verwirft die gecachte Kopie aller nachfolgenden Inhalte. Die nächste Anfrage muss diese Inhalte daher erneut vollständig schreiben. Platzieren Sie stabile Inhalte am Anfang und ändern Sie sie nicht. Volatile Inhalte sollten weiter hinten in der Nachrichtenliste stehen, weil ihre Invalidierung dort kostengünstig ist.
Es gibt einen zweiten, unauffälligeren Fehler. Jedes Modell hat einen Mindestumfang für cachbare Präfixe: 512 Tokens bei Claude Opus 5, 1,024 bei Claude Sonnet 5 und 4,096 bei Claude Haiku 4.5, wie im August 2026 veröffentlicht. In der Dokumentation von Anthropic wird ausdrücklich beschrieben, was unterhalb dieses Werts geschieht: „Any requests to cache fewer than this number of tokens will be processed without caching, and no error is returned.“ Eine kleine Speicherdatei mit cache_control bewirkt daher überhaupt nichts. Dies geschieht stillschweigend. Erkennbar ist das daran, dass cache_creation_input_tokens bei 0 bleibt, obwohl Ihr Prompt eindeutig einen Breakpoint enthält.
Speichern Sie nur Informationen, die noch einen Nutzen haben
Jede gespeicherte Zeile kostet bei jeder Anfrage, die sie enthält, Tokens. Entscheidend ist daher, ob die jeweilige Zeile kürzlich eine Antwort verbessert hat. Claude Code macht die Grenzen konkret. Halten Sie eine CLAUDE.md möglichst unter 200 Zeilen, da längere Dateien mehr Kontext verbrauchen und Claude die Vorgaben dadurch weniger zuverlässig befolgt. MEMORY.md ist beim Laden auf die ersten 200 Zeilen oder 25KB begrenzt. Alles danach wird beim nächsten Sitzungsstart verworfen. Ein übergroßes Register verbraucht somit Tokens, ohne zusätzlichen Nutzen zu liefern.
Zwei Vorgehensweisen halten die Datei klein. Verschieben Sie Details aus dem Register in thematische Dateien. Claude liest diese bei Bedarf statt beim Start. Verschieben Sie Workflow-Anweisungen aus CLAUDE.md in Skills. Diese werden erst geladen, wenn sie aufgerufen werden. Bei Speicherdateien, die bereits mit Frontmatter beginnen, schreibt Claude Code in Version 2.1.214 oder höher die Erstellungszeit in ein Feld modified, und zwar als Zeitstempel im Format ISO 8601. An diesem Zeitstempel erkennen Sie am schnellsten, ob eine Information veraltet ist. Veraltete Agent-Speicher bereinigen beschreibt den Prüfprozess ausführlicher.
Wenn Abrufen besser ist, als alles in den Kontext zu laden
Das Memory-Tool dient dem Abruf genau zum benötigten Zeitpunkt. Statt alles vorab zu laden, hält der Agent seine Erkenntnisse fest und liest eine Datei erst dann wieder ein, wenn eine Aufgabe sie benötigt. Dadurch ändert sich die Berechnung: Das Lesen einer Datei verursacht die Token-Kosten einmal. Danach befindet sich die Datei im zwischengespeicherten Präfix. Ein dauerhaft geladener Block verursacht die Kosten dagegen bei jedem einzelnen Turn.
Aus den beiden obigen Diagrammen ergibt sich eine einfache Regel. Text, den fast jeder Turn benötigt, gehört in den stabilen, zwischengespeicherten Präfix. Text, den nur jeder zwanzigste Turn benötigt, gehört hinter einen view-Aufruf. Der Break-even-Punkt hängt von der Anzahl Ihrer Wiederholungen ab, nicht von den Gebühren von Anthropic.
Über die API können Sie die Plattform außerdem die Konversation kürzen lassen. Durch die Kontextbearbeitung werden alte Tool-Ergebnisse gelöscht, sobald die Konversation einen von Ihnen festgelegten Schwellenwert überschreitet.
{
"edits": [
{
"type": "clear_tool_uses_20250919",
"trigger": {"type": "input_tokens", "value": 30000},
"keep": {"type": "tool_uses", "value": 3},
"clear_at_least": {"type": "input_tokens", "value": 5000}
}
]
}Standardmäßig liegt der Schwellenwert bei 100,000 Eingabe-Token. Außerdem bleiben 3 Tool-Verwendungen erhalten. Lesen Sie die Interaktion mit dem Caching, bevor Sie diese Funktion aktivieren: Das Löschen von Inhalten macht den zwischengespeicherten Präfix ab der Löschstelle ungültig. Bei der nächsten Anfrage zahlen Sie daher für das Schreiben des Caches. Dafür ist clear_at_least vorgesehen. Es verzögert das Löschen, bis die Einsparung groß genug ist, um den Schreibvorgang zu rechtfertigen. Unter context_management wird genau ausgewiesen, was passiert ist, einschließlich cleared_tool_uses und cleared_input_tokens. Dadurch lässt sich der Zielkonflikt messen und bleibt nicht nur theoretisch. Das Kontextfenster in Claude Code verwalten verfolgt dieselbe Idee in einer Codingsitzung.
Was eine eigene Kostenposition hat
Für den Speicher selbst fallen keine Kosten an. Einige Funktionen verursachen jedoch tatsächlich eigene Kosten. Es lohnt sich zu wissen, welche das sind. Dies sind die veröffentlichten Claude-API-Preise mit Stand August 2026. Einige Vorgänge sind vollständig kostenlos. Für die Claude API gibt es jedoch keine kostenlose Nutzungsstufe, sondern nur ein kleines Startguthaben bei der Registrierung. Alle folgenden Kosten werden daher ab der ersten Anfrage tatsächlich berechnet.
- Websuche: $10 pro 1.000 Suchvorgänge, zusätzlich zu den regulären Token-Kosten für alle Inhalte, die die Suche in den Kontext übernimmt.
- Codeausführung: 1,550 kostenlose Stunden pro Organisation und Monat, danach $0.05 pro Stunde und Container. Bei gemeinsamer Nutzung mit Websuche oder Webabruf ist sie kostenlos.
- Claude Managed Agents: Laufzeit der Sitzung für $0.08 pro Sitzungsstunde, zusätzlich zu den üblichen Token-Kosten.
- Webabruf: keine zusätzlichen Kosten, nur die Token-Kosten für die abgerufenen Inhalte.
Der Speicher erscheint in keiner dieser Kostenpositionen. Er ist in der Anzahl Ihrer Eingabetoken enthalten. Genau dort können Sie ihn messen. Genau dort können Bereinigung und Caching die Kosten reduzieren. Wenn Sie einen unbeaufsichtigten Agenten auf einem Virtual Private Server (VPS) einplanen, sollten Sie als Nächstes die Kostenkontrollen für einen KI-Agenten auf einem VPS einrichten. Ein Agent mit einer wachsenden Speicherdatei und ohne Bereinigung wird jede Woche teurer, ohne dass dies irgendwo gemeldet wird.
FAQ
Gibt es eine separate Gebühr für Claudes Speicherfunktionen?
Nein. Anthropic führt in der Preisliste Preise pro Million Eingabetokens, pro Million Ausgabetokens und die Multiplikatoren für Prompt-Caching auf, aber keine eigene Speicherposition. In der Claude API läuft das Speicher-Tool clientseitig. Die Dateien liegen daher auf einem Speicher, für den Sie bereits bezahlen. Der Speicher erhöht die Anzahl der Eingabetokens. Diese werden bei jeder Anfrage, die den Speicher enthält, zum normalen Eingabetarif des Modells abgerechnet.
Wird Claude günstiger, wenn ich den Speicher deaktiviere?
Die Tokenanzahl jeder Anfrage sinkt. Dadurch sinken die Kosten pro Anfrage. Ob Sie insgesamt Geld sparen, hängt davon ab, was danach passiert. Wenn Claude drei Dateien erneut lesen und Ihnen zwei Fragen stellen muss, um den bereits im Speicher enthaltenen Kontext wiederherzustellen, kosten diese Tokens mehr als der Speicher. Messen Sie den Unterschied, statt ihn zu schätzen: Führen Sie /context in einer Sitzung mit aktiviertem automatischem Speicher und in einer mit CLAUDE_CODE_DISABLE_AUTO_MEMORY=1 gestarteten Sitzung aus. Vergleichen Sie anschließend die insgesamt für dieselbe Aufgabe verbrauchten Tokens.
Warum ist mein Verbrauch gestiegen, obwohl ich nichts geändert habe?
Die häufigste Ursache ist ein Cache-Miss nach einer Pause. Cache-Einträge bleiben standardmäßig 5 Minuten gültig, oder 1 Stunde mit der erweiterten Einstellung. Daher verarbeitet die erste Anfrage nach einer Pause den gesamten Präfix erneut zum Basis-Eingabetarif und schreibt ihn wieder in den Cache. Die zweithäufigste Ursache ist eine Änderung am Präfix: Wenn Sie eine Tool-Definition ändern, wird der gesamte Cache ungültig. Wenn Sie den System-Prompt ändern, werden der System- und der Nachrichten-Cache ungültig. Bei einem Abonnement nennt die Aufschlüsselung /usage dieses Verhalten, wenn es 10 Prozent oder mehr des aktuellen Verbrauchs ausmacht.
Sollte der Speicher im System-Prompt liegen oder hinter einem Tool-Aufruf?
Legen Sie ihn in den System-Prompt, wenn ihn fast jede Anfrage verwendet. Dann befindet er sich im gecachten Präfix und wird zum Cache-Lesetarif abgerechnet. Legen Sie ihn hinter einen Aufruf von view, wenn ihn nur bestimmte Aufgaben benötigen. Eine Datei, die einmal gelesen wird, verursacht dadurch nur einmal Tokenkosten und nicht bei jeder Anfrage. Maßgeblich ist die Anzahl der Wiederholungen. Das Objekt usage liefert diese Zahl direkt.
Werden Speicherfunktionen auf die Nutzungslimits des Abonnements angerechnet?
Ja, indirekt, weil die Nutzungslimits des Abonnements durch die Tokens der jeweiligen Anfrage verbraucht werden. Anthropic weist in der Hilfedokumentation darauf hin, dass längere Unterhaltungen, die eine automatische Kontextverwaltung auslösen, einen größeren Teil des Nutzungslimits verbrauchen. Der Speicher macht jede Anfrage etwas länger. In einer langen Sitzung wird diese zusätzliche Länge bei jeder Anfrage erneut übertragen. So funktionieren Claudes Nutzungslimits erklärt, wann die Limits zurückgesetzt werden.