SSD Nodes Learn Hosting plans →
Przewodniki Matt ConnorAutor: Matt Connor · Zaktualizowano 2026-10-20

Claude prompt caching: kalkulacja progu rentowności

Zapis do cache kosztuje 1,25x ceny wejściowej, a odczyt 0,1x. Sprawdź, po ilu użyciach prefiksu Claude inwestycja zaczyna przynosić oszczędności. Wylicz próg dla API.

Koszty cache'owania promptów przed osiągnięciem oszczędności

Cache'owanie promptów pozwala modelowi Claude na ponowne wykorzystanie początkowej części promptu zamiast ponownego przetwarzania jej przy każdym wywołaniu. Cała kalkulacja opiera się na dwóch mnożnikach bazowej ceny wejściowej modelu. Według stanu na październik 2026, zapis do cache kosztuje 1,25x bazowej ceny wejściowej dla okresu przechowywania 5 minut lub 2x dla okresu 1 godziny, niezależnie od modelu. Odczyt z cache kosztuje 0,1x w większości modeli, jednak mnożnik odczytu nie jest już wszędzie taki sam. Wynosi on 0,025x dla Claude Fable 5.1 oraz Claude Mythos 5.1, które zadebiutowały z tą stawką 1 września 2026. Wynosi on 0,05x dla Claude Opus 5.5 oraz Claude Sonnet 5.5, przy czym stawka dla Sonnet 5.5 została obniżona z 0,1x do tego poziomu 7 października 2026. Poniższe wyliczenia wykorzystują standardowy mnożnik odczytu 0,1x. Tańsze odczyty nieznacznie poprawiają próg rentowności na korzyść użytkownika, co przedstawia kolejna sekcja.

Mechanizm ten polega na poniesieniu dodatkowej opłaty teraz w zamian za zniżkę w przyszłości. Użytkownik płaci jednorazowo za zapisanie prefiksu. Każde kolejne żądanie rozpoczynające się od dokładnie tych samych bajtów kosztuje jedną dziesiątą standardowej ceny wejściowej dla tej części (lub mniej w przypadku wymienionych wyżej modeli). Prefiks, który nie zostanie ponownie wykorzystany w czasie swojego okresu ważności, generuje stratę w postaci 25 procent dodatkowej opłaty.

Próg rentowności w jednym równaniu algebraicznym

Niech B oznacza podstawowy koszt wejściowy prefiksu w przypadku braku cache. Bez cache N żądań kosztuje N razy B. Przy cache 5-minutowym pierwsze żądanie zapisuje prefiks po koszcie 1.25B, a pozostałe N minus 1 żądań odczytuje go po 0.1B. Po przyrównaniu obu stron otrzymujemy 0.9N = 1.15, czyli N = 1.28. Już drugie żądanie jest tańsze niż praca bez cache.

Powtarzając obliczenia dla 2-krotnego kosztu zapisu przy cache 1-godzinnym, otrzymujemy 0.9N = 1.9, czyli N = 2.11. Dłuższy cache wymaga dwóch odczytów, aby osiągnąć próg rentowności, dlatego nie jest to wybór domyślny.

Przy tańszych odczytach linia przesuwa się, ale nieznacznie. Przy odczycie 0.05x cache 5-minutowy daje 0.95N = 1.2, czyli N = 1.26, a przy 0.025x daje 0.975N = 1.225, co również daje N = 1.26. Cache 1-godzinny spada do N = 2.05 oraz N = 2.03. Praktyczna odpowiedź jest taka sama dla każdego modelu: cache 5-minutowy zwraca się od drugiego żądania, cache 1-godzinny od trzeciego.

Poniższy wykres przedstawia wycenę dla prefiksu 20,000 tokenów w modelu Claude Opus 5. Jego podstawowa stawka wejściowa wynosi 5 USD za milion tokenów według stanu na październik 2026, bez zmian od sierpnia. Opus 5 jest obecnie modelem typu legacy, choć nadal dostępnym. Jego następca, Claude Opus 5.5, wyceniany jest na 4 USD za milion przy odczycie 0.05x, więc ten sam prefiks kosztuje tam 0.10 USD za zapis i 0.004 USD za odczyt. Przeskaluj każdą wartość przez 0.6 dla modelu 3 USD za milion przy standardowym odczycie 0.1x. Kształt krzywej pozostaje bez zmian.

WykresCost of N requests sharing a 20,000 token prefix (Claude Opus 5, August 2026 prices)
Dane, na których opiera się ten wykres
[
  {
    "requests": 1,
    "uncached_usd": "0.10",
    "cached_5m_usd": "0.125",
    "cached_1h_usd": "0.20"
  },
  {
    "requests": 2,
    "uncached_usd": "0.20",
    "cached_5m_usd": "0.135",
    "cached_1h_usd": "0.21"
  },
  {
    "requests": 3,
    "uncached_usd": "0.30",
    "cached_5m_usd": "0.145",
    "cached_1h_usd": "0.22"
  },
  {
    "requests": 5,
    "uncached_usd": "0.50",
    "cached_5m_usd": "0.165",
    "cached_1h_usd": "0.24"
  },
  {
    "requests": 10,
    "uncached_usd": "1.00",
    "cached_5m_usd": "0.215",
    "cached_1h_usd": "0.29"
  },
  {
    "requests": 20,
    "uncached_usd": "2.00",
    "cached_5m_usd": "0.315",
    "cached_1h_usd": "0.39"
  }
]

Pojedyncze żądanie kosztuje $0.10 bez cache i $0.125 z cache, więc cache'owanie jednorazowego promptu jest czystą stratą. Przy drugim żądaniu cache 5-minutowy kosztuje $0.135 w porównaniu do $0.20. Cache 1-godzinny jest w tym punkcie nadal droższy, kosztując $0.21 wobec tego samego $0.20 i wyprzedza linię bez cache dopiero przy trzecim żądaniu: $0.22 wobec $0.30. Przy 20 żądaniach różnica wynosi $2.00 wobec $0.315.

Trafienie do cache odświeża również wpis, dlatego opublikowana tabela cenowa nazywa tę kolumnę trafieniami i odświeżeniami cache. Obciążony punkt końcowy utrzymuje zatem wpis 5-minutowy aktywnym w nieskończoność po cenach odczytu, a czas życia 1 godziny uzasadnia swój 2-krotny koszt zapisu tylko wtedy, gdy w ruchu występują rzeczywiste przerwy.

Koszt niskiego współczynnika trafień

Rzeczywisty ruch generuje chybienia. Żądanie, które nie trafia do pamięci podręcznej, ale nadal zawiera punkt przerwania, jest rozliczane jako zapis. Uczciwym sposobem modelowania tego zjawiska jest przedstawienie kosztu jako funkcji współczynnika trafień. Poniższy wykres obrazuje to dla 1000 żądań, z których każde zawiera ten sam prefiks o długości 20000 tokenów.

WykresCost of 1,000 requests by cache hit rate, 20,000 token prefix
Dane, na których opiera się ten wykres
[
  {
    "hit_rate_percent": 0,
    "cost_5m_usd": "125.00",
    "cost_1h_usd": "200.00",
    "uncached_usd": "100.00"
  },
  {
    "hit_rate_percent": 25,
    "cost_5m_usd": "96.25",
    "cost_1h_usd": "152.50",
    "uncached_usd": "100.00"
  },
  {
    "hit_rate_percent": 50,
    "cost_5m_usd": "67.50",
    "cost_1h_usd": "105.00",
    "uncached_usd": "100.00"
  },
  {
    "hit_rate_percent": 75,
    "cost_5m_usd": "38.75",
    "cost_1h_usd": "57.50",
    "uncached_usd": "100.00"
  },
  {
    "hit_rate_percent": 90,
    "cost_5m_usd": "21.50",
    "cost_1h_usd": "29.00",
    "uncached_usd": "100.00"
  },
  {
    "hit_rate_percent": 95,
    "cost_5m_usd": "15.75",
    "cost_1h_usd": "19.50",
    "uncached_usd": "100.00"
  },
  {
    "hit_rate_percent": 99,
    "cost_5m_usd": "11.15",
    "cost_1h_usd": "11.90",
    "uncached_usd": "100.00"
  }
]

Przy współczynniku trafień wynoszącym 0 procent płacisz $125.00 zamiast $100.00, a godzinna pamięć podręczna podwaja rachunek do $200.00. Rozwiązując równanie 1.25 minus 1.15h = 1, otrzymujemy, że 5-minutowa pamięć podręczna zaczyna przynosić oszczędności przy współczynniku trafień wynoszącym około 22 procent. Dlatego przy 25 procentach widoczna jest już wartość $96.25. Analogiczne obliczenia dla dwukrotnego zapisu dają około 53 procent dla godzinnej pamięci podręcznej, więc przy 50-procentowym współczynniku trafień koszt nadal wynosi $105.00, co jest wartością powyżej linii dla braku pamięci podręcznej. Przy 90 procentach obie wartości osiągają poziom $21.50 oraz $29.00. Przy 99 procentach krótka pamięć podręczna osiąga $11.15, co jest wartością bliską dolnej granicy wynoszącej jedną dziesiątą ceny bez pamięci podręcznej.

W modelu z odczytem 0.05x progi spadają do około 21 procent dla 5-minutowej pamięci podręcznej i 51 procent dla godzinnej pamięci podręcznej. Przy odczycie 0.025x spadają one do około 20 i 51 procent. Dolna granica obniża się wraz z ceną odczytu do jednej dwudziestej lub jednej czterdziestej kosztu bez pamięci podręcznej.

Współczynnik trafień jest parametrem, który należy monitorować, ponieważ jest to jedyna zmienna wejściowa, na którą masz wpływ po ustaleniu rozmiaru prefiksu.

Które prefiksy warto objąć punktem przerwania

Żądanie może zawierać do czterech punktów przerwania pamięci podręcznej, dlatego należy rozważyć, które bloki powinny je posiadać. Kandydatami są bloki identyczne bajtowo w różnych wywołaniach i na tyle duże, aby miało to znaczenie. Poniższa tabela przedstawia wycenę czterech typowych kształtów dla 1000 żądań przy 90-procentowym współczynniku trafień w 5-minutowej pamięci podręcznej.

WykresCost per 1,000 requests at a 90% hit rate, by cached prefix (Claude Opus 5)
Dane, na których opiera się ten wykres
[
  {
    "label": "System prompt",
    "prefix_size_tokens": "2,000",
    "uncached_usd": "10.00",
    "cached_usd": "2.15",
    "saved_usd": "7.85"
  },
  {
    "label": "System plus tools",
    "prefix_size_tokens": "8,000",
    "uncached_usd": "40.00",
    "cached_usd": "8.60",
    "saved_usd": "31.40"
  },
  {
    "label": "Policy document",
    "prefix_size_tokens": "25,000",
    "uncached_usd": "125.00",
    "cached_usd": "26.88",
    "saved_usd": "98.12"
  },
  {
    "label": "Codebase context",
    "prefix_size_tokens": "120,000",
    "uncached_usd": "600.00",
    "cached_usd": "129.00",
    "saved_usd": "471.00"
  }
]

Sam systemowy prompt tokenowy 2,000 pozwala zaoszczędzić $7.85 na 1000 żądań w porównaniu do $10.00 bez użycia pamięci podręcznej. Przy dużej skali są to realne oszczędności, jednak nie to czyni buforowanie interesującym. Po dodaniu definicji narzędzi osiągamy 8,000 tokenów i oszczędność rzędu $31.40. Dokument polityki o rozmiarze 25,000 tokenów, do którego odwołuje się każde żądanie, pozwala zaoszczędzić $98.12. Ostatni wiersz zmienia architekturę: 120,000 tokenów bazy kodu lub kontekstu transkrypcji kosztuje $600.00 bez buforowania i $129.00 z buforowaniem, co daje oszczędność $471.00.

Oszczędności skalują się wraz z rozmiarem prefiksu oraz współczynnikiem trafień i z niczym innym. Zmienia to podejście do tego, co w ogóle warto umieszczać w prompcie: ile faktycznie kosztuje milion tokenów Claude spada do jednej dziesiątej ceny katalogowej, a w przypadku modeli z tańszym odczytem nawet mniej, dla wszystkiego, co wysyła się więcej niż raz.

Jak to wygląda na miesięcznym rachunku

Poniższy wykres wykorzystuje prefiks tokenów 8,000 z powyższego przykładu, prompt systemowy oraz definicje narzędzi, przy założeniu 90-procentowej skuteczności trafień, i skaluje te dane do miesięcznych wolumenów zapytań.

WykresMonthly input cost, 8,000 token cached prefix at a 90% hit rate
Dane, na których opiera się ten wykres
[
  {
    "label": "10k requests",
    "uncached_usd": "400.00",
    "cached_usd": "86.00",
    "saved_usd": "314.00"
  },
  {
    "label": "100k requests",
    "uncached_usd": "4,000.00",
    "cached_usd": "860.00",
    "saved_usd": "3,140.00"
  },
  {
    "label": "1M requests",
    "uncached_usd": "40,000.00",
    "cached_usd": "8,600.00",
    "saved_usd": "31,400.00"
  }
]

Przy 10 000 zapytań miesięcznie oszczędność wynosi $314.00, co stanowi różnicę między $400.00 a $86.00. Przy 100 000 zapytań kwota ta wynosi $3,140.00. Przy milionie zapytań rachunek za tokeny wejściowe bez buforowania wynosi $40,000.00, a buforowanie pozwala wyeliminować z tego $31,400.00. Dotyczy to wyłącznie tokenów wejściowych. Tokeny wyjściowe są wyceniane oddzielnie i buforowanie nie ma na nie wpływu, o czym należy pamiętać przed złożeniem obietnicy 90-procentowej redukcji kosztów. Buforowanie stanowi uzupełnienie szerszych praktyk w zakresie kontrolowania kosztów agenta AI na serwerze VPS.

Jak zweryfikować działanie pamięci podręcznej

Nie należy polegać wyłącznie na założeniach projektowych. Należy sprawdzić blok użycia w odpowiedzi. Każda odpowiedź Messages API raportuje liczbę zapisanych tokenów w pamięci podręcznej, liczbę odczytanych tokenów oraz liczbę nowych tokenów, które musiały zostać przetworzone.

from anthropic import Anthropic

client = Anthropic()

resp = client.messages.create(
    model="claude-opus-5",
    max_tokens=512,
    system=[
        {
            "type": "text",
            "text": POLICY_DOCUMENT,
            "cache_control": {"type": "ephemeral"},
        }
    ],
    messages=[{"role": "user", "content": question}],
)

u = resp.usage
print("write:", u.cache_creation_input_tokens)
print("read: ", u.cache_read_input_tokens)
print("fresh:", u.input_tokens)

Należy wykonać zapytanie dwukrotnie z tym samym dokumentem, ale innym pytaniem. Pierwsze wywołanie wykaże wartość niezerową dla cache_creation_input_tokens oraz zero dla cache_read_input_tokens. Drugie wywołanie odwróci tę relację, ponieważ prefiks został odnaleziony. Wartość input_tokens zlicza tylko tokeny znajdujące się po ostatnim punkcie przerwania, więc w poprawnie działającym drugim wywołaniu jest ona niewielka i zazwyczaj obejmuje tylko nową wiadomość użytkownika. Oba wywołania są płatne, ponieważ Claude API nie posiada darmowego planu, choć przy prefiksie o długości 20 000 tokenów koszt pary zapytań wynosi około czternastu centów.

Analogiczną weryfikację można przeprowadzić z poziomu powłoki, korzystając z treści żądania zapisanej w pliku request.json:

curl -s https://api.anthropic.com/v1/messages \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d @request.json | jq '.usage'

Poprawne drugie wywołanie zwraca dane w następującym formacie:

{
  "input_tokens": 42,
  "cache_creation_input_tokens": 0,
  "cache_read_input_tokens": 20143,
  "output_tokens": 187
}

Jeden wiersz zawiera kluczowe informacje. Jeśli wartość cache_read_input_tokens pozostaje równa 0 w kolejnych wywołaniach, oznacza to, że za każdym razem naliczana jest opłata za zapis (1.25x), a mechanizm pamięci podręcznej nie przynosi korzyści.

W przypadku okresu ważności wynoszącego 1 godzinę, punkt przerwania posiada czas życia (TTL):

{
  "type": "text",
  "text": "your stable prefix",
  "cache_control": {"type": "ephemeral", "ttl": "1h"}
}

Dostępna jest również automatyczna pamięć podręczna: pojedyncze pole cache_control na najwyższym poziomie żądania, po którym API zarządza punktami przerwania w miarę rozwoju konwersacji. Zużywa ono jeden z czterech dostępnych slotów punktów przerwania. Od tego należy rozpocząć konfigurację. Do jawnych punktów przerwania warto przejść w momencie, gdy konieczne jest precyzyjne określenie miejsca podziału.

Reguła kolejności obniżająca skuteczność pamięci podręcznej

Pamięć podręczna dopasowuje prefiks bajt po bajcie od początku żądania, a żądanie jest składane w ustalonej kolejności: narzędzia, następnie system, a na końcu wiadomości. Zmiana na dowolnym poziomie unieważnia ten poziom oraz wszystko, co po nim następuje. Edycja opisu jednego narzędzia powoduje unieważnienie promptu systemowego oraz całej historii wiadomości, nawet jeśli nie zostały one zmodyfikowane.

Wynika z tego jedna zasada bez wyjątków. Wszystko, co zmienia się pomiędzy wywołaniami, musi znajdować się za wszystkim, co pozostaje niezmienne.

Najczęstszą przyczyną problemów jest znacznik czasu. Linia o treści Current time: 2026-08-03T14:07:11Z na początku promptu systemowego gwarantuje zerową skuteczność pamięci podręcznej, ponieważ skrót prefiksu jest inny przy każdym wywołaniu i żaden wcześniejszy wpis nie może zostać dopasowany. Należy przenieść taki element do wiadomości użytkownika, na sam koniec. Identyfikator sesji lub nonce dla każdego żądania powoduje ten sam problem i wymaga analogicznej poprawki. Pobrane dokumenty, które różnią się w zależności od żądania, również powinny znajdować się za blokiem buforowanym, w przeciwnym razie wypychają każdy stabilny token za ruchomą granicę.

Drugą przyczyną jest umieszczenie punktu przerwania (breakpoint) na bloku, który ulega zmianie. Zapisy do pamięci podręcznej odbywają się w punkcie przerwania, więc jeśli dany blok jest za każdym razem inny, nic stabilnego nie jest zapisywane, a mechanizm wyszukiwania znajduje jedynie wpisy, które wcześniejsze żądania zapisały w swoich własnych, zmieniających się punktach przerwania. Należy umieścić cache_control na ostatnim bloku, którego zawartość jest identyczna we wszystkich żądaniach.

Trzecią przyczyną jest zmiana parametru, która nie jest postrzegana jako zawartość promptu. Inny model korzysta z innej pamięci podręcznej. Zmiana tool_choice unieważnia historię wiadomości, mimo że narzędzia i prompt systemowy pozostają w pamięci podręcznej. Dodanie lub usunięcie narzędzia unieważnia wszystko.

Minimalny prefiks i cicha operacja no-op

Prefiks krótszy od minimalnego wymaganego przez model nie jest buforowany, a system nie generuje żadnego powiadomienia. Brak błędu, brak ostrzeżenia. Żądanie kończy się powodzeniem, a oba liczniki wskazują 0. Według stanu na październik 2026 opublikowane wartości minimalne wynoszą:

  • 512 tokenów dla Claude Opus 5 i Claude Fable 5 oraz dla nowszych modeli Opus 5.5, Sonnet 5.5, Fable 5.1 i Haiku 5.5
  • 1 024 tokeny dla Claude Sonnet 5 i Claude Opus 4.8
  • 4 096 tokenów dla Claude Haiku 4.5

Jeśli oba liczniki wskazują 0 w żądaniu, które powinno zostać zbuforowane, w pierwszej kolejności należy sprawdzić długość prefiksu. Jest to również powód, dla którego najtańszy model nie zawsze jest automatycznie najtańszy w przypadku obciążeń wymagających buforowania. Model Haiku 4.5 wymaga prefiksu osiem razy dłuższego niż Opus 5, aby buforowanie w ogóle zostało uruchomione, więc system prompt o długości 2 000 tokenów zostanie zbuforowany w jednym modelu, a w drugim zostanie zignorowany bez żadnego komunikatu.

Gdzie Claude Code stosuje pamięć podręczną i gdzie nie może tego zrobić

Claude Code przechowuje własny prefiks w pamięci podręcznej. Prompt systemowy oraz definicje narzędzi znajdują się na początku każdego żądania i nie ulegają zmianie, dlatego są zapisywane raz i odczytywane przez resztę sesji. Z tego powodu koszt pojedynczej tury w długiej sesji jest znacznie niższy, niż sugerowałby rozmiar kontekstu, co widać w licznikach opisanych w sposób raportowania zużycia tokenów przez Claude Code.

Pamięć podręczna nie pomaga w przypadku zmian wprowadzonych blisko początku kontekstu. Historia konwersacji jest typu append-only, więc standardowe nowe tury rozszerzają prefiks, który jest już w pamięci podręcznej. Edycja pliku odczytanego na wczesnym etapie sesji nie powoduje unieważnienia pamięci, ponieważ Claude Code dopisuje informację o zmianie pliku, zamiast nadpisywać wcześniejszy odczyt. Unieważnienie następuje w przypadku zmiany modelu, ponieważ każdy model posiada własną pamięć podręczną. Podłączenie serwera MCP, którego narzędzia są ładowane do prefiksu, również powoduje unieważnienie, podobnie jak kompresja konwersacji. Każde z tych działań sprawia, że kolejna tura wymusza ponowny zapis prefiksu. Długa przerwa w aktywności powoduje ten sam efekt, ponieważ wpis wygasa, a kolejna tura wiąże się z pełnym kosztem zapisu. Żadne z tych zachowań nie jest błędem. Jest to realizacja zasady działania prefiksu zgodnie z założeniami.

W przypadku tworzenia własnego klienta należy zastosować układ z pierwszego żądania zamiast późniejszego dostosowywania: należy konstruować wywołanie w sposób opisany w pierwsza aplikacja Claude API na VPS, umieszczając stabilne bloki na początku, a zmienne na końcu.

Tryby awaryjne i ich objawy

Każde wywołanie to zapis. Wartość cache_creation_input_tokens jest niezerowa przy każdym żądaniu, podczas gdy cache_read_input_tokens pozostaje na poziomie 0. Coś w punkcie przerwania lub przed nim zmienia się pomiędzy wywołaniami. Należy wyświetlić pierwsze 200 znaków złożonego prefiksu dla dwóch kolejnych żądań i porównać je wzrokowo.

Oba liczniki wynoszą 0. Prefiks jest poniżej minimum modelu lub pole cache_control nigdy nie dotarło do API. Należy najpierw policzyć tokeny prefiksu, a następnie zarejestrować w logach treść faktycznie wysłanego żądania.

Odczyty działają, a potem ustają. Seria trafień, następnie zapis, a potem znów trafienia. Przerwa między żądaniami była dłuższa niż czas życia (TTL). Należy zaakceptować zapis lub przejść na TTL wynoszący 1 godzinę po upewnieniu się, że współczynnik trafień przekracza 53 procent, lub około 51 procent w przypadku modelu z odczytem 0.05x lub 0.025x.

Współczynnik trafień spada po wdrożeniu. Opis narzędzia został edytowany lub zmieniono model. Oba te działania unieważniają cały prefiks. Należy spodziewać się jednej kosztownej rundy zapisów po każdym wdrożeniu, które modyfikuje prompt.

Rachunek wzrósł po włączeniu buforowania. Współczynnik trafień jest poniżej progu opłacalności. Poniżej około 22 procent dla bufora 5-minutowego wysyłanie prefiksu bez buforowania jest tańsze, a poniżej około 53 procent ta sama zasada dotyczy bufora 1-godzinnego. W przypadku modeli z tańszym odczytem progi te wynoszą odpowiednio około 20 do 21 procent oraz 51 procent.

FAQ

Ile razy należy użyć promptu, aby buforowanie stało się opłacalne?

Wystarczy raz, przy buforze 5-minutowym. Zapis kosztuje 1,25x ceny wejściowej, a odczyt 0,1x w większości modeli, więc N zapytań bez bufora kosztuje N, podczas gdy N zapytań z buforem kosztuje 1,25 plus 0,1 razy N minus 1. Punkt przecięcia przypada na N = 1,28, więc już drugie zapytanie przynosi oszczędność. W modelach z odczytem 0,05x lub 0,025x punkt przecięcia to N = 1,26, co daje ten sam wynik. Bufor 1-godzinny kosztuje przy zapisie 2x i osiąga próg opłacalności przy N = 2,11, lub około 2,05 przy tańszych odczytach, więc wymaga dwóch odczytów.

Dlaczego cache_read_input_tokens zawsze wynosi zero?

Najpierw sprawdź długość prefiksu: poniżej minimum modelu, czyli 512 tokenów dla Claude Opus 5 oraz 4096 dla Claude Haiku 4.5 według stanu na październik 2026, buforowanie jest pomijane bez powiadomienia, a oba liczniki wskazują 0. Jeśli prefiks jest wystarczająco długi, poszukaj treści, która zmienia się między wywołaniami i znajduje się w punkcie podziału lub przed nim, na przykład znacznika czasu lub identyfikatora sesji w system prompt. Jeśli liczniki działały i przestały, przerwa między zapytaniami była dłuższa niż czas życia bufora.

Czy prompt caching zmienia odpowiedzi Claude?

Nie. Bufor przechowuje przetworzoną formę tokenów, które już wysłano, a model w obu przypadkach widzi ten sam prompt. Jest to funkcja dotycząca rozliczeń i opóźnień, a nie zmiany zachowania. Oznacza to również, że można włączyć tę funkcję dla działającego promptu bez konieczności ponownego uruchamiania ewaluacji.

Czy warto płacić za bufor 1-godzinny?

Tylko wtedy, gdy przerwy w ruchu są dłuższe niż 5 minut, a wskaźnik trafień nadal wynosi około 53 procent, lub około 51 procent w modelu z tańszym odczytem. W przypadku chybienia, zapis 2x kosztuje cztery razy więcej niż zapis 1,25x. Chybiony zapis 1-godzinny marnuje pełną cenę bazową wejścia prefiksu, podczas gdy chybiony zapis 5-minutowy marnuje tylko jedną czwartą tej kwoty. Wpis 5-minutowy odświeża się przy każdym trafieniu, więc stały ruch utrzymuje go przy życiu w cenach odczytu, bez konieczności płacenia za dłuższy czas życia.

Czy ten artykuł był przydatny?

#claude#prompt-caching#api#token-costs#optimization