SSD Nodes Learn Hosting plans →
Mwongozo Matt ConnorNa Matt Connor · Imeboreshwa 2026-10-25

Hesabu ya faida ya Claude prompt caching

Gharama za cache write ni 1.25x na read ni 0.1x. Jifunze jinsi ya kukokotoa hatua ya break-even ili kujua ni mara ngapi unapaswa kutumia prefix ili kupata faida.

Gharama za prompt caching kabla ya kuleta akiba

Prompt caching inaruhusu Claude kutumia tena sehemu ya mwanzo ya prompt yako badala ya kuisoma upya katika kila ombi, na uamuzi mzima unategemea vizidishi viwili (multipliers) kwenye bei ya msingi ya input ya model yako. Kufikia Oktoba 2026, uandishi wa cache (cache write) unagharimu 1.25x ya bei ya msingi ya input kwa muda wa uhai wa dakika 5, au 2x kwa muda wa uhai wa saa 1, kwenye kila model. Usomaji wa cache (cache read) unagharimu 0.1x kwenye model nyingi, lakini kizidishi cha usomaji hakilingani tena kila mahali. Ni 0.025x kwenye Claude Fable 5.1 na Claude Mythos 5.1, ambazo zilizinduliwa kwa kiwango hicho mnamo Septemba 1, 2026. Ni 0.05x kwenye Claude Opus 5.5 na Claude Sonnet 5.5, na Sonnet 5.5 ilipunguziwa bei kutoka 0.1x hadi kiwango hicho mnamo Oktoba 7, 2026. Takwimu zilizokokotolewa hapa chini zinatumia kiwango cha kawaida cha usomaji cha 0.1x. Usomaji wa bei nafuu zaidi hubadilisha hatua ya kufikia usawa (break-even) kwa faida yako kidogo, na sehemu inayofuata inaonyesha kwa kiasi gani.

Biashara hii ni malipo ya ziada sasa dhidi ya punguzo baadaye. Unalipa ziada mara moja ili kuhifadhi prefix. Kila ombi la baadaye linaloanza na bytes zilezile hasa hulipa sehemu ya kumi ya bei ya kawaida ya input kwa sehemu hiyo, au chini ya hapo kwenye model zilizotajwa hapo juu. Prefix ambayo haitumiki tena ndani ya muda wake wa uhai imekugharimu asilimia 25 ya ziada bila sababu.

Kiwango cha faida, kwa mlinganyo mmoja wa aljebra

Iite B gharama ya msingi ya kuingiza prefix ikiwa utaituma bila cache. Bila caching, maombi N yanagharimu N mara B. Kwa cache ya dakika 5, ombi la kwanza huandika prefix kwa 1.25B na maombi mengine N kutoa 1 huisoma kwa 0.1B. Sawazisha pande hizo mbili na utapata 0.9N = 1.15, kwa hivyo N = 1.28. Ombi la pili tayari ni nafuu kuliko kutotumia cache kabisa.

Rudia hilo kwa uandishi wa 2x wa cache ya saa 1 na utapata 0.9N = 1.9, kwa hivyo N = 2.11. Cache ya muda mrefu inahitaji usomaji miwili kabla ya kufikia kiwango cha faida, ndiyo maana si chaguo chaguo-msingi.

Kwenye usomaji wa bei nafuu mstari husogea, lakini si kwa mbali. Kwa usomaji wa 0.05x, cache ya dakika 5 inatoa 0.95N = 1.2, kwa hivyo N = 1.26, na kwa 0.025x inatoa 0.975N = 1.225, pia N = 1.26. Cache ya saa 1 inashuka hadi N = 2.05 na N = 2.03. Jibu la kivitendo ni sawa katika kila modeli: cache ya dakika 5 inajilipa kuanzia ombi la pili, cache ya saa 1 kuanzia la tatu.

Chati hapa chini inaweka bei hii kwa prefix ya token 20,000 kwenye Claude Opus 5. Kiwango chake cha msingi cha uingizaji ni $5 kwa kila milioni ya token kufikia Oktoba 2026, hakijabadilika tangu Agosti. Opus 5 sasa ni modeli ya zamani (legacy), ingawa bado inapatikana. Mrithi wake, Claude Opus 5.5, inaorodhesha $4 kwa kila milioni na usomaji wa 0.05x, kwa hivyo prefix hiyo hiyo hapo inagharimu $0.10 kuandika na $0.004 kusoma. Zidisha kila takwimu kwa 0.6 kwa modeli ya $3 kwa kila milioni kwenye usomaji wa kawaida wa 0.1x. Umbo la mkondo halibadiliki.

ChatiCost of N requests sharing a 20,000 token prefix (Claude Opus 5, August 2026 prices)
Data iliyo nyuma ya chati hii
[
  {
    "requests": 1,
    "uncached_usd": "0.10",
    "cached_5m_usd": "0.125",
    "cached_1h_usd": "0.20"
  },
  {
    "requests": 2,
    "uncached_usd": "0.20",
    "cached_5m_usd": "0.135",
    "cached_1h_usd": "0.21"
  },
  {
    "requests": 3,
    "uncached_usd": "0.30",
    "cached_5m_usd": "0.145",
    "cached_1h_usd": "0.22"
  },
  {
    "requests": 5,
    "uncached_usd": "0.50",
    "cached_5m_usd": "0.165",
    "cached_1h_usd": "0.24"
  },
  {
    "requests": 10,
    "uncached_usd": "1.00",
    "cached_5m_usd": "0.215",
    "cached_1h_usd": "0.29"
  },
  {
    "requests": 20,
    "uncached_usd": "2.00",
    "cached_5m_usd": "0.315",
    "cached_1h_usd": "0.39"
  }
]

Ombi moja pekee linagharimu $0.10 bila cache na $0.125 likiwa na cache, kwa hivyo kuweka cache kwenye prompt ya mara moja ni hasara tupu. Kufikia ombi la pili, cache ya dakika 5 iko kwenye $0.135 dhidi ya $0.20. Cache ya saa 1 bado iko nyuma wakati huo, $0.21 dhidi ya $0.20 ile ile, na inavuka mstari wa bila cache kwenye ombi la tatu pekee: $0.22 dhidi ya $0.30. Kufikia maombi 20, pengo ni $2.00 dhidi ya $0.315.

Cache hit pia hufanya upya (refresh) ingizo, ndiyo maana jedwali la bei lililochapishwa huita safu hiyo cache hits and refreshes. Endpoint yenye shughuli nyingi kwa hivyo huweka ingizo la dakika 5 likiwa hai bila kikomo kwa bei za usomaji, na muda wa maisha wa saa 1 hupata uandishi wake wa 2x tu wakati trafiki yako ina mapengo halisi ndani yake.

Gharama ya hit rate ndogo

Trafiki halisi hupata misses. Ombi linalokosa cache lakini bado likiwa na breakpoint hutoza gharama kama ya write, kwa hivyo njia sahihi ya kukadiria hili ni kuangalia gharama kama kazi ya hit rate. Chati hapa chini inaonyesha hilo kwa maombi 1,000, kila moja ikiwa na prefix ya token 20,000.

ChatiCost of 1,000 requests by cache hit rate, 20,000 token prefix
Data iliyo nyuma ya chati hii
[
  {
    "hit_rate_percent": 0,
    "cost_5m_usd": "125.00",
    "cost_1h_usd": "200.00",
    "uncached_usd": "100.00"
  },
  {
    "hit_rate_percent": 25,
    "cost_5m_usd": "96.25",
    "cost_1h_usd": "152.50",
    "uncached_usd": "100.00"
  },
  {
    "hit_rate_percent": 50,
    "cost_5m_usd": "67.50",
    "cost_1h_usd": "105.00",
    "uncached_usd": "100.00"
  },
  {
    "hit_rate_percent": 75,
    "cost_5m_usd": "38.75",
    "cost_1h_usd": "57.50",
    "uncached_usd": "100.00"
  },
  {
    "hit_rate_percent": 90,
    "cost_5m_usd": "21.50",
    "cost_1h_usd": "29.00",
    "uncached_usd": "100.00"
  },
  {
    "hit_rate_percent": 95,
    "cost_5m_usd": "15.75",
    "cost_1h_usd": "19.50",
    "uncached_usd": "100.00"
  },
  {
    "hit_rate_percent": 99,
    "cost_5m_usd": "11.15",
    "cost_1h_usd": "11.90",
    "uncached_usd": "100.00"
  }
]

Katika hit rate ya asilimia 0 unalipa $125.00 badala ya $100.00, na cache ya saa 1 huongeza bili mara mbili hadi $200.00. Tatua 1.25 kutoa 1.15h = 1 na cache ya dakika 5 huanza kuokoa pesa katika hit rate ya takriban asilimia 22, ndiyo maana asilimia 25 tayari inaonyesha $96.25. Hesabu hiyo hiyo kwa write ya 2x inatoa takriban asilimia 53 kwa cache ya saa 1, kwa hivyo hit rate ya asilimia 50 bado inagharimu $105.00, juu ya mstari wa uncached. Katika asilimia 90 zote mbili hufika $21.50 na $29.00. Katika asilimia 99 cache fupi hufika $11.15, karibu na kiwango cha chini cha sehemu ya kumi ya bei ya uncached.

Kwenye modeli yenye read ya 0.05x vizingiti hushuka hadi takriban asilimia 21 kwa cache ya dakika 5 na asilimia 51 kwa cache ya saa 1. Kwenye read ya 0.025x hushuka hadi takriban asilimia 20 na 51. Kiwango cha chini hushuka pamoja na bei ya read, hadi sehemu ya ishirini au arobaini ya gharama ya uncached.

Hit rate ndiyo namba unayopaswa kufuatilia, kwa sababu ndiyo input pekee unayoweza kudhibiti baada ya ukubwa wa prefix kuwekwa.

Ni prefix zipi zinazostahili breakpoint

Ombi linaweza kubeba hadi cache breakpoint nne, kwa hivyo swali ni ni block zipi zinastahili moja. Wagombea ni block ambazo zinafanana kwa byte katika kila mwito na ni kubwa vya kutosha kuleta tofauti. Chati hapa chini inaonyesha bei ya maumbo manne ya kawaida kwa maombi 1,000 kwa kiwango cha hit cha asilimia 90 kwenye cache ya dakika 5.

ChatiCost per 1,000 requests at a 90% hit rate, by cached prefix (Claude Opus 5)
Data iliyo nyuma ya chati hii
[
  {
    "label": "System prompt",
    "prefix_size_tokens": "2,000",
    "uncached_usd": "10.00",
    "cached_usd": "2.15",
    "saved_usd": "7.85"
  },
  {
    "label": "System plus tools",
    "prefix_size_tokens": "8,000",
    "uncached_usd": "40.00",
    "cached_usd": "8.60",
    "saved_usd": "31.40"
  },
  {
    "label": "Policy document",
    "prefix_size_tokens": "25,000",
    "uncached_usd": "125.00",
    "cached_usd": "26.88",
    "saved_usd": "98.12"
  },
  {
    "label": "Codebase context",
    "prefix_size_tokens": "120,000",
    "uncached_usd": "600.00",
    "cached_usd": "129.00",
    "saved_usd": "471.00"
  }
]

Mfumo wa prompt wa token 2,000 pekee huokoa $7.85 kwa kila maombi 1,000 dhidi ya $10.00 bila cache. Hii ni pesa halisi kwa ujazo mkubwa, lakini siyo jambo linalofanya caching kuvutia. Ongeza ufafanuzi wa zana na utafikia token 8,000 na $31.40 zilizookolewa. Hati ya sera ya token 25,000 ambayo kila ombi huuliza maswali kuihusu huokoa $98.12. Mstari wa mwisho ndio unaobadilisha usanifu: token 120,000 za codebase au muktadha wa transcript hugharimu $600.00 bila cache na $129.00 zikiwa na cache, ikiwa ni akiba ya $471.00.

Akiba huongezeka kulingana na ukubwa wa prefix na kiwango cha hit, na si kitu kingine chochote. Hilo hubadilisha kile kinachostahili kuwekwa kwenye prompt: gharama halisi ya token milioni moja za Claude hushuka hadi sehemu ya kumi ya bei ya kawaida, au chini ya hapo kwenye miundo yenye usomaji wa bei nafuu, kwa chochote unachotuma zaidi ya mara moja.

Muonekano wake kwenye ankara ya kila mwezi

Chati iliyo hapa chini inachukua 8,000 token prefix kutoka hapo juu, ikiwa na system prompt pamoja na ufafanuzi wa zana, kwa kiwango cha mafanikio cha asilimia 90, na kuipima kulingana na idadi ya maombi ya kila mwezi.

ChatiMonthly input cost, 8,000 token cached prefix at a 90% hit rate
Data iliyo nyuma ya chati hii
[
  {
    "label": "10k requests",
    "uncached_usd": "400.00",
    "cached_usd": "86.00",
    "saved_usd": "314.00"
  },
  {
    "label": "100k requests",
    "uncached_usd": "4,000.00",
    "cached_usd": "860.00",
    "saved_usd": "3,140.00"
  },
  {
    "label": "1M requests",
    "uncached_usd": "40,000.00",
    "cached_usd": "8,600.00",
    "saved_usd": "31,400.00"
  }
]

Kwa maombi 10,000 kwa mwezi, akiba ni $314.00, ambayo ni tofauti kati ya $400.00 na $86.00. Kwa maombi 100,000, akiba hiyo ni $3,140.00. Kwa maombi milioni moja, ankara ya input isiyohifadhiwa kwenye cache ni $40,000.00 na utumiaji wa cache unaondoa $31,400.00 ya gharama hiyo. Hizi ni token za input pekee. Output inatozwa bei tofauti na cache haina athari yoyote kwake, jambo ambalo ni muhimu kukumbuka kabla ya kumwahidi mtu yeyote punguzo la asilimia 90 kwenye ankara. Caching inafanya kazi sambamba na mbinu nyingine pana za kudhibiti gharama za AI agent kwenye VPS.

Jinsi ya kuthibitisha kuwa cache inafanya kazi

Usiuamini usanifu pekee. Soma sehemu ya matumizi kwenye majibu. Kila jibu la Messages API (application programming interface) huripoti tokeni zilizohifadhiwa kwenye cache ilizoandika, tokeni zilizohifadhiwa ilizosoma, na tokeni mpya ilizopaswa kuchakata.

from anthropic import Anthropic

client = Anthropic()

resp = client.messages.create(
    model="claude-opus-5",
    max_tokens=512,
    system=[
        {
            "type": "text",
            "text": POLICY_DOCUMENT,
            "cache_control": {"type": "ephemeral"},
        }
    ],
    messages=[{"role": "user", "content": question}],
)

u = resp.usage
print("write:", u.cache_creation_input_tokens)
print("read: ", u.cache_read_input_tokens)
print("fresh:", u.input_tokens)

Iendeshe mara mbili kwa kutumia hati ileile na swali tofauti. Ombi la kwanza huripoti cache_creation_input_tokens isiyo sifuri na cache_read_input_tokens ya sifuri. Ombi la pili hubadilisha hali hiyo, kwa sababu kiambishi awali (prefix) kilipatikana. input_tokens huhesabu tu tokeni zilizopo baada ya breakpoint ya mwisho, kwa hivyo kwenye ombi la pili lililo salama huwa ndogo, kwa kawaida ni ujumbe mpya wa mtumiaji pekee. Maombi yote mawili hutoza gharama, kwa sababu Claude API haina kiwango cha bure, ingawa kwa kiambishi awali cha tokeni 20,000 kilichotajwa hapo juu, gharama ya jozi hiyo ni takriban senti kumi na nne.

Ukaguzi uleule kutoka kwenye shell, dhidi ya mwili wa ombi (request body) uliouhifadhi kwenye request.json:

curl -s https://api.anthropic.com/v1/messages \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d @request.json | jq '.usage'

Ombi la pili lililo salama huchapisha kitu kama hiki:

{
  "input_tokens": 42,
  "cache_creation_input_tokens": 0,
  "cache_read_input_tokens": 20143,
  "output_tokens": 187
}

Mstari mmoja hukuambia ukweli. Ikiwa cache_read_input_tokens itabaki kuwa 0 katika maombi yote, unalipa gharama ya 1.25x ya kuandika kila wakati na hupati chochote kama faida.

Kwa muda wa kuishi wa saa 1, breakpoint hubeba muda wa kuishi (TTL):

{
  "type": "text",
  "text": "your stable prefix",
  "cache_control": {"type": "ephemeral", "ttl": "1h"}
}

Pia kuna caching ya kiotomatiki: sehemu moja ya cache_control kwenye ngazi ya juu ya ombi, ambapo API hudhibiti breakpoint kadiri mazungumzo yanavyokua. Hii hutumia moja ya nafasi zako nne za breakpoint. Anzia hapo. Hamia kwenye breakpoint za wazi (explicit) pale unapohitaji kuamua hasa mahali mpaka unapoanzia.

Kanuni ya mpangilio inayoharibu viwango vya hit

Cache hulinganisha prefix byte kwa byte kuanzia mwanzo wa ombi, na ombi hilo huandaliwa kwa mpangilio maalum: tools, kisha system, kisha messages. Mabadiliko katika ngazi yoyote hubatilisha ngazi hiyo na kila kitu kinachofuata. Hariri maelezo ya tool moja na system prompt pamoja na historia nzima ya ujumbe vitabatilishwa, hata kama hukuvigusa.

Hii inatoa kanuni moja isiyo na ubaguzi. Kila kitu kinachobadilika kati ya wito (calls) lazima kiwe baada ya kila kitu kisichobadilika.

Mhusika mkuu wa kawaida ni timestamp. Mstari unaosomeka Current time: 2026-08-03T14:07:11Z juu ya system prompt huhakikisha kiwango cha hit cha asilimia 0, kwa sababu prefix hash huwa tofauti katika kila wito na hakuna ingizo la awali linaloweza kulingana nayo. Ihamishie kwenye ujumbe wa mtumiaji, mwishoni. Kitambulisho cha session au nonce ya kila ombi huvuruga mambo kwa njia hiyo hiyo na ina suluhisho hilo hilo. Nyaraka zilizorejeshwa (retrieved documents) zinazotofautiana kwa kila ombi pia ni lazima ziwekwe baada ya block iliyohifadhiwa kwenye cache, vinginevyo zitasukuma kila token thabiti nyuma ya mpaka unaohamahama.

Mhusika wa pili ni kuweka breakpoint kwenye block inayobadilika. Uandishi wa cache hutokea kwenye breakpoint, kwa hivyo ikiwa block hiyo ni tofauti kila wakati, hakuna kitu thabiti kinachohifadhiwa, na utafutaji wa nyuma (lookback) hupata tu maingizo ambayo maombi ya awali yaliandika kwenye breakpoints zao zinazohamahama. Weka cache_control kwenye block ya mwisho ambayo maudhui yake ni sawa katika maombi yote.

Ya tatu ni mabadiliko ya parameter ambayo hukuyazingatia kama maudhui ya prompt. Model tofauti ina cache tofauti. Kubadilisha tool_choice hubatilisha historia ya ujumbe, ingawa tools na system prompt hubaki kwenye cache. Kuongeza au kuondoa tool hubatilisha kila kitu.

Prefix ya chini kabisa, na no-op ya kimya kimya

Prefix fupi kuliko kiwango cha chini cha model haihifadhiwi kwenye cache, na hakuna taarifa itakayokujulisha. Hakuna error, hakuna onyo. Ombi linafanikiwa na counters zote mbili zinasoma 0. Kufikia Oktoba 2026, viwango vya chini vilivyochapishwa ni:

  • 512 tokens kwenye Claude Opus 5 na Claude Fable 5, na kwenye matoleo mapya ya Opus 5.5, Sonnet 5.5, Fable 5.1 na Haiku 5.5
  • 1,024 tokens kwenye Claude Sonnet 5 na Claude Opus 4.8
  • 4,096 tokens kwenye Claude Haiku 4.5

Ikiwa counters zote mbili zinasoma 0 kwenye ombi unalodhani limehifadhiwa kwenye cache, kagua urefu wa prefix kabla ya kitu kingine chochote. Hii ndiyo sababu model ya bei nafuu siyo lazima iwe ya bei nafuu zaidi kwa kazi ya caching. Haiku 4.5 inahitaji prefix ndefu mara nane kuliko Opus 5 kabla ya caching kuanza kufanya kazi, kwa hivyo system prompt ya 2,000 tokens inahifadhiwa kwenye moja na kupuuzwa kimya kimya kwenye nyingine.

Mahali ambapo Claude Code huhifadhi akiba (cache) kwa ajili yako, na mahali ambapo haiwezi

Claude Code huhifadhi akiba ya prefix yake yenyewe. Prompt ya mfumo na ufafanuzi wa zana hukaa mwanzoni mwa kila ombi na havibadiliki, kwa hivyo huandikwa mara moja na kusomwa tena kwa muda wote wa kikao. Hii ndiyo sababu gharama ya kila hatua katika kikao kirefu iko chini sana kuliko ukubwa wa muktadha unavyopendekeza, na inaonekana katika vihesabio vilivyoelezwa katika jinsi Claude Code inavyoripoti matumizi ya token.

Mahali ambapo haiwezi kukusaidia ni mabadiliko yaliyo karibu na mwanzo wa muktadha. Historia ya mazungumzo huongezeka tu (append-only), kwa hivyo hatua mpya za kawaida huongeza prefix ambayo tayari imehifadhiwa kwenye akiba. Kuhariri faili iliyosomwa mapema kwenye kikao hakuvunji utaratibu huo, kwa sababu Claude Code huongeza dokezo kwamba faili imebadilika badala ya kuandika upya usomaji wa awali. Kinachovunja akiba hiyo ni kubadili modeli, kwa sababu kila modeli ina akiba yake yenyewe. Kuunganisha seva ya MCP ambayo zana zake hupakiwa kwenye prefix pia huvunja akiba, na vilevile kufupisha mazungumzo. Kila moja ya haya husababisha hatua inayofuata kuandika prefix upya. Muda mrefu wa kutofanya kazi (idle gap) hufanya vivyo hivyo, kwa sababu ingizo huisha muda wake na hatua inayofuata hulipia gharama kamili ya uandishi. Hakuna hata moja ya haya ni hitilafu (bug). Ni utaratibu wa prefix unaofanya kile kinachosemwa hasa.

Ikiwa unaandika mteja wako mwenyewe, tumia mpangilio kutoka kwa ombi la kwanza badala ya kuurekebisha baadaye: jenga mwito (call) kwa njia ambayo programu ya kwanza ya Claude API kwenye VPS inavyofanya, huku vizuizi thabiti vikiwa mwanzo na vile vinavyobadilika vikiwa mwisho.

Njia za kufeli, na utakachokiona

Kila ombi ni uandishi. cache_creation_input_tokens si sifuri katika kila ombi wakati cache_read_input_tokens inabaki 0. Kuna kitu kwenye au kabla ya breakpoint kinachobadilika kati ya maombi. Chapisha herufi 200 za kwanza za prefix uliyokusanya kwenye maombi mawili mfululizo na uzilinganishe kwa macho.

Counters zote ni 0. Prefix iko chini ya kiwango cha chini cha model, au sehemu ya cache_control haijawahi kufika kwenye API. Hesabu token za prefix kwanza, kisha uweke kwenye logi mwili wa ombi uliotuma kweli.

Usomaji unafanya kazi, kisha unasimama. Msururu wa hits, kisha uandishi, kisha hits tena. Muda uliopita kati ya maombi ulikuwa mrefu kuliko muda wa uhai (lifetime). Kubali uandishi, au hamia kwenye 1 hour TTL baada ya kuhakikisha kuwa hit rate yako inavuka asilimia 53, au takriban asilimia 51 kwenye model yenye usomaji wa 0.05x au 0.025x.

Hit rate inashuka baada ya deploy. Maelezo ya zana yamehaririwa au model imebadilishwa. Vyote hivi hufuta uhalali wa prefix nzima. Tarajia mzunguko mmoja wa gharama kubwa wa uandishi baada ya kila deploy inayogusa prompt.

Bili imepanda baada ya kuwezesha caching. Hit rate yako iko chini ya kiwango cha faida (break-even). Chini ya takriban asilimia 22 kwenye cache ya dakika 5, kutuma prefix bila cache ni nafuu zaidi, na chini ya asilimia 53 hali hiyo ni ya kweli kwa cache ya 1 hour. Kwenye model zenye usomaji wa bei nafuu, mistari hiyo iko kwenye takriban asilimia 20 hadi 21 na asilimia 51.

FAQ

Ni mara ngapi prompt inapaswa kutumika tena ili caching iwe na faida?

Mara moja, kwa cache ya dakika 5. Uandishi unagharimu 1.25x ya input ya msingi na usomaji unagharimu 0.1x kwenye mifano mingi, kwa hivyo maombi N yasiyo na cache yanagharimu N, wakati maombi N yaliyopo kwenye cache yanagharimu 1.25 jumlisha 0.1 mara N kutoa 1. Gharama hizi hukutana kwenye N = 1.28, kwa hivyo ombi la pili tayari lina faida. Kwenye mifano yenye usomaji wa 0.05x au 0.025x, makutano ni N = 1.26, jambo linalotoa jibu sawa. Cache ya saa 1 huandika kwa 2x na hukutana kwenye N = 2.11, au takriban 2.05 kwenye usomaji wa bei nafuu, kwa hivyo inahitaji usomaji mara mbili.

Kwa nini cache_read_input_tokens huwa sifuri kila wakati?

Angalia urefu wa prefix kwanza: chini ya kiwango cha chini cha mfano, token 512 kwenye Claude Opus 5 na 4,096 kwenye Claude Haiku 4.5 kufikia Oktoba 2026, caching hurukwa kimya kimya na vihesabio vyote viwili husoma 0. Ikiwa prefix ni ndefu ya kutosha, tafuta maudhui yanayobadilika kati ya maombi yaliyopo kwenye au kabla ya breakpoint, kama vile timestamp au kitambulisho cha session kwenye system prompt. Ikiwa vihesabio vilikuwa vikifanya kazi na vikaacha, pengo kati ya maombi lilikuwa refu kuliko muda wa kuishi wa cache.

Je, prompt caching hubadilisha majibu ya Claude?

Hapana. Cache huhifadhi umbo lililochakatwa la token ulizotuma tayari, na mfano huona prompt ile ile kwa njia yoyote. Hii ni kipengele cha malipo na latency, si mabadiliko ya tabia. Hii pia inamaanisha unaweza kuiwasha kwenye prompt inayofanya kazi bila kurudia tathmini zako.

Je, nilipe kwa ajili ya cache ya saa 1?

Wakati tu trafiki yako ina mapengo marefu kuliko dakika 5 na hit rate yako bado itafikia takriban asilimia 53, au takriban asilimia 51 kwenye mfano wenye usomaji wa bei nafuu. Ikiwa hit inakosekana, uandishi wa 2x unagharimu mara nne zaidi ya uandishi wa 1.25x. Uandishi wa saa 1 uliokosekana hupoteza bei kamili ya msingi ya input ya prefix, wakati uandishi wa dakika 5 uliokosekana hupoteza robo yake tu. Entry ya dakika 5 hujihuisha kwenye kila hit, kwa hivyo trafiki thabiti huiweka hai kwa bei za usomaji bila kulipia muda mrefu wa kuishi.

Je, makala hii ilikusaidia?

#claude#prompt-caching#api#token-costs#optimization