SSD Nodes Learn Hosting plans →
Mwongozo Matt ConnorNa Matt Connor · Imeboreshwa 2026-10-30

Gharama za token za Claude: Kwa nini output ni ghali?

Token za output za Claude zina gharama mara tano zaidi ya input. Jifunze kwa nini mchakato wa decoding ni polepole kuliko prefill na jinsi asymmetry hii inavyoathiri bili yako.

Kwa nini token za matokeo (output) zina gharama kubwa kuliko token za ingizo (input)

Token za matokeo zina gharama mara tano ya token za ingizo katika kila modeli ya Claude iliyo kwenye orodha ya sasa. Sababu ni muundo wa hesabu (computation). Kusoma prompt ni hatua moja ya kupitia modeli. Kuandika jibu ni hatua moja kwa kila token, na kila hatua lazima isubiri ile iliyotangulia.

Uwiano huo ni sawa katika kila mstari wa orodha ya bei, kwa hivyo modeli unayochagua haibadilishi kiasi cha bili yako kinachotokana na matokeo. Muundo wa kazi yako ndio unaoamua hilo. Hatua ya wakala (agent step) inayosoma token 60,000 na kujibu kwa 800 haitumii karibu chochote kwa matokeo. Kazi ya kuandaa rasimu inayosoma token 2,000 na kuandika 12,000 haitumii karibu chochote kwa ingizo. Kesi zote mbili zimehesabiwa hapa chini kulingana na viwango vilivyochapishwa na Anthropic, vilivyohakikiwa tarehe 27 Oktoba 2026.

Prefill huendeshwa mara moja, decoding huendeshwa mara moja kwa kila token

Seva ya inference hushughulikia ombi katika hatua mbili zenye gharama tofauti sana. Prefill husoma prompt. Decoding huandika jibu.

Prefill huchukua prompt nzima kwa wakati mmoja. Kila token ya prompt huingia kwenye mtandao katika forward pass moja, hivyo kazi ya attention na feed-forward huwa ni idadi ndogo ya matrix multiplications kubwa zinazoshughulikia maelfu ya token kwa wakati mmoja. Usomaji mmoja wa model weights kutoka kwenye kumbukumbu unatosheleza prompt nzima. Matrix units za accelerator hubaki zikifanya kazi, jambo linalomaanisha kuwa prefill kwa kawaida huwa compute-bound: kikomo ni kasi ya chip katika kufanya multiplication. Nyaraka za serving za NVIDIA hutaja isipokuwa: prefills fupi sana, na prefills ambapo long prefix tayari ni cache hit, huwa memory-bound badala yake.

Decoding ya kawaida haiwezi kufanya kazi kwa njia hiyo, kwa sababu token 2 inategemea token 1. Token ambayo model imetoa sasa inakuwa sehemu ya input ya hatua inayofuata, hivyo hatua hizo huendeshwa moja baada ya nyingine. Kila output token hupata forward pass yake, na kila pass kati ya hizo husoma seti kamili ya model weights, pamoja na KV cache (key/value cache, hali ya attention iliyohifadhiwa kwa kila token hadi sasa), kutoka kwenye high-bandwidth memory ili kutoa token moja. Hilo kwa kawaida hufanya decoding kuwa memory-bound: kikomo ni kasi ya kusafirisha weights na cached state, si kasi ya kuzidisha, na kwenye long contexts NVIDIA hutaja usomaji wa KV cache kama kikwazo kikuu. Traffic ileile ya weights iliyotumia prompt nzima wakati wa prefill, inakupa token moja tu wakati wa decoding.

Speculative decoding hubadili kanuni hiyo bila kuivunja. Draft model ndogo hukisia token kadhaa mbele, na model kubwa hukagua zote kwa wakati mmoja katika pass moja, jambo ambalo NVIDIA inasema linaweza kuhamisha decoding kuelekea compute-bound. Model kubwa bado hukubali makisio hayo kwa mpangilio na kusimama kwenye token ya kwanza isiyo sahihi, hivyo jibu refu bado hugharimu passes nyingi.

Mifumo ya serving hupambana na hali hiyo kwa kutumia batching. Maombi mengi hufanyiwa decoding pamoja, hivyo usomaji mmoja wa weights hutoa token moja kwa kila ombi lililopo kwenye batch. Hiyo ndiyo sababu decoding inawezekana kiuchumi. Kikomo ni kumbukumbu tena. Kila ombi linaloendelea hushikilia KV cache yake yenyewe, cache hiyo hukua kwa kila token inayozalishwa, na inapojaza accelerator, batch haiwezi kukua zaidi.

Hakuna kati ya hayo kinachokupa namba kamili, na hupaswi kuchukulia 5x kama uwiano uliopimwa wa hardware. Hiyo ni bei, iliyowekwa na Anthropic, ikizingatia asymmetry hiyo. Unachoweza kujikagua mwenyewe ni mwelekeo, na inachukua takriban dakika moja.

Pima pengo la ingizo na pato wewe mwenyewe

Sakinisha zana hizi kwenye mashine yoyote ya Ubuntu:

sudo apt update && sudo apt install -y curl jq moreutils

Sasa tiririsha (stream) prompt fupi inayoomba jibu refu, na uweke mhuri wa muda kwenye kila mstari unapoingia.

curl -sN https://api.anthropic.com/v1/messages \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{"model":"claude-sonnet-5","max_tokens":1000,"stream":true,
       "messages":[{"role":"user","content":"Count from 1 to 300, one number per line."}]}' \
  | ts -s '%.s'

ts -s huweka kiambishi cha sekunde zilizopita tangu amri ilipoanza kwenye kila mstari. Kuna mambo mawili ya kuzingatia kutoka kwenye pato hilo. Mstari wa kwanza wa content_block_delta ni muda wako wa kupata token ya kwanza, na prefill yote ilitokea ndani ya muda huo. Kila mstari unaofuata ni hatua ndogo ya decoding, na mihuri ya muda huendelea kupanda hadi message_stop itakapowasili.

Sasa geuza umbo hilo. Weka hati ndefu kwenye prompt na uweke kikomo cha jibu kwa token chache.

curl -sN https://api.anthropic.com/v1/messages \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d "$(jq -n --rawfile doc ./long-document.txt \
       '{model:"claude-sonnet-5", max_tokens:16, stream:true,
         messages:[{role:"user", content:("Answer in one word. Is this document about networking?\n\n" + $doc)}]}')" \
  | ts -s '%.s'

Delta ya kwanza inachukua muda mrefu zaidi kuliko ilivyokuwa kwenye prompt fupi, kwa sababu prefill ina maandishi mengi zaidi ya kusoma. Baada ya kuwasili, jibu huisha karibu mara moja, kwa sababu token chache tu zimebaki za kufanya decoding. Makumi ya maelfu ya token yaliingia na saa haikusogea sana. Mamia machache yalitoka na saa ilikimbia muda wote.

Kila jibu lisilo la kutiririsha (non-streaming) huishia na namba unazotozwa ada.

{
  "usage": {
    "input_tokens": 41283,
    "output_tokens": 6,
    "cache_creation_input_tokens": 0,
    "cache_read_input_tokens": 0
  }
}

Hifadhi sehemu zote nne kwa kila ombi. output_tokens inajumuisha token za kufikiri, kwa hivyo modeli inayofikiri kabla ya kujibu hutoza fikira hizo kwa kiwango cha pato. Ili kupanga bei ya prompt kabla ya kuituma, POST /v1/messages/count_tokens hutumia mwili wa ombi uleule kwa maombi mengi, inarudisha {"input_tokens": N} kama makadirio bila kuendesha modeli, na ni bure, ndani ya kikomo chake cha kiwango cha matumizi. Inakataa miili michache ambayo Messages API inakubali: zana nyingi za seva kama vile utafutaji wa wavuti, MCP connector, na vizuizi vya picha au hati vyenye chanzo cha url au file, kwa hivyo tuma picha na PDF kama base64 unapozihisabu. Hiyo si sehemu pekee ya API isiyogharimu chochote, na sehemu zipi za Claude API ambazo hutozwi kamwe inafaa kuangaliwa kabla ya kupanga bajeti ya mradi wa kwanza.

Gharama za Claude kwa kila token milioni kufikia Oktoba 2026

ChatiClaude API list rates, US dollars per million tokens, October 2026
Data iliyo nyuma ya chati hii
[
  {
    "label": "Haiku 4.5",
    "input_usd": 1,
    "output_usd": 5,
    "output_multiple": 5
  },
  {
    "label": "Sonnet 5",
    "input_usd": 2,
    "output_usd": 10,
    "output_multiple": 5
  },
  {
    "label": "Opus 5",
    "input_usd": 5,
    "output_usd": 25,
    "output_multiple": 5
  },
  {
    "label": "Fable 5",
    "input_usd": 10,
    "output_usd": 50,
    "output_multiple": 5
  }
]

Safu ya mwisho ni matokeo yaliyogawanywa kwa pembejeo, na inasomeka 5 kwenye kila mstari. Haiku 4.5 inatoza $1 kwa pembejeo na $5 kwa matokeo. Opus 5 inatoza $5 na $25. Fable 5, ambayo ni ghali zaidi, inatoza $10 na $50, na kile ambacho viwango hivyo vya Fable 5 vinakupa inafaa kusomwa kabla ya kuipuuza safu hiyo ya juu. Kupanda katika viwango hivyo huzidisha pande zote mbili kwa kiasi kilekile, hivyo hubadilisha jumla yako lakini huacha uwiano wa pembejeo na matokeo ukiwa vilevile.

Sonnet 5 inatoza $2 kwa pembejeo na $10 kwa matokeo. Anthropic ilizindua modeli hiyo kwa kiwango hicho kama bei ya utangulizi hadi 31 Agosti 2026, huku ongezeko la hadi $3 na $15 likipangwa kuanza 1 Septemba, lakini baadaye ikafanya $2 na $10 kuwa bei ya kawaida badala yake. Ongezeko hilo halikutekelezwa kamwe, kwa hivyo kiwango katika kila mfano wa kazi hapa chini ndicho unacholipa leo.

Anthropic pia imetoa modeli mpya zaidi tangu ukurasa huu uanze, na claude.com/pricing sasa inaorodhesha zile nne za juu kama modeli za zamani (legacy) ambazo bado zinapatikana. Modeli mpya zinadumisha uwiano uleule wa 5x. Opus 5.5 inatoza $4 na $20, Sonnet 5.5 inatoza $2 na $10, Fable 5.1 inatoza $10 na $50, na Haiku 5.5 inatoza $0.10 na $0.50 kwa prompts za hadi token 100,000, na kupanda hadi $0.50 na $2.50 zaidi ya hapo. Hatua ya wakala ya token 60,000 iliyo hapa chini iko chini ya mstari huo, lakini wakala ambaye historia yake inaendelea kukua atavuka mstari huo hatimaye, na jinsi viwango viwili vya bei vya Haiku 5.5 vinavyofanya kazi kwenye kazi halisi inaonyesha kile ambacho ongezeko hilo hufanya kwenye bili. Viwango vya msingi vya pembejeo na matokeo vya Opus 5.5 viko 20% chini ya Opus 5, kwa hivyo kila takwimu ya Opus 5 isiyo na cache hapa chini iko 20% chini kwenye Opus 5.5. Takwimu zilizowekwa kwenye cache hushuka zaidi, kwa sababu Opus 5.5 inasoma cache hits kwa $0.20 kwa kila token milioni dhidi ya $0.50 kwenye Opus 5, punguzo la 60%. Hatua ya wakala iliyowekwa kwenye cache inayogharimu $0.0725 kwenye Opus 5 hapa chini inagharimu takriban $0.047 kwenye Opus 5.5, takriban 35% chini.

Viwango hubadilika, na ukurasa huu si mahali unapaswa kuvikagua. claude.com/pricing ndiyo chanzo cha ukweli. Kinachostahimili mabadiliko ya bei ni mbinu.

Tahadhari moja iko kwenye maelezo chini ya jedwali la bei la Anthropic badala ya viwango vyenyewe. Ukurasa wa bei wa Anthropic unasema kuwa Claude 4.7 na modeli za baadaye hutumia tokenizer mpya inayozalisha takriban 30% ya token nyingi zaidi kwa maandishi yaleyale kuliko tokenizer iliyopo kwenye Sonnet 4.6 na modeli za awali. Modeli mbili zinazolinganishwa kwa bei ya kila token milioni pekee zitaipendelea ile mpya, kwa sababu hati ileile ina token nyingi zaidi kwenye modeli hiyo. Linganisha kwa gharama ya kila kazi iliyokamilika, na uhesabu prompts zako halisi dhidi ya modeli unayopanga kutumia. Mtego uleule upo kati ya watoa huduma, ambao tokenizers zao hutofautiana pia, kwa hivyo kugharamia kazi halisi kwenye Claude na ChatGPT inakuambia zaidi kuliko kuweka kadi mbili za viwango kando kwa kando. thamani ya token milioni moja za Claude katika maandishi halisi inashughulikia kile ambacho ujazo huo unaonekana kama katika matumizi ya kawaida.

Ni wakati gani matokeo (output) huanza kutawala bili yako?

Kwa bei ya matokeo ikiwa mara 5 ya pembejeo (input), ni rahisi kukadiria kiwango cha usawa wa gharama. Ikiwa tutaita tokeni za pembejeo I na tokeni za matokeo O. Gharama ya pembejeo ni I. Gharama ya matokeo ni mara 5 ya O. Matokeo huchukua nusu ya matumizi yako wakati mara 5 ya O ni kubwa kuliko I, ambayo ni uwiano wa tokeni 5 za pembejeo kwa 1 ya matokeo.

Kwa hivyo, ikiwa prompt yako ni ndefu zaidi ya mara tano ya jibu lako, pembejeo ndiyo gharama kubwa zaidi. Chini ya hapo, matokeo ndiyo gharama kubwa.

ChatiShare of spend by input to output token ratio, at 5x output pricing
Data iliyo nyuma ya chati hii
[
  {
    "label": "100:1",
    "input_share_pct": 95.2,
    "output_share_pct": 4.8
  },
  {
    "label": "75:1",
    "input_share_pct": 93.75,
    "output_share_pct": 6.25
  },
  {
    "label": "20:1",
    "input_share_pct": 80,
    "output_share_pct": 20
  },
  {
    "label": "10:1",
    "input_share_pct": 66.7,
    "output_share_pct": 33.3
  },
  {
    "label": "5:1",
    "input_share_pct": 50,
    "output_share_pct": 50
  },
  {
    "label": "1:1",
    "input_share_pct": 16.7,
    "output_share_pct": 83.3
  },
  {
    "label": "1:6",
    "input_share_pct": 3.2,
    "output_share_pct": 96.8
  }
]

Katika uwiano wa 100 kwa 1, matokeo ni 4.8% ya matumizi, na kupunguza prompt ndiyo kazi pekee yenye manufaa. Katika uwiano wa 5 kwa 1, pande zote mbili zinalingana. Katika uwiano wa 1 kwa 6, matokeo ni 96.8% na prompt inakuwa kiasi kidogo kisicho na athari kubwa. Watu wengi hukisia uwiano wao vibaya, kwa hivyo chukua takwimu kutoka kwenye logs zako kabla ya kufanya uboreshaji wowote.

Mzigo wa kazi wa agent: muktadha mrefu ndani, jibu fupi nje

Fanya hatua moja ya agent ya retrieval: tokens 60,000 za nyaraka zilizorejeshwa na historia ya mazungumzo kama ingizo, na jibu la tokens 800. Hiyo ni uwiano wa 75 kwa 1, ambao ni wa kawaida kwa kitu chochote kinachosoma kabla ya kuandika.

ChatiOne agent step, 60,000 input and 800 output tokens, US dollars per call
Data iliyo nyuma ya chati hii
[
  {
    "label": "Haiku 4.5",
    "input_cost": 0.06,
    "output_cost": 0.004,
    "total_cost": 0.064
  },
  {
    "label": "Sonnet 5",
    "input_cost": 0.12,
    "output_cost": 0.008,
    "total_cost": 0.128
  },
  {
    "label": "Opus 5",
    "input_cost": 0.3,
    "output_cost": 0.02,
    "total_cost": 0.32
  },
  {
    "label": "Fable 5",
    "input_cost": 0.6,
    "output_cost": 0.04,
    "total_cost": 0.64
  }
]

Output ni 6.25% ya gharama ya kila call hiyo kwenye kila model, kwa sababu uwiano huo ni thabiti katika orodha yote ya bei. Call hiyo inagharimu $0.32 kwenye Opus 5, $0.128 kwenye Sonnet 5, na $0.064 kwenye Haiku 4.5. Hatua hizo mia mbili kwa siku kwenye Opus 5 zinagharimu $64 kwa siku.

Faida kuu inaonekana mara tu unapoona mgawanyo huo. Kupunguza jibu kutoka tokens 800 hadi 400 kunaokoa takriban 3% ya call. Kuondoa tokens 20,000 za muktadha uliopitwa na wakati kwenye prompt kunaokoa takriban theluthi moja ya gharama yake. Kupunguza urefu wa output kwenye agent inayosoma zaidi kuliko inavyoandika ni karibu juhudi iliyopotea. tokens za agent wa coding huenda wapi hasa inaeleza ni nini hujaza prompt hiyo mwanzoni.

Uzalishaji wa kazi: maelekezo mafupi, rasimu ndefu

Sasa badilisha uwiano. Maelekezo ya token 2,000, rasimu ya token 12,000, uwiano wa 1 kwa 6.

ChatiOne draft, 2,000 input and 12,000 output tokens, US dollars per draft
Data iliyo nyuma ya chati hii
[
  {
    "label": "Haiku 4.5",
    "input_cost": 0.002,
    "output_cost": 0.06,
    "total_cost": 0.062,
    "batch_total_cost": 0.031
  },
  {
    "label": "Sonnet 5",
    "input_cost": 0.004,
    "output_cost": 0.12,
    "total_cost": 0.124,
    "batch_total_cost": 0.062
  },
  {
    "label": "Opus 5",
    "input_cost": 0.01,
    "output_cost": 0.3,
    "total_cost": 0.31,
    "batch_total_cost": 0.155
  },
  {
    "label": "Fable 5",
    "input_cost": 0.02,
    "output_cost": 0.6,
    "total_cost": 0.62,
    "batch_total_cost": 0.31
  }
]

Matokeo ni 96.8% ya gharama hii. Opus 5 inagharimu $0.31 kwa kila rasimu dhidi ya $0.062 kwenye Haiku 4.5. Tofauti hiyo ya mara tano inatokana karibu yote na upande wa matokeo (output), ambapo ndipo mfano wa bei nafuu hukupa akiba kubwa zaidi.

Safu ya mwisho ni kazi hiyo hiyo kupitia Batch API, ambayo hupunguza gharama za input na output kwa 50%. Opus 5 inashuka hadi $0.155 kwa kila rasimu. Batch hufanya kazi kwa njia ya asynchronous badala ya papo hapo. Anthropic inasema batches nyingi hukamilika ndani ya saa moja, lakini batch inayoendelea kuchakatwa baada ya saa 24 huisha muda wake, na ombi lolote ambalo halijafikiwa wakati huo hurudi likiwa limeisha muda, halitozwi gharama na halina ujumbe. Kwa hiyo, inafaa kwa uzalishaji wa ripoti za usiku na uainishaji wa wingi, huku kukiwa na hatua ya kuwasilisha upya kwa chochote kilichoisha muda. Haifai kwa kazi yoyote ambayo mtu anasubiri kwa wakati huo.

Uelekezaji wa modeli (model routing) unalipa hapa kwa njia ambayo haifanyiki kwenye hatua ya wakala. Ikiwa sehemu ndefu ya kazi ni ya kiufundi, kama vile kupangilia upya maandishi au kupanua muhtasari uliokwisha kuidhinishwa, modeli ya bei nafuu huzalisha token hizo kwa bei ya chini mara tano. kuchagua kati ya Opus, Sonnet na Haiku inaelezea mahali ambapo mstari wa ubora unapoanzia kihalisi.

Caching hupunguza gharama za input, na input pekee

Prompt caching huhifadhi sehemu ya awali ya prompt yako kwenye seva na kutoza sehemu ndogo ya bei ya input ili kuisoma tena. Kuanzia tarehe 27 October 2026, vizidishi ni 1.25x ya bei ya msingi ya input kwa ajili ya cache ya dakika 5, 2x kwa ajili ya cache ya saa 1, na 0.1x kwa ajili ya kusoma hit kwenye models zilizoorodheshwa kwenye ukurasa huu. Models mpya zaidi husoma hits kwa bei nafuu zaidi: 0.05x kwenye Opus 5.5 na Sonnet 5.5, na 0.025x kwenye Fable 5.1.

Output haijajumuishwa kwenye punguzo hilo. Hakuna kitu kama cached output. Kila token inayoandikwa na model hutoza bei kamili ya output, kila wakati, bila kujali ni kiasi gani cha prompt kilichorejeshwa kama cache hit.

Chukua hatua hiyo hiyo ya agent kwenye Opus 5, huku 55,000 kati ya 60,000 ya input tokens ikitolewa kutoka kwenye warm cache.

ChatiThe same Opus 5 agent step, with and without a warm 55,000 token cache, US dollars
Data iliyo nyuma ya chati hii
[
  {
    "label": "No cache",
    "input_cost": 0.3,
    "output_cost": 0.02,
    "total_cost": 0.32
  },
  {
    "label": "55k prefix cache read",
    "input_cost": 0.0525,
    "output_cost": 0.02,
    "total_cost": 0.0725
  }
]

Gharama ya wito huo inashuka kutoka $0.32 hadi $0.0725. Gharama ya output haibadiliki: $0.02 kabla, na $0.02 baada. Caching hupunguza bili na kubadilisha muundo wake. Output ilikuwa 6.25% ya wito huo. Sasa ni zaidi ya robo yake, jambo linalobadilisha ni kigezo kipi kinachofaa kuboreshwa baadaye.

Wito wa kwanza hulipia gharama ya kuandika (write). Kuandika cache ya dakika 5 hugharimu 1.25x ya input ya msingi, kwa hivyo hujilipia baada ya hit moja tu. Kuandika kwa saa 1 hugharimu 2x, kwa hivyo inahitaji hits mbili. vizidishi vya kuandika na kusoma, na mahali ambapo caching huacha kuwa na faida hufafanua hesabu hiyo.

Viwango vinne unavyoweza kudhibiti

  1. Weka max_tokens kwenye urefu wa matokeo ya p95, si kwenye kiwango cha juu cha modeli.
  2. Elekeza hatua ndefu kwa modeli ya bei nafuu.
  3. Fanya batching kwa kazi yoyote ambayo hakuna anayoisubiri.
  4. Futa maelekezo yanayoongeza urefu wa majibu bila sababu.

max_tokens ni kikomo cha juu, na kukiweka juu hakugharimu chochote peke yake, kwa sababu unatozwa kwa tokeni zinazozalishwa na si kwa kikomo hicho. Kikomo kikubwa huondoa kizuizi kwenye jibu linaloharibika. Toa usambazaji wa output_tokens kutoka kwenye logi zako, weka kikomo kidogo juu ya asilimia 95, na ushughulikie stop_reason: "max_tokens" kwenye msimbo kwa kuendeleza jibu au kujaribu tena. Kukatwa kwa jibu unakokugundua kunagharimu kidogo kuliko maelezo ya tokeni 4,000 unayolipia na kisha kuyaacha. Kufikiri pia huingia kwenye output_tokens na huhesabiwa dhidi ya max_tokens, kwa hivyo pima kikomo kulingana na ushahidi uleule, na kwenye modeli zenye uwezo wa kufikiri wa kubadilika, punguza kiwango cha juhudi ikiwa kufikiri kunaendelea kutumia tokeni nyingi za jibu.

Routing hufanya kazi wakati sehemu ya gharama kubwa ya hatua ni kiasi badala ya uamuzi. Weka modeli yenye nguvu kwenye uamuzi, na upe kazi ya kuandika kwa modeli ya bei nafuu. Pima toleo lililoelekezwa kwenye seti yako ya tathmini kwanza, kwa sababu namba inayozingatiwa ni gharama kwa kila kazi iliyokamilika. Katika hatua ya wakala hapo juu, majaribio mawili ya Haiku 4.5 yanagharimu $0.128 dhidi ya $0.32 kwa jaribio moja la Opus 5, kwa hivyo tofauti ya bei inaruhusu jaribio moja au mbili za ziada. Kile kisichokubalika ni jibu lisilo sahihi ambalo hakuna anayeligundua.

Batching ndiyo njia pekee ya kupata punguzo la bei kwenye matokeo. Punguzo la 50% pande zote mbili, batch nyingi hukamilika ndani ya saa moja, na kazi yoyote iliyopangwa inastahiki, mradi kazi hiyo iwasilishwe tena ikiwa muda wa saa 24 utaisha.

Njia ya mwisho ni ile ambayo watu huiruka. Vifungu kama "be thorough" na "explain your reasoning" huweka urefu wa matokeo yako kwenye kila ombi utakalofanya. Badilisha vifungu hivyo na umbo unalotaka: "Answer in at most three sentences", au "Return only the JSON object, with no preamble". Prompt ya mfumo inayoongeza tokeni 300 kwenye kila jibu inagharimu mara tano zaidi ya tokeni 300 zilezile kwenye prompt ya kawaida. kudhibiti gharama za wakala anayefanya kazi inashughulikia upande wa ufuatiliaji, na kama API au usajili wa bei maalum ni nafuu kwa mfumo wako inafaa kuamuliwa kabla ya kutumia wiki nzima kurekebisha matumizi ya tokeni ambayo usajili ungeyafuta. Kwa msanidi programu mmoja, hii inategemea kama Claude Pro ya $20 kwa mwezi na vikomo vya matumizi vinavyoambatana nayo inatosheleza kazi ambayo ungekuwa unaipimia. Ikiwa tayari unafikia vikomo hivyo katikati ya kipindi, kujua ni dirisha gani unalolisubiri ndilo la kwanza, kwa sababu suluhisho kutoka hapo ni modeli ndogo, muktadha mwepesi, mikopo ya ziada ya matumizi, au kuhamishia kazi hiyo kwenye API inayotozwa. Ikiwa API inayotozwa itakuwa mahali nafuu zaidi kwa kazi hiyo, kushuka hadi mpango mdogo au kuusitisha kutakuacha na mwezi ambao tayari umeshalipia, kwa hivyo kufanya mabadiliko hayo hakukugharimu chochote unapotoka. Ikiwa mpango unaolinganisha na Pro ni wa ChatGPT badala ya API inayotozwa, ngazi mbili za usajili zilizowekwa kando kando zinaonyesha ni ipi inayokuja kuwa nafuu kwa kazi ya uandishi wa msimbo. Ikiwa swali hilo linaulizwa kwa ajili ya timu badala ya msanidi mmoja, kumbuka kuwa Claude Enterprise inaoanisha ada kwa kila mtumiaji na tokeni zinazopimwa kwa viwango hivi vya API, kwa hivyo kila njia kwenye ukurasa huu bado inatumika kwa nusu ya bili hiyo inayopimwa.

FAQ

Kwa nini token za matokeo (output) ni ghali zaidi kuliko token za ingizo (input)?

Kuzalisha token hizo kunatumia muda mwingi zaidi wa kichakataji (accelerator) kwa kila token. Prompt huchakatwa katika hatua moja ya mbele (forward pass) kwa maudhui yote, hivyo usomaji mmoja wa uzito wa modeli (model weights) hugharimia maelfu ya token na maunzi kwa kawaida hupungukiwa na uwezo wa kuzidisha (multiply throughput). Katika utoaji wa kawaida wa majibu, jibu huzalishwa token moja baada ya nyingine, ambapo kila token inahitaji hatua yake ya mbele inayosoma uzito wa modeli na KV cache inayokua, hivyo maunzi kwa kawaida hupungukiwa na uwezo wa bandwidth ya kumbukumbu. Mbinu kama speculative decoding hupunguza pengo hilo bila kuliondoa kabisa. Anthropic hutoza matokeo kwa mara tano ya gharama ya ingizo katika katalogi nzima ya sasa, kuanzia Haiku 5.5 hadi Fable 5.1.

Je, prompt caching hufanya token za matokeo kuwa nafuu?

Hapana. Prompt caching inahusu ingizo pekee. Kufikia 27 Oktoba 2026, usomaji wa cache hugharimu 0.1x ya kiwango cha msingi cha ingizo kwenye modeli nyingi (0.05x kwenye Opus 5.5 na Sonnet 5.5, 0.025x kwenye Fable 5.1), na uandishi wa cache hugharimu 1.25x kwa muda wa dakika 5 au 2x kwa muda wa saa 1. Matokeo hutozwa kwa kiwango kamili katika kila ombi, bila kujali kile cache ilichofanya. Ndiyo maana caching hubadilisha muundo wa bili yako pamoja na ukubwa wake: pindi upande wa ingizo unapopungua, matokeo huwa ndiyo sehemu inayochangia gharama kubwa zaidi.

Je, max_tokens ya juu inanigharimu pesa ikiwa jibu litakuja likiwa fupi?

Hapana. Unatozwa kwa token ambazo modeli inazalisha kikweli, kwa hivyo max_tokens ni ukomo wa juu na si hifadhi ya token. Bado ni muhimu, kwa sababu ndiyo kikomo pekee cha kuzuia jibu lisilo na mwisho. Iweke juu kidogo ya asilimia 95 ya output_tokens uliyozingatia, kisha dhibiti stop_reason: "max_tokens" kwenye msimbo (code) badala ya kutoa jibu lililokatwa kimyakimya.

Ninawezaje kupata uwiano wangu wa token za ingizo dhidi ya matokeo?

Hifadhi input_tokens, output_tokens, cache_read_input_tokens na cache_creation_input_tokens kutoka kwenye kitu cha usage cha kila jibu, kisha gawanya jumla yake kwa muda wa wiki moja. Ikiwa uwiano ni zaidi ya 5 za ingizo kwa 1 ya matokeo, pesa yako inatumika kwenye prompt, kwa hivyo hifadhi sehemu isiyobadilika kwenye cache na punguza sehemu nyingine. Ikiwa uwiano ni chini ya hapo, pesa yako inatumika kwenye jibu, kwa hivyo punguza urefu wake na uhamishe hatua zinazozalisha matokeo mengi zaidi kwenye modeli ya bei nafuu au kwenye Batch API.

Je, makala hii ilikusaidia?