Claude ఎందుకు ఖరీదైనది? Token లెక్క ఇదే

Claude ఎందుకు ఖరీదైనది? క్లుప్త సమాధానం

Claude ఖరీదైనది కావడానికి ఒకదానిపై ఒకటి పేరుకుపోయే నాలుగు కారణాలు ఉన్నాయి. అవుట్‌పుట్ టోకెన్‌ల ధర ఇన్‌పుట్ టోకెన్‌ల ధర కంటే ఐదు రెట్లు ఎక్కువగా ఉంటుంది. API మీ సంభాషణను గుర్తుంచుకోదు, కాబట్టి ప్రతిసారీ సంభాషణ చరిత్ర మొత్తాన్ని మళ్ళీ పంపి, దానికి మళ్ళీ బిల్లు చెల్లించాల్సి ఉంటుంది. ఒక ఏజెంట్ ఒక ప్రశ్నను డజన్ల కొద్దీ API కాల్‌లుగా మారుస్తుంది, ప్రతి కాల్‌లోనూ ఆ పెరుగుతున్న చరిత్ర ఉంటుంది. వీటన్నింటికీ తోడు, ఈ frontier మోడల్ ధర అది చేసే పని కష్టాన్ని బట్టి నిర్ణయించబడుతుంది, చిన్న మోడల్‌ను నడపడానికి అయ్యే ఖర్చును బట్టి కాదు.

టోకెన్ అనేది ఒక టెక్స్ట్ ముక్క, అది ఎంత టెక్స్ట్ అనేది మోడల్‌పై ఆధారపడి ఉంటుంది. Opus 5, Sonnet 5, Fable 5 మరియు 5.1 మరియు ప్రతి 5.5 మోడల్ Claude 4.7తో వచ్చిన కొత్త టోకెనైజర్‌ను ఉపయోగిస్తాయి. Anthropic ఒక మిలియన్ టోకెన్‌లను సుమారు 555,000 ఆంగ్ల పదాలు లేదా 2.5 మిలియన్ అక్షరాలుగా పరిగణిస్తుంది, కాబట్టి ఒక టోకెన్ అంటే సుమారు రెండున్నర అక్షరాలు లేదా సగం పదం కంటే కొంచెం ఎక్కువ. Sonnet 4.6 మరియు Haiku 4.5 వంటి పాత మోడల్‌లు మునుపటి టోకెనైజర్‌ను ఉపయోగిస్తాయి, అక్కడ ఒక టోకెన్ సుమారు 3.5 ఆంగ్ల అక్షరాలకు సమానం మరియు ఒక మిలియన్ టోకెన్‌లలో సుమారు 750,000 పదాలు ఉంటాయి. అదే టెక్స్ట్ కొత్త మోడల్‌లలో సుమారు 30 శాతం ఎక్కువ టోకెన్‌లుగా లెక్కించబడుతుంది, కాబట్టి పాత అంచనాలను తిరిగి ఉపయోగించకుండా, మీరు ఉపయోగించాలనుకుంటున్న మోడల్‌తో మళ్ళీ లెక్కించండి. ధరలు మిలియన్ టోకెన్‌లకు కోట్ చేయబడతాయి, వీటిని MTok (million tokens) అని రాస్తారు. కింద పేర్కొన్న ప్రతి ధర అక్టోబర్ 2026 నాటికి ప్రచురించబడిన Claude API ధర.

చాలా వరకు ఊహించని బిల్లులు పైన పేర్కొన్న జాబితాలోని రెండు మరియు మూడవ కారణాల వల్ల వస్తాయి. Claude రాసే సమాధానాలకు మాత్రమే డబ్బు ఖర్చవుతుందని ప్రజలు సాధారణంగా భావిస్తారు. ఒక ఏజెంట్ సెషన్‌లో, రాసే పనికి అయ్యే ఖర్చు బిల్లులో పదో వంతు కంటే తక్కువగా ఉంటుంది.

ప్రచురించబడిన ధరలు, కాబట్టి మనం సంఖ్యల విషయంలో ఏకీభవిస్తున్నాము

[
  {
    "label": "Haiku 4.5",
    "input_usd": 1,
    "output_usd": 5,
    "cache_read_usd": "0.10"
  },
  {
    "label": "Sonnet 5",
    "input_usd": 2,
    "output_usd": 10,
    "cache_read_usd": "0.20"
  },
  {
    "label": "Sonnet 4.6",
    "input_usd": 3,
    "output_usd": 15,
    "cache_read_usd": "0.30"
  },
  {
    "label": "Opus 5",
    "input_usd": 5,
    "output_usd": 25,
    "cache_read_usd": "0.50"
  }
]

ఖచ్చితమైన సంఖ్యల కంటే ధరల నిర్మాణాన్ని గమనించండి. ప్రతి మోడల్ ఇన్‌పుట్ కంటే అవుట్‌పుట్ కోసం ఖచ్చితంగా ఐదు రెట్లు ఎక్కువ ఛార్జ్ చేస్తుంది. Opus 5 ధర మిలియన్ ఇన్‌పుట్ టోకెన్లకు 5 డాలర్లు మరియు మిలియన్ అవుట్‌పుట్ టోకెన్లకు 25 డాలర్లు. Haiku 4.5 ధర 1 మరియు 5. కాబట్టి ఈ పట్టికలో అత్యంత చౌకైన మోడల్ నుండి అత్యంత ఖరీదైన మోడల్ వరకు వ్యత్యాసం ఐదు రెట్లు, అలాగే చదవడం (reading) మరియు రాయడం (writing) మధ్య వ్యత్యాసం కూడా ఐదు రెట్లు ఉంటుంది.

Sonnet 5 ధర మిలియన్ టోకెన్లకు 2 మరియు 10 డాలర్లు. Anthropic మొదట ఈ ధరను ఆగస్టు 31, 2026 వరకు పరిచయ ధరగా విక్రయించింది, ఆ తర్వాత దీనిని ప్రామాణిక ధరగా మార్చి, 3 మరియు 15 డాలర్లకు పెంచాలనే ప్రణాళికను రద్దు చేసింది. కొత్త మోడల్స్ విడుదలైనప్పుడు ధరలు మారుతుంటాయి, కాబట్టి బడ్జెట్‌ను సిద్ధం చేసుకునే ముందు ప్రస్తుత ధరలను తనిఖీ చేయండి. కొత్త మోడల్స్ కూడా అదే ఐదు రెట్ల నిర్మాణాన్ని కలిగి ఉన్నాయి: Opus 5.5 ధర మిలియన్ టోకెన్లకు 4 మరియు 20 డాలర్లు, Sonnet 5.5 ధర 2 మరియు 10 డాలర్లు, మరియు అక్టోబర్ 7, 2026న విడుదలైన Haiku 5.5 ధర 0.10 మరియు 0.50 డాలర్లు. ఈ పట్టిక కింద ఎటువంటి ఉచిత శ్రేణి (free tier) లేదు, అయితే కొత్త ఖాతాలు చిన్న క్రెడిట్‌తో ప్రారంభమవుతాయి మరియు API లోని కొన్ని భాగాలు పూర్తిగా ఉచితం.

చివరి కాలమ్ cache read రేటును సూచిస్తుంది. ఇది చాలా బిల్లులను నిర్ణయిస్తుంది. గణనలు పూర్తి చేసిన తర్వాత దీనిని మళ్ళీ చూడండి.

అవుట్‌పుట్ tokens ధర input tokens కంటే ఐదు రెట్లు ఎందుకు ఎక్కువ?

చదవడం మరియు రాయడం ఒకే పరిమాణంలో జరిగే పనులు కావు. Input tokens ను ఒకే pass లో process చేస్తారు. Model మొత్తం prompt ను ఒకేసారి చదువుతుంది, ఆ పని prompt అంతటా parallel గా జరుగుతుంది. అందుకే 60,000 token prompt ను చదవడానికి 1,000 token prompt కంటే 60,000 రెట్లు ఎక్కువ సమయం పట్టదు.

Output tokens ను ఒక్కొక్కటిగా ఉత్పత్తి చేస్తారు. ప్రతి కొత్త token కు model ద్వారా ప్రత్యేక pass అవసరం. అదనంగా, దానికి ముందు వచ్చిన ప్రతి token ను context గా ఉపయోగించాలి. 1,000 tokens రాయడం అంటే వరుసగా 1,000 passes చేయడం. Reading లాగా ఈ serial పనిని విభజించి ఒకేసారి చేయలేం. అందువల్ల ప్రతి output token hardware ను ఎక్కువసేపు వినియోగిస్తుంది.

అందుకే “సమాధానాన్ని చిన్నదిగా చేయండి” అనేది చాలామంది ఆశించేంత ప్రభావవంతమైన నియంత్రణ కాదు. Agent bill లోని తక్కువ భాగంపై మాత్రమే ఇది ప్రభావం చూపుతుంది.

ప్రతి turn‌లో నా మొత్తం conversation‌కు మళ్లీ billing ఎందుకు జరుగుతోంది?

Claude API stateless‌గా పనిచేస్తుంది. మీరు ఒక message‌ను జోడిస్తున్న Anthropic వైపు ముందే ఉన్న conversation ఏదీ ఉండదు. ప్రతి request‌లో మొత్తం message history ఉంటుంది. ఏదైనా output రాయడానికి ముందు model ఆ history మొత్తాన్ని చదువుతుంది. అందువల్ల turn 30కు, turns 1 నుంచి 29 వరకు ఉన్న content‌కూ billing జరుగుతుంది.

దీని వల్ల conversation పొడవు పెరిగే కొద్దీ cost మరింత వేగంగా పెరుగుతుంది. Turn 1లో చిన్న context‌కు billing జరుగుతుంది. Turn 40లో పెద్ద context‌కు billing జరుగుతుంది. మొత్తం 40 turns‌ను కలిపితే, వాస్తవంగా రాసిన tokens సంఖ్య కంటే అనేక రెట్లు ఎక్కువ tokens‌కు మీరు చెల్లించినట్లు అవుతుంది.

[
  {
    "turn": 1,
    "context_tokens": "20,000"
  },
  {
    "turn": 5,
    "context_tokens": "32,000"
  },
  {
    "turn": 10,
    "context_tokens": "45,000"
  },
  {
    "turn": 15,
    "context_tokens": "55,000"
  },
  {
    "turn": 20,
    "context_tokens": "64,000"
  },
  {
    "turn": 25,
    "context_tokens": "74,000"
  },
  {
    "turn": 30,
    "context_tokens": "84,000"
  },
  {
    "turn": 35,
    "context_tokens": "92,000"
  },
  {
    "turn": 40,
    "context_tokens": "100,000"
  }
]

పై session 20,000 tokensతో ప్రారంభమవుతుంది. ఇందులో system prompt, tool definitions, అలాగే agent మొదట తెరిచిన files ఉంటాయి. 40 turn నాటికి context‌లో 100,000 tokens ఉంటాయి. దీనిని మొత్తం 40 turnsపై average చేస్తే, ప్రతి request‌లో సుమారు 60,000 tokens చదవబడుతున్నట్లు అవుతుంది.

చాట్‌తో పోలిస్తే ఏజెంట్‌కు ఎందుకు అంత ఖర్చు అవుతుంది?

ఒక చాట్ అంటే ప్రతి ప్రశ్నకు ఒక అభ్యర్థన (request) మాత్రమే. కానీ ఒక ఏజెంట్ ప్రతి అడుగుకు (step) ఒక అభ్యర్థనను పంపుతుంది. ఒక ఫైల్‌ను చదవడం ఒక అడుగు. ఒక టెస్ట్‌ను రన్ చేయడం ఒక అడుగు. టెస్ట్ అవుట్‌పుట్‌ను చదవడం ఒక అడుగు. ఫైల్‌ను ఎడిట్ చేయడం ఒక అడుగు. ఒక కోడింగ్ ఏజెంట్ ఒక పనిని పూర్తి చేయడానికి నలభై అడుగులు వేయడం సాధారణం.

టూల్స్ (tools) వాడకంతో పాటు రెండు అదనపు ఖర్చులు ఉంటాయి. ప్రతి అభ్యర్థనలోనూ టూల్ డెఫినిషన్లు ఇన్‌పుట్ టోకెన్లుగా ఉంటాయి, ఎందుకంటే ప్రతిసారీ ఏయే టూల్స్ అందుబాటులో ఉన్నాయో మోడల్‌కు తెలియజేయాలి. Anthropic ఈ ఓవర్‌హెడ్‌ను వెల్లడించింది: tool_choice ను auto గా సెట్ చేసినప్పుడు, Opus 5 లో టూల్ యూజ్ సిస్టమ్ ప్రాంప్ట్ 286 టోకెన్లు ఉంటుంది, దీనికి అదనంగా మీరు అందించే టూల్ స్కీమాల టోకెన్లు ఉంటాయి. కొన్ని సర్వర్-సైడ్ టూల్స్‌కు విడిగా రుసుము ఉంటుంది. వెబ్ సెర్చ్ కోసం టోకెన్ల ఖర్చుతో పాటు, ప్రతి 1,000 సెర్చ్‌లకు $10 చొప్పున బిల్లు పడుతుంది.

ప్రతి టూల్ ఫలితం కూడా శాశ్వత కాంటెక్స్ట్‌గా మారుతుంది. 3,000 లైన్లను ప్రింట్ చేసే ఒక కమాండ్, ఆ 3,000 లైన్లను సెషన్ ముగిసే వరకు లేదా హిస్టరీని కాంపాక్ట్ చేసే వరకు లేదా క్లియర్ చేసే వరకు ప్రతి తదుపరి అభ్యర్థనలో ఉంచుతుంది. Claude Code నివేదించే ప్రతి-సెషన్ టోకెన్ వినియోగం దీన్ని స్పష్టం చేస్తుంది: ఏదైనా ఎక్కువ అవుట్‌పుట్ ఇచ్చే కమాండ్ తర్వాత ఇన్‌పుట్ సంఖ్య ఎలా పెరుగుతుందో గమనించండి.

ఒక వాస్తవ session లో లెక్క

Opus 5 పై agentic coding చేసిన ఒక వాస్తవ గంటను పరిశీలిద్దాం. మొత్తం నలభై API requests ఉన్నాయి. Context 20,000 నుండి 100,000 tokens వరకు పెరిగింది. అందువల్ల ప్రతి request కు సగటున సుమారు 60,000 tokens ఉన్నాయి. Model ప్రతి request కు సుమారు 700 tokens రాసింది. ఇందులో చిన్న tool calls మరియు కొన్ని పొడవైన code blocks ఉన్నాయి.

Requests in the session:      40
Average context per request:  60,000 tokens

Total input tokens billed:    40 x 60,000                    = 2,400,000
Input cost on Opus 5:         2,400,000 x $5 / 1,000,000     = $12.00

Total output tokens:          40 x 700                       =    28,000
Output cost on Opus 5:        28,000 x $25 / 1,000,000       =  $0.70

Session total                                                = $12.70

[
  {
    "label": "Input, context re-read",
    "billed_tokens": "2,400,000",
    "cost_usd": "12.00"
  },
  {
    "label": "Output, code and tool calls",
    "billed_tokens": "28,000",
    "cost_usd": "0.70"
  }
]

విభజనను గమనించండి. Reading cost 12.00 dollars, writing cost 0.70 dollars. అంటే మీరు వాస్తవంగా చదివిన output మొత్తం bill లో సుమారు ఐదు శాతం మాత్రమే. Model 28,000 tokens రాసింది, అయితే reading కోసం 2,400,000 tokens కు bill వచ్చింది. ఎవరూ 2.4 million tokens type చేయలేదు. అదే 100,000 tokens ను మళ్లీ మళ్లీ చదివారు.

స్థాయి 1: ప్రాంప్ట్ క్యాషింగ్ (Prompt caching), ఇది అత్యంత ప్రభావవంతమైనది

ప్రాంప్ట్ క్యాషింగ్ మీ ప్రాంప్ట్‌లోని స్థిరమైన ప్రిఫిక్స్‌ను ప్రాసెస్ చేసిన రూపంలో నిల్వ చేస్తుంది. తదుపరి అభ్యర్థనలో, ఆ ప్రిఫిక్స్‌ను మళ్లీ ప్రాసెస్ చేయడానికి బదులుగా కాష్ నుండి చదువుతుంది. కాష్‌లోకి రాయడానికి ఐదు నిమిషాల కాష్ కోసం ఇన్‌పుట్ రేటు కంటే 1.25 రెట్లు, లేదా ఒక గంట కాష్ కోసం 2 రెట్లు ఖర్చవుతుంది. దీని నుండి చదవడం చాలా మోడళ్లలో ఇన్‌పుట్ రేటులో 0.1 రెట్లు ఖర్చవుతుంది, ఇందులో Opus 5 కూడా ఉంది. Opus 5.5 మరియు Sonnet 5.5 లలో 0.05 రెట్లు, మరియు Fable 5.1 లో 0.025 రెట్లు ఖర్చవుతుంది. Opus 5 లో ఇది మిలియన్ టోకెన్లకు 0.50 డాలర్లు, 5 డాలర్లకు బదులుగా.

దీనిని పైన పేర్కొన్న సెషన్‌కు వర్తింపజేయండి. సంభాషణ పెరుగుతున్న కొద్దీ ప్రతి 100,000 టోకెన్లు ఒకసారి కాష్‌లోకి రాయబడతాయి. మిగిలిన 2,300,000 ఇన్‌పుట్ టోకెన్లు కాష్ రీడ్స్‌గా మారుతాయి.

Tokens written to cache:      100,000
Cache write at 1.25x input:   100,000 x $6.25 / 1,000,000    = $0.63

Tokens read from cache:       2,300,000
Cache read at 0.1x input:     2,300,000 x $0.50 / 1,000,000  = $1.15

Output cost, unchanged                                       = $0.70

Session total                                                = $2.48

మీరు కాష్ చేయదగిన భాగాన్ని cache_control ఫీల్డ్‌తో గుర్తించాలి. టర్న్‌ల మధ్య మారకుండా ఉండే కంటెంట్ తర్వాత బ్రేక్‌పాయింట్‌ను ఉంచండి: సిస్టమ్ ప్రాంప్ట్ మరియు టూల్ డెఫినిషన్లు. మీరు పదేపదే సూచించే సుదీర్ఘ పత్రం కూడా అదే స్థిరమైన బ్లాక్‌లో ఉండాలి.

{
  "model": "claude-opus-5",
  "system": [
    {
      "type": "text",
      "text": "<long, stable instructions>",
      "cache_control": {"type": "ephemeral"}
    }
  ],
  "messages": [{"role": "user", "content": "..."}]
}

ఇప్పుడు మీ ప్రాంప్ట్ క్రమం ఖర్చును నిర్ణయిస్తుంది. కాష్ హిట్ కావాలంటే ప్రాంప్ట్ ప్రారంభం నుండి ఖచ్చితమైన సరిపోలిక ఉండాలి, కాబట్టి ప్రతి అభ్యర్థనలో మారే ఏదైనా అంశం మారకుండా ఉండే వాటి తర్వాతే ఉండాలి. మీ సిస్టమ్ ప్రాంప్ట్ పైన టైమ్‌స్టాంప్‌ను ఉంచితే, ప్రతి టర్న్‌లో కాష్ విఫలమవుతుంది: మొత్తం ప్రిఫిక్స్ మిస్ అవుతుంది, మరియు మీరు దాన్ని మళ్లీ రాయడానికి ఇన్‌పుట్ రేటు కంటే 1.25 రెట్లు చెల్లించాల్సి ఉంటుంది.

అది పనిచేసిందో లేదో ప్రతిస్పందన మీకు తెలియజేస్తుంది. ఒక అభ్యర్థనను పంపి, usage బ్లాక్‌ను చదవండి.

curl https://api.anthropic.com/v1/messages \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "claude-opus-5",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello"}]
  }'

ప్రతి ప్రతిస్పందన ఇలాంటి usage ఆబ్జెక్ట్‌ను కలిగి ఉంటుంది:

{
  "usage": {
    "input_tokens": 105,
    "cache_creation_input_tokens": 7345,
    "cache_read_input_tokens": 7123,
    "output_tokens": 239
  }
}

cache_read_input_tokens లో ఇప్పటికీ 0 అని చూపిస్తున్న రిపీట్ అభ్యర్థన అంటే కాష్ హిట్ అవ్వడం లేదని అర్థం. సాధారణంగా మీ బ్రేక్‌పాయింట్‌కు ముందు ఏదైనా మారడం దీనికి కారణం. ఐదు నిమిషాల కాష్ గడువు ముగుస్తుంది, కాబట్టి ఆరు నిమిషాల తర్వాత పంపిన అభ్యర్థన మిస్ అవుతుంది మరియు కొత్తగా రాయడం జరుగుతుంది.

స్థాయి 2: సులభమైన పనులను చిన్న మోడల్‌కు పంపండి

ఏజెంట్ సెషన్‌లో చాలా పనులు కష్టమైనవి కావు. ఒక ఫైల్‌ను తెరవడం, ఫార్మాటర్‌ను రన్ చేయడం, diff చదవడం వంటి వాటికి frontier మోడల్ అవసరం లేదు. వీటిని Haiku 4.5 కి పంపడం ద్వారా ఇన్‌పుట్ రేటును మిలియన్ టోకెన్లకు 5 డాలర్ల నుండి 1 డాలర్లకు తగ్గించవచ్చు. Haiku 5.5 ధరలు ఇంకా తక్కువగా, అంటే 100,000 టోకెన్ల వరకు ప్రాంప్ట్‌లకు 0.10 డాలర్లుగా ఉన్నాయి. అయితే, ప్రాంప్ట్ ఆ పరిమితిని దాటిన తర్వాత దాని రేట్లు ఐదు రెట్లు పెరుగుతాయి, ఏజెంట్ కాంటెక్స్ట్ పెద్దదైనప్పుడు ఇది త్వరగానే జరుగుతుంది. Haiku 5.5 ధరలు మరియు అది ఎక్కడ సరిపోతుంది అనే విభాగం ఈ రెండు స్థాయిల గురించి వివరిస్తుంది.

[
  {
    "label": "Opus 5, no caching",
    "session_cost_usd": "12.70"
  },
  {
    "label": "Opus 5, cached",
    "session_cost_usd": "2.48"
  },
  {
    "label": "Sonnet 5, cached",
    "session_cost_usd": "0.99"
  },
  {
    "label": "Haiku 4.5, cached",
    "session_cost_usd": "0.50"
  }
]

అదే సెషన్, caching లేని Opus 5 పై 12.70 డాలర్లు, caching తో 2.48 డాలర్లు, caching తో Sonnet 5 పై 0.99 డాలర్లు, మరియు caching తో Haiku 4.5 పై 0.50 డాలర్లు ఖర్చవుతుంది. కేవలం caching వాడటం వల్ల బిల్లులో సుమారు ఎనభై శాతం తగ్గుతుంది. మోడల్ ఎంపిక మిగిలిన ఖర్చులో ఎక్కువ భాగాన్ని తగ్గిస్తుంది. రేట్లను సరిగ్గా పోల్చడానికి Haiku 4.5 వరుసలో కూడా ఇతర మోడల్స్‌తో సమానమైన టోకెన్ మొత్తాలను ఉంచాము. Haiku 4.5 పాత టోకెనైజర్‌ను ఉపయోగిస్తుంది, కొత్తది అదే టెక్స్ట్‌కు సుమారు 30 శాతం ఎక్కువ టోకెన్లను లెక్కిస్తుంది. కాబట్టి, అదే పని Haiku 4.5 పై సుమారు 23 శాతం తక్కువ టోకెన్లతో పూర్తవుతుంది, దీనివల్ల ఆ సెషన్ ఖర్చు సుమారు 0.38 డాలర్లకు చేరుకుంటుంది.

ఇక్కడ ఒక ముఖ్యమైన హెచ్చరిక ఉంది. తక్కువ ధర గల మోడల్ తప్పుడు సమాధానం ఇస్తే, మీరు మళ్ళీ మొత్తం సెషన్‌ను మొదటి నుండి చేయాల్సి వస్తుంది, దానితో పాటు మీ సమయం కూడా వృథా అవుతుంది. ధరను బట్టి కాకుండా, పని ఎంత కష్టమైనదో దాన్ని బట్టి మోడల్‌ను ఎంచుకోండి. ఈ నియమం పైస్థాయికి కూడా వర్తిస్తుంది: Claude Fable 5 మరియు Fable 5.1 ధరలు మిలియన్ టోకెన్లకు వరుసగా $10 మరియు $50 గా ఉండి Opus 5 కంటే ఎక్కువగా ఉంటాయి, కాబట్టి అక్కడికి పంపే ముందు ఆ రేట్లకు మీకు ఏమి లభిస్తుంది అనే దాని గురించి చదవండి. Opus, Sonnet మరియు Haiku ల మధ్య ఎంపిక అనే విభాగం ఏ మోడల్ ఎక్కడ బాగా పనిచేస్తుందో వివరిస్తుంది.

లీవర్ 3: context hygiene

మీరు context లో ఉంచే ప్రతి token ను మిగిలిన ప్రతి turn కు లెక్కిస్తారు. అందువల్ల token ను ఆలస్యంగా తొలగించడంకంటే ముందుగానే తొలగించడం చాలా ఎక్కువ ప్రయోజనకరం. 40 turn ల session లో turn 5 వద్ద 5,000 token ల file ను మొత్తం output గా పంపితే, దాన్ని మరో 35 సార్లు చదవాలి. అంటే అదనంగా 175,000 input tokens అవుతాయి. ఒక్క జాగ్రత్తలేని paste వల్ల Opus 5 లో ఇది దాదాపు ఒక dollar ఖర్చవుతుంది.

ఈ సంఖ్యను తగ్గించడానికి నాలుగు అలవాట్లు ఉపయోగపడతాయి:

• నిన్నటి session ను కొనసాగించకుండా, కొత్త task కోసం fresh session ప్రారంభించండి.
• noisy commands output model కు చేరకముందే, head -50 వంటి సాధనంతో filter చేయండి.
• మొత్తం file ను అడగకుండా, మీకు అవసరమైన ఒక్క function ను మాత్రమే అడగండి.
• పొడవైన session లో ఇక progress కనిపించకపోతే, summary అడిగి దాని నుంచి మళ్లీ ప్రారంభించండి. Summary కొన్ని వందల tokens మాత్రమే ఉంటుంది. Transcript వంద వేల tokens ఉంటుంది.

Lever 4: ఇంటరాక్టివ్ కాని ప్రతిదాన్ని batch చేయండి

Batch API అభ్యర్థనలను asynchronous గా process చేస్తుంది. ఇది input మరియు output రెండింటి ఖర్చుపై 50 percent తగ్గింపును ఇస్తుంది. ఒక job కు తదుపరి second లోనే సమాధానం అవసరం లేకపోతే, దాన్ని batch చేయండి. ఇందులో classification, extraction, backlog summarising మరియు evaluation runs ఉంటాయి. ఈ batch discount, prompt caching తగ్గింపుతో కలిపి వర్తిస్తుంది. Interactive session కు ఇది వర్తించదు, ఎందుకంటే అక్కడ వేచి ఉండాల్సిన పని ఏదీ ఉండదు.

నన్ను మోసం చేస్తున్నారా?

“Claude ఎందుకు ఖరీదైనది?” అనే ప్రశ్న వెనుక ఉన్న అసలు విషయం ఇదే. కాబట్టి నేరుగా సమాధానం ఇస్తాను. రేట్లు బహిరంగంగా ప్రకటించబడ్డాయి. Standard tiers లో అవి అందరికీ ఒకేలా ఉంటాయి. ఛార్జీలు token ఆధారంగా విధించబడతాయి. మినహాయింపు చర్చించి కుదుర్చుకున్న contract. అక్కడ కూడా Claude Enterprise pricing అదే metered tokens ను భర్తీ చేయకుండా, వాటికి అదనంగా ప్రతి seat కు ఛార్జీని విధిస్తుంది. మీరు మరో plan తో కాకుండా మరో vendor తో పోలుస్తుంటే, Claude మరియు ChatGPT APIs పై అదే పనులకు ఉన్న ధరల పోలిక ఏది తక్కువ ఖర్చుతో వస్తుందో చూపిస్తుంది. Bill లోని ఏ అంశమూ ఇష్టానుసారం విధించబడదు. అయితే మీరు పొందుతున్న విలువను rate card చెప్పదు. ఎందుకంటే అది tokens కు ధర నిర్ణయిస్తుంది, కానీ మీకు ముఖ్యమైనది ఫలితం.

కాబట్టి ముందుగా ఫలితానికి ధర నిర్ణయించండి. పై session కు caching లేకుండా 12.70 dollars ఖర్చయ్యాయి. మీకు ఒక గంట పట్టే feature ను అది విడుదల చేసి ఉంటే, ఆ ఖర్చు తక్కువే. అది నలభై turns పాటు అదే విషయాన్ని చుట్టూ తిరిగితే, అదే 12.70 dollars తో ఏమీ సాధించలేదు. అప్పుడు సమస్య rate లో లేదు.

గుర్తుంచుకోవాల్సిన విషయం ఇదే. మీ bill value ఆధారంగా కాదు, tokens ఆధారంగా పెరుగుతుంది. ఒకే పొడవు ఉన్న productive session మరియు వృథా session కు సమాన ఖర్చే ఉంటుంది. అందుకే rate card కంటే ఆ నాలుగు levers ముఖ్యమైనవి. ప్రతి token ధరను మీరు చర్చించి మార్చలేరు. కానీ ఆ పని పూర్తిచేయడానికి ఎన్ని tokens అవసరమో మీరు నిర్ణయిస్తారు.

కాబట్టి నెలకు అయ్యే dollars ను కాకుండా, పూర్తయిన ప్రతి task కు అయ్యే dollars ను నమోదు చేయండి. Caching మరియు routing ను సర్దుబాటు చేస్తున్నప్పుడు ఆ సంఖ్య తగ్గితే, నెలవారీ మొత్తం పెరిగినా మీ setup మెరుగుపడుతున్నట్టే. ఎందుకంటే మొత్తం పెరగడానికి కారణం మీరు ఎక్కువ పని చేయడమే.

మీ బిల్లును తగ్గించని అంశాలు

కొన్ని ప్రాచుర్యంలో ఉన్న సలహాలు పెద్దగా ఉపయోగపడవు. మోడల్‌ను "క్లుప్తంగా ఉండమని" చెప్పడం వల్ల అవుట్‌పుట్ తగ్గుతుంది, కానీ మొత్తం బిల్లులో అవుట్‌పుట్ కేవలం ఐదు శాతం మాత్రమే ఉంటుంది. మీ ప్రశ్నను చిన్నదిగా చేయడం వల్ల 60,000 టోకెన్ల కాంటెక్స్ట్‌లో కొన్ని వందల టోకెన్లు మాత్రమే ఆదా అవుతాయి. ఎక్స్‌టెండెడ్ థింకింగ్‌ను ఆపివేయడం వల్ల థింకింగ్ టోకెన్లు మీ అవుట్‌పుట్‌లో గణనీయమైన భాగం ఉన్నప్పుడు మాత్రమే ప్రయోజనం ఉంటుంది; మీరు ఊహించాల్సిన అవసరం లేకుండా, usage బ్లాక్ మీకు ఆ విషయాన్ని తెలియజేస్తుంది.

పెద్ద కాంటెక్స్ట్ విండో ఉండటం వల్ల కూడా ఖర్చు పెరగదు. Claude 4.6 మరియు ఆ తర్వాత వచ్చిన మోడళ్లలో (Haiku 5.5 మినహా), పూర్తి ఒక మిలియన్ టోకెన్ల విండోకు ప్రామాణిక టోకెన్ రేటునే వసూలు చేస్తారు. కాబట్టి 900,000 టోకెన్ల అభ్యర్థన మరియు 9,000 టోకెన్ల అభ్యర్థనలకు టోకెన్ ధర సమానంగా ఉంటుంది. Haiku 5.5 దీనికి మినహాయింపు: దీని ధర ప్రాంప్ట్ పొడవుపై ఆధారపడి ఉంటుంది. 100,000 టోకెన్ల కంటే ఎక్కువ ఉన్న ప్రాంప్ట్‌కు ఇన్‌పుట్, అవుట్‌పుట్ మరియు క్యాచీ కోసం ఐదు రెట్లు ఎక్కువ చెల్లించాల్సి ఉంటుంది. అంటే ఇన్‌పుట్ ధర మిలియన్ టోకెన్లకు 0.10 డాలర్ల నుండి 0.50 డాలర్లకు, అవుట్‌పుట్ ధర 0.50 నుండి 2.50 డాలర్లకు పెరుగుతుంది. మిగిలిన అన్ని ప్రస్తుత మోడళ్లలో విండో పరిమాణం ధరను నిర్ణయించదు. మీరు విండోలో ఏమి ఉంచుతారనేదే ధరను నిర్ణయిస్తుంది.

మరికొన్ని విషయాలను ఒకే సెషన్‌లో కాకుండా ప్రణాళికా దశలోనే పరిగణించాలి. మీరు ప్రతిరోజూ ఇంటరాక్టివ్‌గా వాడుతుంటే, పే-పర్-టోకెన్ మరియు ఫ్లాట్ ప్లాన్ ధరలను పోల్చి చూడండి: API మరియు సబ్‌స్క్రిప్షన్ ధరల పోలిక ఆ లెక్కలను చూపిస్తుంది. ఫ్లాట్ ప్లాన్ లాభదాయకంగా ఉండి, మీరు అదే సమయంలో మరొక వెండర్ ప్లాన్‌ను పరిశీలిస్తుంటే, Claude మరియు ChatGPT ప్లాన్ల ధరల పోలిక రెండింటి మధ్య వ్యత్యాసాన్ని వివరిస్తుంది. ఒకవేళ ఏజెంట్ సర్వర్‌పై అటెండెన్స్ లేకుండా నడుస్తుంటే, వేరే దేనినైనా ట్యూన్ చేసే ముందు ఖర్చుపై గరిష్ట పరిమితిని (hard spend cap) విధించండి; దీని గురించి VPSలో AI ఏజెంట్ కోసం ఖర్చు నియంత్రణలు వివరిస్తుంది. సాధారణ అవగాహన కోసం, ఒక మిలియన్ Claude టోకెన్లతో ఎంత సమాచారం పొందవచ్చు అనే అంశం రేట్ కార్డును ఎన్ని పేజీల టెక్స్ట్‌కు సమానమో తెలియజేస్తుంది.

FAQ

నేను ఏజెంట్‌ను ఉపయోగించడం ప్రారంభించినప్పుడు నా Claude బిల్లు ఎందుకు పెరిగింది?

ఎందుకంటే ఒక ఏజెంట్ ప్రతి ప్రశ్నకు అనేక అభ్యర్థనలను (requests) పంపుతుంది, మరియు ప్రతి అభ్యర్థన ఇప్పటివరకు జరిగిన మొత్తం సంభాషణను కలిగి ఉంటుంది. ఒక సాధారణ చాట్ ప్రతి ప్రశ్నకు ఒక అభ్యర్థనను మాత్రమే పంపుతుంది. కానీ ఒక కోడింగ్ ఏజెంట్ ప్రతి దశకు ఒక అభ్యర్థనను పంపుతుంది, ఒక పని కోసం నలభై దశలు జరగడం సాధారణం. ఆ అభ్యర్థనలలో ప్రతి దానికీ పూర్తి కాంటెక్స్ట్ కోసం బిల్లు పడుతుంది, కాబట్టి 100,000 టోకెన్ల వద్ద ముగిసే సెషన్ కోసం మొత్తం మీద రెండు మిలియన్ల కంటే ఎక్కువ ఇన్‌పుట్ టోకెన్లకు బిల్లు పడవచ్చు. దీన్ని నేరుగా చూడటానికి API రెస్పాన్స్‌లోని input_tokens మరియు cache_read_input_tokens లను చదవండి.

ప్రాంప్ట్ క్యాషింగ్ (prompt caching) నిజంగా బిల్లును అంతగా తగ్గిస్తుందా?

ఉదాహరణలో ఇది సెషన్ ఖర్చును 12.70 డాలర్ల నుండి 2.48 డాలర్లకు తగ్గించింది, ఎందుకంటే Opus 5 పై క్యాష్ రీడ్ ఖర్చు ఇన్‌పుట్ రేటులో పదో వంతు మాత్రమే ఉంటుంది. ఈ ఆదా పూర్తిగా మీ హిట్ రేటుపై ఆధారపడి ఉంటుంది. ఐదు నిమిషాల క్యాష్‌తో, ఒకే ఒక్క రీడ్ తర్వాత అది తన ఖర్చును తిరిగి పొందుతుంది, ఎందుకంటే రైట్ (write) ఖర్చు ఇన్‌పుట్ కంటే 1.25 రెట్లు ఉంటుంది మరియు రీడ్ ఖర్చు 0.1 రెట్లు లేదా అంతకంటే తక్కువ ఉంటుంది. ప్రతి అభ్యర్థనలో మీ ప్రాంప్ట్ ప్రారంభంలోనే మారితే, మీకు అసలు హిట్స్ ఉండవు మరియు మీరు రైట్ ప్రీమియంను వృథాగా చెల్లిస్తారు. అది పని చేస్తుందని భావించే ముందు cache_read_input_tokens తో నిర్ధారించుకోండి.

నేను అన్నింటికీ Haiku నే ఉపయోగించాలా?

వద్దు. Haiku 4.5 ధర మిలియన్ ఇన్‌పుట్ టోకెన్లకు 1 డాలర్లు, అదే Opus 5 కు 5 డాలర్లు. కాబట్టి క్లాసిఫికేషన్ మరియు రూటింగ్ వంటి సాధారణ, ఎక్కువ వాల్యూమ్ ఉన్న పనులపై ఆదా నిజంగానే ఉంటుంది. కష్టమైన పనులపై తప్పుడు సమాధానం వస్తే, మోడల్ ఆదా చేసిన దానికంటే ఎక్కువ ఖర్చవుతుంది, ఎందుకంటే మీరు మళ్ళీ ప్రయత్నించడానికి (retry) మరియు మీ సమయానికి అదనంగా చెల్లించాల్సి ఉంటుంది. మెకానికల్ పనులకు చిన్న మోడల్, నిర్ణయాధికారం అవసరమైన పనులకు ఫ్రాంటియర్ మోడల్ ఉపయోగించడం అనే మిశ్రమ పద్ధతి సరైనది.

Claude సబ్‌స్క్రిప్షన్ కంటే API చౌకగా ఉంటుందా?

మీ వినియోగం ఎంత స్థిరంగా ఉందనే దానిపై ఇది ఆధారపడి ఉంటుంది. సబ్‌స్క్రిప్షన్ అనేది వినియోగ పరిమితులతో కూడిన స్థిరమైన నెలవారీ ధర. API అనేది టోకెన్ ఆధారిత చెల్లింపు, దీనికి గరిష్ట పరిమితి ఉండదు. మీ వినియోగం తక్కువగా ఉన్నప్పుడు లేదా అప్పుడప్పుడు ఎక్కువగా ఉన్నప్పుడు ఇది చౌకగా ఉంటుంది, కానీ ప్రతి పని దినం భారీగా ఉపయోగిస్తే ఖరీదైనదిగా మారుతుంది. వినియోగ బ్లాక్ నుండి మీ సగటు రోజువారీ టోకెన్లను తీసుకోండి, వాటిని మీ మోడల్ రేటుతో లెక్కించండి, ఒక నెలలో మీరు ఉపయోగించే రోజులతో గుణించండి, ఆపై ఆ నెలవారీ మొత్తాన్ని ప్లాన్ ధరతో పోల్చండి. ఎంట్రీ టైర్ ధర Claude Pro ధర మరియు దాని వినియోగ పరిమితులు లో వివరించబడింది. ఒకవేళ లెక్క API కి అనుకూలంగా ఉంటే, సబ్‌స్క్రిప్షన్ రద్దు చేయడం వల్ల మీరు ఇప్పటికే చెల్లించిన నెల వృథా కాదు, ఎందుకంటే రద్దు ప్రస్తుత బిల్లింగ్ పీరియడ్ ముగింపులో అమల్లోకి వస్తుంది మరియు అప్పటి వరకు మీరు ప్లాన్‌ను కొనసాగించవచ్చు. ప్లాన్‌ను వదిలివేయడం లేదా తక్కువ టైర్‌కు మారడం అనే అంశం ఈ రెండు మార్గాలను వివరిస్తుంది.