Claude-এ 1M tokens-এর দাম কত?

Claude-এ 1M token-এর দাম কত?

1M token মানে এক মিলিয়ন token। Claude API (application programming interface) মডেলের মূল্য এই এককেই প্রকাশ করা হয়। এর একক কোনো নির্দিষ্ট দাম নেই, কারণ input ও output ভিন্ন হারে বিল করা হয় এবং প্রতিটি মডেলের নিজস্ব দুটি হার থাকে। Claude Haiku 5.5-এ দুটি জোড়া হার রয়েছে: 100,000 token পর্যন্ত prompt-এর জন্য একটি হার এবং তার বেশি prompt-এর জন্য বেশি একটি হার। October 2026 অনুযায়ী, Claude Haiku 4.5-এ এক মিলিয়ন input token-এর দাম $1, Claude Sonnet 5-এ $2 এবং Claude Opus 5-এ $5।

Output হলো বেশি খরচের অংশ। বর্তমান প্রতিটি মডেলে output-এর হার input-এর হারের পাঁচ গুণ। তাই মোট খরচের ক্ষেত্রে headline figure-এর চেয়ে input ও output-এর অনুপাত বেশি গুরুত্বপূর্ণ। যে app দীর্ঘ document পাঠিয়ে সংক্ষিপ্ত উত্তর দেয়, তার খরচ এমন app-এর চেয়ে সম্পূর্ণ আলাদা হবে, যা সংক্ষিপ্ত prompt থেকে দীর্ঘ উত্তর তৈরি করে।

এই পৃষ্ঠায় unit economics ব্যাখ্যা করা হয়েছে: একটি token-এর দাম কত এবং build করার আগে কীভাবে বিলের আনুমানিক হিসাব করবেন। কাজের সময় token আসলে কোথায় ব্যবহৃত হয় তা জানতে Claude Code session-এর ভেতরে token কোথায় যায় পড়ুন।

1M tokens দেখতে কেমন

একটি token হলো model যে text পড়ে বা লেখে তার একটি অংশ। Claude 4.7-এর আগের model-গুলোর ক্ষেত্রে Anthropic-এর glossary অনুযায়ী, একটি token-এ প্রায় 3.5টি English character থাকে। Anthropic-এর model overview অনুযায়ী, ওই model-গুলোতে 1M tokens-এ প্রায় 750,000টি শব্দ থাকে। প্রতি token-এ 3.5টি character ধরলে এটি প্রায় 3.5 million character, অর্থাৎ সাধারণ English text-এর প্রায় 3.5 MB। Claude Opus 4.7-এ চালু হওয়া নতুন tokenizer-এ একই 1M tokens-এ প্রায় 555,000টি শব্দ, অর্থাৎ প্রায় 2.5 million character থাকে।

সাধারণ input-এর প্রকাশিত হিসাব এই পরিমাণটি বোঝাতে আরও সহায়ক।

[
  {
    "label": "Average web page (10 kB)",
    "tokens": "2,500"
  },
  {
    "label": "Documentation page (100 kB)",
    "tokens": "25,000"
  },
  {
    "label": "Research paper PDF (500 kB)",
    "tokens": "125,000"
  }
]

ওই হারে 1M tokens একবার পড়া গড় মানের প্রায় 400টি web page, অথবা ওই আকারের 8টি research paper-এর সমান। এটি মাঝারি আকারের একটি codebase একবার পড়ার জন্য যথেষ্ট, অথবা একজনের এক মাসের হালকা chat ব্যবহারের সমান।

এই সবকিছুকে আনুমানিক হিসাব হিসেবে বিবেচনা করুন। Code, JSON এবং English ছাড়া অন্য ভাষার text একটি token-এ কম শব্দ ধারণ করে। তাই ওই word count-গুলো আশাবাদী প্রান্তের হিসাব। আরও একটি বিষয় count পরিবর্তন করে: Claude Opus 4.7 এবং পরবর্তী model-গুলো, যার মধ্যে Opus 5 এবং Sonnet 5 রয়েছে, নতুন tokenizer ব্যবহার করে। একই text-এর জন্য এই tokenizer Sonnet 4.6 এবং আগের version-গুলোর তুলনায় প্রায় 30 percent বেশি tokens তৈরি করে। Claude Haiku 4.5 পুরোনো tokenizer ব্যবহার করে। তাই Haiku 4.5-এ মাপা count একই input-এর ক্ষেত্রে Sonnet 5-এ প্রকৃত count-এর চেয়ে কম হবে। এর অর্থ, ওই সীমা পেরিয়ে সরাসরি price-per-million তুলনা ন্যায্য নয়। সিদ্ধান্ত নেওয়ার আগে একই prompt উভয় model-এর বিরুদ্ধে count করুন।

প্রতি মিলিয়ন token-এ Claude-এর খরচ

[
  {
    "label": "Haiku 4.5",
    "input_usd": 1,
    "output_usd": 5
  },
  {
    "label": "Sonnet 5",
    "input_usd": 2,
    "output_usd": 10
  },
  {
    "label": "Sonnet 4.6",
    "input_usd": 3,
    "output_usd": 15
  },
  {
    "label": "Opus 5",
    "input_usd": 5,
    "output_usd": 25
  }
]

Claude Sonnet 5-এর input-এর দাম $2 এবং output-এর দাম $10। Anthropic প্রথমে 31 August 2026 পর্যন্ত এই দাম introductory rate হিসেবে চালু রেখেছিল। পরে তারা এটিকেই standard price করে এবং $3 ও $15-এ দাম বাড়ানোর পরিকল্পনা বাতিল করে। Claude Opus 5-এর দাম যথাক্রমে $5 এবং $25। Fable মডেলগুলো এই তালিকারও ওপরে রয়েছে: Claude Fable 5 এবং পরবর্তী Claude Fable 5.1—দুটিরই input-এর দাম $10 এবং output-এর দাম $50। তাই এই দাম দেওয়া সার্থক কি না তা নির্ভর করে আপনি কোন কাজগুলোতে মডেলটি ব্যবহার করছেন তার ওপর।

Anthropic-এর বর্তমান lineup এই পৃষ্ঠায় হিসাব করা মডেলগুলোর চেয়ে নতুন। Claude Opus 5.5-এর দাম input-এর জন্য $4 এবং output-এর জন্য $20, Claude Sonnet 5.5-এর $2 এবং $10, আর Claude Haiku 5.5-এর $0.10 এবং $0.50 থেকে শুরু। Opus 5, Sonnet 5, Haiku 4.5 এবং Fable 5 এখন legacy model হিসেবে তালিকাভুক্ত, তবে এগুলো এখনও ব্যবহার করা যায়। তাই নিচের উদাহরণগুলো আগের মতোই চলবে। Haiku 5.5-এর খরচ এবং এটি কোথায় উপযোগী নতুন মডেলগুলোর মধ্যে সবচেয়ে সস্তাটির বিষয়ে ব্যাখ্যা করে।

দাম পরিবর্তিত হয়। এই পৃষ্ঠার প্রতিটি হিসাবকে October 2026-এর একটি worked example হিসেবে বিবেচনা করুন। বাজেট অনুমোদনের আগে official pricing page দেখে বর্তমান দাম নিশ্চিত করুন।

এই দামগুলো Claude-এর খরচ জানায়, কিন্তু আপনার workload-এর জন্য এটি সস্তা বিকল্প কি না তা জানায় না। Claude এবং ChatGPT—উভয়ের খরচে হিসাব করা তিনটি কাজ দেখায়, কোন ক্ষেত্রে কোন API এগিয়ে থাকে।

একটি ব্যতিক্রম ছাড়া context length দাম পরিবর্তন করে না। Claude 4.6 এবং পরবর্তী মডেলগুলোতে, Claude Haiku 5.5 ছাড়া, সম্পূর্ণ 1M token context window standard pricing-এ বিল করা হয়। তাই 900,000 token-এর একটি request-এর প্রতি token খরচ 9,000 token-এর একটি request-এর সমান। দীর্ঘ prompt-এর খরচ বেশি হয় কারণ এতে token বেশি থাকে; এর জন্য আলাদা long-context rate প্রযোজ্য নয়। Claude Haiku 5.5-এর দাম prompt-এর দৈর্ঘ্য অনুযায়ী নির্ধারিত হয়। Prompt 100,000 token-এর বেশি হলে request-টির input-এর জন্য প্রতি মিলিয়নে $0.50 এবং output-এর জন্য $2.50 দিতে হয়, যেখানে সাধারণ হার $0.10 এবং $0.50। cache read ও cache write-ও এই সীমার হিসাবে গণনা করা হয়।

দাম পরিবর্তনের পরও কার্যকর থাকে এমন হিসাব

প্রতিটি বিলের হিসাব দুটি গুণ এবং একটি যোগফল দিয়ে করা হয়।

cost = (input_tokens  / 1,000,000) * input_rate
     + (output_tokens / 1,000,000) * output_rate

চালানো যায় এমন কোডে এটি এভাবে লেখা হয়:

INPUT_RATE = 2.00    # USD per million input tokens, Sonnet 5, October 2026
OUTPUT_RATE = 10.00  # USD per million output tokens

def cost(input_tokens, output_tokens):
    return (input_tokens * INPUT_RATE + output_tokens * OUTPUT_RATE) / 1_000_000

print(f"{cost(4300, 400):.4f}")

এটি 0.0126 প্রিন্ট করে। 4,300টি input token পাঠিয়ে 400টি output token ফেরত পাওয়া একটি request-এর জন্য Sonnet 5-এ খরচ প্রায় 1.3 cent। আপনার কোডে দুটি rate একই জায়গায় রাখুন। দাম পরিবর্তন হলে দুটি line সম্পাদনা করলেই হবে, এবং আপনার system-এর প্রতিটি estimate সেই অনুযায়ী আপডেট হবে।

বাস্তব একটি অ্যাপের জন্য হিসাব

একটি support assistant বিবেচনা করুন। এর system prompt এবং product documentation মিলিয়ে 4,000 tokens হয়। Messages API stateless হওয়ায় এবং model কোনো call-এর তথ্য পরবর্তী call-এর মধ্যে মনে না রাখায়, এগুলো প্রতিটি request-এর সঙ্গে পাঠানো হয়। একজন user-এর question-এ প্রায় 300 tokens যোগ হয়। একটি answer প্রায় 400 tokens হয়। অর্থাৎ প্রতি request-এ 4,300 input এবং 400 output tokens লাগে।

এক মিলিয়ন input tokens-এ এই ধরনের প্রায় 232টি request করা যায়। প্রতিদিন 1,000টি request হলে অ্যাপটি দৈনিক 4.3 million input tokens ব্যবহার করে। তাই "1M tokens" traffic ছয় ঘণ্টারও কম সময়ের জন্য যথেষ্ট।

[
  {
    "label": "Opus 5, list rates",
    "cost_per_1k_usd": "31.50"
  },
  {
    "label": "Sonnet 5, list rates",
    "cost_per_1k_usd": "12.60"
  },
  {
    "label": "Sonnet 5, Batch API",
    "cost_per_1k_usd": "6.30"
  },
  {
    "label": "Haiku 4.5, list rates",
    "cost_per_1k_usd": "6.30"
  },
  {
    "label": "Sonnet 5, warm prompt cache",
    "cost_per_1k_usd": "5.40"
  }
]

Claude Opus 5-এ এই traffic-এর 1,000টি request-এর খরচ $31.50। Sonnet 5-এ খরচ $12.60। Claude Haiku 4.5-এ নামলে খরচ $6.30 হয়। Sonnet 5-এ warm prompt cache ব্যবহার করলে খরচ আরও কমে $5.40 হয়।

এক মাসের এই traffic-এর খরচ পেতে 30 দিয়ে গুণ করুন। list rate অনুযায়ী Sonnet 5-এর খরচ মাসে প্রায় $378। warm cache ব্যবহার করলে একই অ্যাপের খরচ প্রায় $162। এই volume-এ আপনি যে model বেছে নেন এবং caching সম্পর্কে যে সিদ্ধান্ত নেন, প্রতিটির প্রভাব আপনার negotiated rate-এর চেয়ে বেশি। কোন model চালাবেন, সেটি আলাদা প্রশ্ন। আপনার evaluation পাস করা সবচেয়ে সস্তা model-টিই বেছে নিন: Opus, Sonnet এবং Haiku-এর মধ্যে নির্বাচন-এ এটি সঠিকভাবে পরীক্ষা করার পদ্ধতি ব্যাখ্যা করা হয়েছে।

Prompt caching পুনরাবৃত্ত অংশের খরচ কমায়

ওই 4,000 token prefix প্রতিটি request-এ একই থাকে, এবং প্রতিবার এর জন্য পূর্ণ input price দিতে হয়। Prompt caching processed prefix সংরক্ষণ করে এবং সেটি পুনরায় ব্যবহারের জন্য কম rate নেয়।

এই page-এর price chart এবং worked example-এ থাকা model-গুলোতে (Haiku 4.5, Sonnet 5, Sonnet 4.6 এবং Opus 5), এবং Fable 5-এ, cache read-এর খরচ base input rate-এর 0.1 গুণ। কিছু নতুন model read-এর জন্য আরও কম rate নেয়: Opus 5.5 এবং Sonnet 5.5-এ 0.05 গুণ, আর Fable 5.1 এবং Mythos 5.1-এ 0.025 গুণ। 5 minute lifetime-এর জন্য cache write-এর খরচ base-এর 1.25 গুণ, আর 1 hour lifetime-এর জন্য 2 গুণ। তাই 0.1 গুণ rate-এর model-গুলোতে 5 minute cache একবার read করার পরই নিজের খরচ তুলে নেয়। কারণ write-এর অতিরিক্ত খরচ 0.25, আর প্রতিটি read-এ সাশ্রয় হয় 0.9। 1 hour cache-এর ক্ষেত্রে break even করতে 2টি read প্রয়োজন।

এটি চালু করার সবচেয়ে সহজ উপায় হলো একটি single top-level field:

curl https://api.anthropic.com/v1/messages \
  -H "content-type: application/json" \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-opus-5",
    "max_tokens": 1024,
    "cache_control": {"type": "ephemeral"},
    "system": "You are a helpful assistant.",
    "messages": [
      {"role": "user", "content": "What are the key themes in Pride and Prejudice?"}
    ]
  }'

এরপর যে usage block ফিরে আসে, সেটি পড়ুন:

{
  "usage": {
    "cache_creation_input_tokens": 5120,
    "cache_read_input_tokens": 1800,
    "input_tokens": 50,
    "output_tokens": 503
  }
}

এই 3টি input counter-এর জন্য 3টি ভিন্ন rate প্রযোজ্য। এগুলোর যোগফলই আপনার প্রকৃত input volume: total_input_tokens = cache_read_input_tokens + cache_creation_input_tokens + input_tokens। শুধু input_tokens পড়ে cost estimate করলে caching চালু হওয়ার পর হিসাবটি অনেক ভুল হবে।

2টি কারণে cache নিজের খরচ তুলতে পারে না, এবং উভয় ক্ষেত্রেই কোনো error দেখা যায় না।

Prefix byte-identical হতে হবে। Cache lookup prefix match ব্যবহার করে। তাই system prompt-এর শুরুতে timestamp বা user's name থাকলে প্রতিটি request-এ prefix পরিবর্তিত হয়। তখন প্রতিবার base input-এর 1.25 গুণ দিতে হয় এবং কোনো read হয় না। লক্ষণ হলো cache_creation_input_tokens উচ্চ থাকে, আর cache_read_input_tokens 0 থাকে। cache_control এমন সর্বশেষ block-এ রাখুন যার content সব request-এ একই থাকে। পরিবর্তনশীল সবকিছু এর পরে রাখুন। আপনার tools definition পরিবর্তন করলে তার নিচের পুরো cache invalid হয়ে যায়। কারণ invalidation-এর ক্রম হলো tools, তারপর system, তারপর messages।

Prefix যথেষ্ট দীর্ঘ হতে হবে। Cache করার সর্বনিম্ন দৈর্ঘ্য Opus 5-এ 512 tokens, Sonnet 5-এ 1,024 এবং Haiku 4.5-এ 4,096। এর চেয়ে ছোট prompt cache করা হয় না এবং কোনো error ফেরত দেওয়া হয় না। উপরের example-এর 4,000 token prefix Sonnet 5-এ cache হয়, কিন্তু Haiku 4.5-এ হয় না। কারণ 4,000 ওই model-এর minimum-এর চেয়ে কম। উভয় counter 0 দেখালে কোনো কিছু cache করা হয়নি।

Batch processing হার অর্ধেক করে

Batch API asynchronousভাবে request process করে এবং input ও output উভয়ের জন্য 50 percent কম খরচ নেয়। উপরের উদাহরণে প্রতি 1,000 request-এর খরচ $12.60 থেকে $6.30-এ নেমে আসে। এই discount prompt caching-এর সঙ্গে যুক্ত হয়। তাই bulk কাজ চালানোর সবচেয়ে কম খরচের উপায় হলো cached batch job।

এর বিনিময়ে latency বৃদ্ধি পায়। তাই কোনো ব্যক্তি বসে থেকে ফলাফলের জন্য অপেক্ষা করলে batch উপযুক্ত নয়। এটি রাতভর classification এবং document backfill-এর মতো কাজে ব্যবহার করা যায়।

একটি conversation-এর মধ্যে chat-এর খরচ কেন বাড়ে

API কোনো state সংরক্ষণ করে না। তাই আপনার client প্রতিটি turn-এ পুরো conversation আবার পাঠায়। ফলে একটি chat-এর মধ্যে token ব্যবহার এর দৈর্ঘ্যের সঙ্গে সরলরেখায় নয়, বরং দৈর্ঘ্যের বর্গের সঙ্গে বাড়ে।

ধরা যাক, প্রতিটি turn-এ গড়ে 500 token থাকে। Turn 1-এ 500 input token পাঠানো হয়। Turn 2-এ পাঠানো হয় 1,000। Turn 20-এ পাঠানো হয় 10,000। n(n+1)/2 সূত্রে যোগ করলে দেখা যায়, 20 turn-এর একটি conversation মোট প্রায় 105,000 input token পাঠিয়েছে, যদিও transcript নিজে মাত্র 10,000 token দীর্ঘ।

এই কারণে একটি chat feature-এর খরচ transcript দেখে যতটা মনে হয়, তার চেয়ে বেশি হয়। দীর্ঘ thread-এ স্থিতিশীল prefix cache করা বা পুরোনো turn-গুলোর সারাংশ তৈরি করা তাই দ্রুত সাশ্রয়ী হয়ে ওঠে। Tool call-এর ওপর loop চালানো agent-এর ক্ষেত্রেও একই ধরণ দেখা যায়, বরং সমস্যা আরও বেশি: প্রতিটি tool result history-তে থেকে যায় এবং পরবর্তী প্রতিটি turn-এ আবার পাঠানো হয়। নিজে চালানো agent-এর জন্য কঠোর spending limit নির্ধারণ করা এখানে সবচেয়ে গুরুত্বপূর্ণ, কারণ এই বৃদ্ধি স্বয়ংক্রিয়ভাবে ঘটে এবং এটি কেউ পর্যবেক্ষণ করছে না।

অনুমান করার আগে token গণনা করুন

শব্দের সংখ্যা থেকে token-এর সংখ্যা অনুমান করা বন্ধ করুন। API নিজেই token গণনা করে এবং এর জন্য কোনো অতিরিক্ত খরচ নেই। এই গণনা message তৈরির rate limit থেকে পৃথক rate limit-এর অধীনে হয়।

curl https://api.anthropic.com/v1/messages/count_tokens \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "content-type: application/json" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-opus-5",
    "system": "You are a scientist",
    "messages": [{
      "role": "user",
      "content": "Hello, Claude"
    }]
  }'

Response-এ একটি field থাকে:

{ "input_tokens": 14 }

আপনার প্রকৃত system prompt ও tool definition, একটি প্রতিনিধিত্বমূলক user message-সহ এখানে দিন। এরপর পাওয়া সংখ্যাটি উপরের cost function-এ বসান। এই endpoint message request-এর মতো একই body গ্রহণ করে। তাই base64 হিসেবে পাঠানো image ও PDF-ও সঠিকভাবে গণনা হয়। এটি web search ও web fetch-এর মতো server tool গ্রহণ করে না। URL বা file reference-এর মাধ্যমে পাঠানো image ও document-ও গ্রহণ করে না।

দুটি বিষয় গুরুত্বপূর্ণ। এই সংখ্যা একটি আনুমানিক হিসাব এবং billed figure থেকে সামান্য আলাদা হতে পারে। এছাড়া গণনাটি আপনার দেওয়া model-এর tokenizer ব্যবহার করে করা হয়। তাই বাস্তবে যে model চালাবেন, সেটিই দিন।

Output token আগে থেকে গণনা করা যায় না, কারণ তখন সেগুলো এখনও তৈরি হয়নি। max_tokens দিয়ে তাদের সীমা নির্ধারণ করুন। এরপর live traffic-এ usage.output_tokens থেকে প্রকৃত distribution পরিমাপ করুন।

বিলে আর কী যোগ হয়

বিলের বেশিরভাগ অংশই token-এর জন্য আসে। কিছু খরচ token নয়, এবং এগুলো অনেককে অবাক করে।

• প্রতিটি request-এ tool definition input token হিসেবে গণনা হয়। আপনার নিজের schema যোগ করার আগেই tool ব্যবহারের system prompt Opus 5-এ 286 থেকে 406 token যোগ করে। দশটি verbose tool description একটি ছোট prompt-এর আকার দ্বিগুণ করতে পারে।
• Web search-এর জন্য প্রতি 1,000টি search-এ $10 চার্জ হয়। ফলাফল context-এ প্রবেশ করার সময় সেগুলো যে token ব্যবহার করে, সেই খরচ এর অতিরিক্ত।
• Web fetch-এর নিজস্ব কোনো ফি নেই। তবে fetch করা page input token হয়ে যায়। 100 kB-এর একটি documentation page-এ আনুমানিক 25,000 token থাকে।
• Claude 4.6 এবং পরবর্তী সংস্করণে inference_geo ব্যবহার করে শুধু US-এ inference চালানোর অনুরোধ করলে প্রতিটি token category-তে 1.1 multiplier প্রযোজ্য হয়। cache read এবং cache write-ও এর অন্তর্ভুক্ত।

API আদৌ কেনা সঠিক হবে কি না, তা আপনার ব্যবহারের পরিমাণের ওপর নির্ভর করে। কোনো plan-এর usage ceiling-এ পৌঁছানোই সাধারণত এই প্রশ্নের সূত্রপাত করে। limit অতিক্রম করার বিকল্প পথ হিসেবে window শেষ হওয়া পর্যন্ত অপেক্ষা করা থেকে শুরু করে সেই কাজ metered API call-এ সরিয়ে নেওয়া পর্যন্ত বিভিন্ন ব্যবস্থা রয়েছে। নির্দিষ্ট একটি ব্যবহারের মাত্রার নিচে flat monthly plan সরাসরি বেশি সাশ্রয়ী হয়। Claude subscription-এর সঙ্গে API-এর পরিমাপভিত্তিক তুলনা অংশে বাস্তব সংখ্যা দিয়ে সেই তুলনা করা হয়েছে।

FAQ

Claude-এ 1M token-এর দাম কত?

এটি মডেলের ওপর এবং token input নাকি output তার ওপর নির্ভর করে। October 2026 অনুযায়ী, Claude Haiku 4.5-এ এক মিলিয়ন input token-এর দাম $1, Claude Sonnet 5-এ $2, এবং Claude Opus 5-এ $5। নতুন Claude Haiku 5.5-এ 100,000 token পর্যন্ত prompt-এর জন্য প্রতি এক মিলিয়ন input token-এর দাম $0.10 থেকে শুরু হয় এবং এর বেশি হলে $0.50 নেওয়া হয়। এসব মডেলে output-এর দাম input rate-এর পাঁচ গুণ। হার পরিবর্তিত হতে পারে, তাই budget-এ কোনো অঙ্ক নির্ধারণের আগে official pricing page-এ তা যাচাই করুন।

1M token কি 1M word-এর সমান?

না। Claude Opus 4.7-এর আগের মডেলগুলোতে Anthropic-এর হিসাবে একটি token-এ আনুমানিক 3.5টি English character থাকে এবং এক মিলিয়ন token-এ প্রায় 750,000 word থাকে। Claude Opus 4.7 এবং পরের মডেলগুলোতে ব্যবহৃত নতুন tokenizer-এ এক মিলিয়ন token-এ প্রায় 555,000 word থাকে। কারণ একই text-এর জন্য ওই tokenizer Claude Sonnet 4.6 এবং আগের মডেলগুলোর তুলনায় প্রায় 30 শতাংশ বেশি token তৈরি করে। এই অনুপাতগুলো কেবল আনুমানিক নির্দেশনা। Code, JSON এবং English ছাড়া অন্য ভাষায় প্রতি word-এ বেশি token লাগে, আর ভিন্ন model generation-এর মধ্যে count সরাসরি তুলনাযোগ্য নয়। বিনামূল্যের /v1/messages/count_tokens endpoint ব্যবহার করে আপনার চালানোর পরিকল্পনা করা model পাঠিয়ে মাপুন।

Prompt caching কি সব সময় অর্থ সাশ্রয় করে?

না। 5 minute cache write-এর খরচ base input rate-এর 1.25 গুণ। তাই write করার পর আর কখনো read না হওয়া prefix সাধারণভাবে পাঠানোর চেয়ে 25 শতাংশ বেশি খরচ করে। প্রথম read থেকেই এটি নিজের খরচ তুলে ফেলে। দুটি কারণে এটি কাজ করে না এবং উভয় ক্ষেত্রেই কোনো error দেখা যায় না। Request-এর মধ্যে cached prefix বদলে গেলে lookup মেলে না, কারণ এটি exact prefix match ব্যবহার করে। Prefix model-এর minimum cacheable length-এর চেয়ে ছোট হলেও কিছু cache হয় না এবং কোনো error ফেরত আসে না। Sonnet 5-এ এই minimum 1,024 token এবং Haiku 4.5-এ 4,096। cache_creation_input_tokens এবং cache_read_input_tokens উভয়ের মান 0 হলে cache কোনো কাজ করছে না।

আমার message count-এর তুলনায় বিল দ্রুত বাড়ল কেন?

কারণ প্রতিটি turn-এ পুরো conversation আবার পাঠানো হয়। Messages API কোনো state সংরক্ষণ করে না। তাই chat-এর turn 20-এ আগের 19টি turn-ও আবার input হিসেবে পাঠানো হয়। প্রতি turn-এ গড়ে 500 token থাকলে, 20 turn-এর conversation প্রায় 105,000 input token পাঠায়, যদিও transcript-এর দৈর্ঘ্য মাত্র 10,000 token। Agent loop-ও একইভাবে কাজ করে, কারণ প্রতিটি tool result history-তে থেকে যায়। স্থিতিশীল prefix cache করুন, অথবা পুরোনো turn-এর summary তৈরি করে সেগুলো request থেকে বাদ দিন।