Mengapa Harga Token Output Claude Lebih Mahal?
Token output Claude berharga lima kali ganda berbanding token input. Ketahui perbezaan antara fasa prefill dan penyahkodan serta kesannya terhadap bil ejen AI anda.
Sebab token output berharga lebih tinggi daripada token input
Token output berharga lima kali ganda berbanding token input pada setiap model Claude dalam katalog semasa. Puncanya ialah bentuk pengiraan. Membaca prompt memerlukan satu laluan melalui model. Menulis jawapan memerlukan satu laluan bagi setiap token, dan setiap laluan perlu menunggu laluan sebelumnya selesai.
Nisbah itu sama pada setiap baris senarai harga. Oleh itu, model yang anda pilih tidak mengubah bahagian bil anda yang datang daripada output. Bentuk beban kerja anda yang menentukannya. Langkah ejen yang membaca 60,000 token dan menjawab dengan 800 token menggunakan kos output yang hampir tiada. Tugas pendrafan yang membaca 2,000 token dan menulis 12,000 token menggunakan kos input yang hampir tiada. Kedua-dua keadaan ini dihuraikan di bawah berdasarkan kadar yang diterbitkan oleh Anthropic, disemak pada 27 October 2026.
Prefill berlaku sekali, manakala decoding berlaku sekali bagi setiap token
Pelayan inferens mengendalikan permintaan dalam dua fasa dengan kos yang sangat berbeza. Prefill membaca prompt. Decoding menghasilkan balasan.
Prefill memproses seluruh prompt serentak. Setiap token prompt memasuki rangkaian dalam forward pass yang sama. Oleh itu, operasi attention dan feed-forward menjadi sebilangan kecil pendaraban matriks bersaiz besar yang meliputi ribuan token pada satu-satu masa. Satu bacaan pemberat model daripada memori mencukupi untuk seluruh prompt. Unit matriks accelerator terus digunakan sepenuhnya. Oleh itu, prefill biasanya terikat pengiraan: hadnya ialah kelajuan cip melakukan pendaraban. Dokumentasi serving NVIDIA menyatakan pengecualian: prefill yang sangat pendek serta prefill yang mempunyai prefix panjang yang telah tersedia dalam cache menjadi terikat memori.
Decoding biasa tidak boleh berfungsi dengan cara itu kerana token 2 bergantung pada token 1. Token yang baru dihasilkan oleh model menjadi sebahagian daripada input untuk langkah seterusnya. Oleh itu, langkah-langkah tersebut berjalan satu demi satu. Setiap token output memerlukan forward pass tersendiri. Setiap pass ini membaca keseluruhan pemberat model, serta KV cache (key/value cache, iaitu keadaan attention yang disimpan bagi setiap token setakat itu), daripada memori lebar jalur tinggi untuk menghasilkan satu token. Oleh itu, decoding biasanya terikat memori: hadnya ialah kelajuan pemindahan pemberat dan keadaan cache, bukan kelajuan pendaraban. Bagi konteks yang panjang, NVIDIA menyatakan bahawa bacaan KV cache merupakan kesesakan prestasi. Trafik pemberat yang sama yang memproses seluruh prompt semasa prefill hanya menghasilkan satu token semasa decoding.
Speculative decoding mengubah peraturan ini tanpa melanggarnya. Model draft yang kecil meneka beberapa token ke hadapan. Model besar kemudian menyemak semua token tersebut secara selari dalam satu pass. Menurut NVIDIA, proses ini boleh mengalihkan decoding supaya lebih terikat pengiraan. Model besar masih menerima tekaan mengikut urutan dan berhenti pada tekaan pertama yang salah. Oleh itu, balasan yang panjang masih memerlukan banyak pass.
Sistem serving mengurangkan kesan ini dengan batching. Banyak permintaan menjalankan decoding secara serentak. Dengan itu, satu bacaan pemberat menghasilkan satu token bagi setiap permintaan dalam batch. Inilah sebabnya decoding masih boleh dilakukan pada kos yang munasabah. Hadnya sekali lagi ialah memori. Setiap permintaan yang sedang diproses menyimpan KV cache sendiri. Cache itu bertambah bagi setiap token yang dihasilkan. Apabila accelerator penuh, saiz batch tidak boleh ditambah lagi.
Tiada satu pun daripada perkara ini memberikan nombor yang tepat. Anda juga tidak patut menganggap 5x sebagai nisbah perkakasan yang diukur. Itu ialah harga yang ditetapkan oleh Anthropic berdasarkan perbezaan kos tersebut. Anda boleh menyemak sendiri arah perbezaannya. Semakan itu mengambil masa kira-kira satu minit.
Ukur jurang input dan output sendiri
Pasang alatan pada mana-mana mesin Ubuntu:
sudo apt update && sudo apt install -y curl jq moreutilsSekarang strimkan prompt ringkas yang meminta jawapan panjang, dan catat masa ketibaan setiap baris.
curl -sN https://api.anthropic.com/v1/messages \
-H "x-api-key: $ANTHROPIC_API_KEY" \
-H "anthropic-version: 2023-06-01" \
-H "content-type: application/json" \
-d '{"model":"claude-sonnet-5","max_tokens":1000,"stream":true,
"messages":[{"role":"user","content":"Count from 1 to 300, one number per line."}]}' \
| ts -s '%.s'ts -s menambah awalan pada setiap baris dengan bilangan saat yang berlalu sejak arahan bermula. Dua perkara penting boleh dibaca daripada output itu. Baris content_block_delta pertama ialah masa anda menerima token pertama, dan seluruh proses prefill berlaku dalam tempoh itu. Setiap baris selepas itu ialah satu langkah kecil proses decoding, dan catatan masa terus meningkat sehingga message_stop tiba.
Sekarang terbalikkan bentuknya. Masukkan dokumen panjang dalam prompt dan hadkan jawapan kepada beberapa token.
curl -sN https://api.anthropic.com/v1/messages \
-H "x-api-key: $ANTHROPIC_API_KEY" \
-H "anthropic-version: 2023-06-01" \
-H "content-type: application/json" \
-d "$(jq -n --rawfile doc ./long-document.txt \
'{model:"claude-sonnet-5", max_tokens:16, stream:true,
messages:[{role:"user", content:("Answer in one word. Is this document about networking?\n\n" + $doc)}]}')" \
| ts -s '%.s'Delta pertama mengambil masa lebih lama berbanding prompt ringkas kerana proses prefill perlu membaca lebih banyak teks. Selepas delta itu tiba, respons hampir serta-merta selesai kerana hanya beberapa token yang perlu dinyahkod. Berpuluh-puluh ribu token masuk, tetapi jam hampir tidak bergerak. Beberapa ratus token keluar, dan jam terus berjalan sepanjang masa itu.
Setiap respons bukan penstriman berakhir dengan angka yang digunakan untuk pengiraan caj anda.
{
"usage": {
"input_tokens": 41283,
"output_tokens": 6,
"cache_creation_input_tokens": 0,
"cache_read_input_tokens": 0
}
}Log keempat-empat medan bagi setiap permintaan. output_tokens termasuk token pemikiran, jadi model yang berfikir sebelum menjawab akan mengenakan caj pemikiran itu pada kadar output. Untuk menganggarkan harga prompt sebelum menghantarnya, POST /v1/messages/count_tokens menerima badan permintaan yang sama bagi kebanyakan permintaan, mengembalikan {"input_tokens": N} sebagai anggaran tanpa menjalankan model, dan percuma dalam had kadarnya sendiri. Ia menolak beberapa badan permintaan yang diterima oleh Messages API: kebanyakan server tools seperti carian web, penyambung MCP, serta blok imej atau dokumen dengan sumber url atau file. Oleh itu, hantar imej dan PDF sebagai base64 apabila anda mengiranya. Ini bukan satu-satunya bahagian API yang tidak dikenakan caj, dan bahagian Claude API yang tidak pernah dikenakan caj wajar disemak sebelum anda menyediakan belanjawan untuk projek pertama.
Caj yang dikenakan Claude bagi setiap juta token setakat Oktober 2026
Data di sebalik carta ini
[
{
"label": "Haiku 4.5",
"input_usd": 1,
"output_usd": 5,
"output_multiple": 5
},
{
"label": "Sonnet 5",
"input_usd": 2,
"output_usd": 10,
"output_multiple": 5
},
{
"label": "Opus 5",
"input_usd": 5,
"output_usd": 25,
"output_multiple": 5
},
{
"label": "Fable 5",
"input_usd": 10,
"output_usd": 50,
"output_multiple": 5
}
]Lajur terakhir ialah output dibahagikan dengan input, dan nilainya ialah 5 pada setiap baris. Haiku 4.5 mengenakan caj $1 bagi input dan $5 bagi output. Opus 5 mengenakan caj $5 dan $25. Fable 5, yang paling mahal, mengenakan caj $10 dan $50, dan apa yang anda peroleh daripada kadar Fable 5 tersebut wajar dibaca sebelum anda mengetepikan baris teratas itu. Apabila anda bergerak ke julat yang lebih tinggi, kedua-dua bahagian didarab dengan faktor yang sama. Oleh itu, jumlah keseluruhan berubah tetapi pecahan input kepada output kekal sama.
Sonnet 5 mengenakan caj $2 bagi input dan $10 bagi output. Anthropic melancarkannya pada kadar tersebut sebagai harga pengenalan sehingga 31 Ogos 2026, dengan kenaikan kepada $3 dan $15 dijadualkan pada 1 September. Kemudian, Anthropic menetapkan $2 dan $10 sebagai harga standard. Kenaikan itu tidak pernah berkuat kuasa. Oleh itu, kadar dalam setiap contoh di bawah ialah kadar yang anda bayar hari ini.
Anthropic juga telah mengeluarkan model yang lebih baharu sejak halaman ini diterbitkan, dan claude.com/pricing kini menyenaraikan empat model di atas sebagai model legasi yang masih tersedia. Model baharu itu mengekalkan nisbah 5x yang sama. Opus 5.5 mengenakan caj $4 dan $20, Sonnet 5.5 mengenakan caj $2 dan $10, Fable 5.1 mengenakan caj $10 dan $50, manakala Haiku 5.5 mengenakan caj $0.10 dan $0.50 bagi prompt sehingga 100,000 token, dan meningkat kepada $0.50 dan $2.50 selepas jumlah itu. Langkah ejen 60,000 token yang dikira lebih lanjut di bawah masih berada dalam julat tersebut. Namun, ejen yang sejarahnya terus bertambah akhirnya akan melepasi had itu, dan bagaimana dua peringkat harga Haiku 5.5 digunakan dalam tugasan sebenar menunjukkan kesan kenaikan itu terhadap bil. Kadar asas input dan output Opus 5.5 adalah 20% lebih rendah daripada Opus 5. Oleh itu, setiap angka Opus 5 tanpa cache di bawah adalah 20% lebih rendah pada Opus 5.5. Angka bercache turun lebih jauh kerana Opus 5.5 membaca cache hit pada kadar $0.20 bagi setiap juta token berbanding $0.50 pada Opus 5, iaitu pengurangan sebanyak 60%. Langkah ejen bercache yang berharga $0.0725 pada Opus 5 di bahagian bawah berharga kira-kira $0.047 pada Opus 5.5, iaitu kira-kira 35% lebih rendah.
Kadar boleh berubah dan halaman ini bukan tempat untuk menyemaknya. claude.com/pricing ialah sumber rujukan rasmi. Kaedah pengiraan tetap berguna walaupun harga berubah.
Satu perkara penting terdapat dalam nota di bawah jadual harga Anthropic, bukan dalam kadar itu sendiri. Halaman harga Anthropic menyatakan bahawa Claude 4.7 dan model yang lebih baharu menggunakan tokenizer baharu yang menghasilkan kira-kira 30% lebih banyak token untuk teks yang sama berbanding tokenizer dalam Sonnet 4.6 dan model terdahulu. Perbandingan dua model berdasarkan harga bagi setiap juta token sahaja akan memihak kepada model yang lebih baharu kerana dokumen yang sama menghasilkan lebih banyak token pada model tersebut. Bandingkan kos bagi setiap tugasan yang selesai, dan kira prompt sebenar anda menggunakan model yang memang hendak digunakan. Perangkap yang sama wujud antara penyedia kerana tokenizer mereka juga berbeza. Oleh itu, pengiraan kos tugasan sebenar pada Claude dan ChatGPT memberikan lebih banyak maklumat berbanding meletakkan kedua-dua kad kadar secara bersebelahan. nilai sejuta token Claude dalam teks sebenar menerangkan rupa jumlah tersebut dalam penggunaan praktikal.
Bilakah output mula mendominasi bil anda?
Dengan harga output ditetapkan pada 5 kali ganda input, titik pulang modal mudah dikira dalam kepala. Katakan token input anda ialah I dan token output anda ialah O. Kos input ialah I. Kos output ialah 5 kali O. Output melebihi separuh daripada perbelanjaan anda apabila 5 kali O lebih besar daripada I, iaitu nisbah token 5 input kepada 1 output.
Jadi, jika prompt anda lebih panjang daripada lima kali ganda jawapan anda, input merupakan item perbelanjaan yang lebih besar. Di bawah nisbah tersebut, output pula yang lebih besar.
Data di sebalik carta ini
[
{
"label": "100:1",
"input_share_pct": 95.2,
"output_share_pct": 4.8
},
{
"label": "75:1",
"input_share_pct": 93.75,
"output_share_pct": 6.25
},
{
"label": "20:1",
"input_share_pct": 80,
"output_share_pct": 20
},
{
"label": "10:1",
"input_share_pct": 66.7,
"output_share_pct": 33.3
},
{
"label": "5:1",
"input_share_pct": 50,
"output_share_pct": 50
},
{
"label": "1:1",
"input_share_pct": 16.7,
"output_share_pct": 83.3
},
{
"label": "1:6",
"input_share_pct": 3.2,
"output_share_pct": 96.8
}
]Pada nisbah 100 kepada 1, output merangkumi 4.8% daripada perbelanjaan, dan mengurangkan prompt adalah satu-satunya usaha yang berbaloi. Pada nisbah 5 kepada 1, kedua-dua bahagian adalah seimbang. Pada nisbah 1 kepada 6, output merangkumi 96.8% dan prompt hanyalah ralat pembundaran. Kebanyakan orang tersilap meneka nisbah mereka sendiri, jadi dapatkan data tersebut daripada log anda sebelum anda mengoptimumkan apa-apa.
Beban kerja ejen: konteks panjang, output pendek
Ambil satu langkah ejen pemerolehan: 60,000 token input daripada dokumen yang diperoleh serta sejarah perbualan, dan jawapan sebanyak 800 token. Nisbahnya ialah 75 kepada 1. Ini perkara biasa bagi apa-apa sistem yang membaca sebelum menulis.
Data di sebalik carta ini
[
{
"label": "Haiku 4.5",
"input_cost": 0.06,
"output_cost": 0.004,
"total_cost": 0.064
},
{
"label": "Sonnet 5",
"input_cost": 0.12,
"output_cost": 0.008,
"total_cost": 0.128
},
{
"label": "Opus 5",
"input_cost": 0.3,
"output_cost": 0.02,
"total_cost": 0.32
},
{
"label": "Fable 5",
"input_cost": 0.6,
"output_cost": 0.04,
"total_cost": 0.64
}
]Output ialah 6.25% daripada panggilan itu pada setiap model kerana nisbahnya tetap untuk seluruh senarai harga. Panggilan itu berharga $0.32 pada Opus 5, $0.128 pada Sonnet 5 dan $0.064 pada Haiku 4.5. Dua ratus langkah sedemikian sehari pada Opus 5 berharga $64 sehari.
Selepas melihat pecahan ini, faktor utama menjadi jelas. Mengurangkan jawapan daripada 800 token kepada 400 hanya menjimatkan kira-kira 3% daripada kos panggilan. Mengeluarkan 20,000 token konteks lapuk daripada prompt menjimatkan kira-kira satu pertiga kosnya. Memendekkan output bagi ejen yang banyak membaca hampir tidak berbaloi. ke mana token ejen pengekodan sebenarnya digunakan menghuraikan kandungan yang mengisi prompt itu.
Beban kerja penjanaan: gesaan pendek, draf panjang
Sekarang ubah bentuknya. Ringkasan 2,000 token, draf 12,000 token, dengan nisbah 1 kepada 6.
Data di sebalik carta ini
[
{
"label": "Haiku 4.5",
"input_cost": 0.002,
"output_cost": 0.06,
"total_cost": 0.062,
"batch_total_cost": 0.031
},
{
"label": "Sonnet 5",
"input_cost": 0.004,
"output_cost": 0.12,
"total_cost": 0.124,
"batch_total_cost": 0.062
},
{
"label": "Opus 5",
"input_cost": 0.01,
"output_cost": 0.3,
"total_cost": 0.31,
"batch_total_cost": 0.155
},
{
"label": "Fable 5",
"input_cost": 0.02,
"output_cost": 0.6,
"total_cost": 0.62,
"batch_total_cost": 0.31
}
]Output ialah 96.8% daripada bil ini. Opus 5 berharga $0.31 bagi setiap draf berbanding $0.062 untuk Haiku 4.5. Perbezaan lima kali ganda itu hampir sepenuhnya datang daripada bahagian output, iaitu bahagian yang paling banyak menjimatkan kos apabila menggunakan model yang lebih murah.
Lajur terakhir menunjukkan kerja yang sama melalui Batch API, yang mengurangkan kos input dan output sebanyak 50%. Opus 5 berharga $0.155 bagi setiap draf. Batch berjalan secara tak segerak, bukan serta-merta. Anthropic menyatakan bahawa kebanyakan batch selesai dalam masa kurang daripada sejam, tetapi batch yang masih diproses selepas 24 jam akan tamat tempoh. Sebarang permintaan yang belum diproses pada waktu itu akan dikembalikan sebagai tamat tempoh, tidak dicaj dan tanpa mesej. Oleh itu, Batch sesuai untuk penjanaan laporan semalaman dan pengelasan pukal, dengan langkah menghantar semula permintaan yang tamat tempoh. Batch tidak sesuai untuk tugas yang memerlukan seseorang menunggu hasilnya.
Penghalaan model memberikan penjimatan di sini, tidak seperti pada langkah ejen. Jika bahagian kerja yang panjang itu bersifat mekanikal, seperti memformat semula teks atau mengembangkan rangka yang telah anda luluskan, model murah boleh menghasilkan token tersebut pada kos satu perlima. memilih antara Opus, Sonnet dan Haiku menerangkan kedudukan sebenar sempadan kualiti.
Diskaun caching terpakai pada input sahaja
Prompt caching menyimpan awalan prompt anda pada pelayan dan mengenakan sebahagian daripada kadar input apabila awalan itu dibaca semula. Setakat 27 October 2026, gandaan tersebut ialah 1.25x kadar input asas untuk menulis cache 5 minit, 2x untuk menulis cache 1 jam, dan 0.1x untuk membaca cache yang sepadan bagi model yang harganya disenaraikan pada halaman ini. Model terbaharu mengenakan kadar bacaan cache yang lebih rendah: 0.05x pada Opus 5.5 dan Sonnet 5.5, serta 0.025x pada Fable 5.1.
Output tidak termasuk dalam tawaran itu. Tiada output yang dicache. Setiap token yang ditulis oleh model dicaj pada kadar output penuh setiap kali, tanpa mengira jumlah prompt yang diperoleh semula daripada cache.
Ambil langkah ejen yang sama pada Opus 5, dengan 55,000 daripada 60,000 token input disediakan daripada cache yang masih panas.
Data di sebalik carta ini
[
{
"label": "No cache",
"input_cost": 0.3,
"output_cost": 0.02,
"total_cost": 0.32
},
{
"label": "55k prefix cache read",
"input_cost": 0.0525,
"output_cost": 0.02,
"total_cost": 0.0725
}
]Kos panggilan turun daripada $0.32 kepada $0.0725. Baris output tidak berubah: $0.02 sebelum ini dan $0.02 selepas itu. Caching mengurangkan bil dan mengubah pecahannya. Output ialah 6.25% daripada panggilan tersebut. Kini output membentuk lebih daripada satu perempat kos, dan ini mengubah langkah seterusnya yang paling berbaloi.
Panggilan pertama membayar kos penulisan. Penulisan cache 5 minit berharga 1.25x input asas, jadi kosnya terbayar selepas satu cache hit. Penulisan cache 1 jam berharga 2x, jadi ia memerlukan dua cache hit. gandaan penulisan dan bacaan serta masa caching tidak lagi berbaloi menghuraikan pengiraan itu.
Empat pemacu yang boleh anda kawal
- Tetapkan
max_tokenspada panjang output p95 anda, bukan pada maksimum model. - Halakan langkah yang menghasilkan output panjang kepada model yang lebih murah.
- Kelompokkan apa-apa tugas yang tidak perlu ditunggu oleh sesiapa.
- Padamkan arahan yang memanjangkan balasan.
max_tokens ialah had mutlak. Menetapkannya pada nilai tinggi tidak menambah kos dengan sendirinya kerana anda dicaj berdasarkan token yang dihasilkan, bukan berdasarkan had tersebut. Had yang longgar hanya menghapuskan sekatan apabila balasan tersasar. Ambil taburan output_tokens daripada log anda, tetapkan had sedikit melebihi persentil ke-95, kemudian kendalikan stop_reason: "max_tokens" dalam kod dengan menyambung balasan atau mencuba semula. Pemenggalan yang anda kesan lebih murah berbanding celoteh 4,000 token yang perlu anda bayar tetapi akhirnya dibuang. Pemikiran juga masuk ke dalam output_tokens dan dikira dalam max_tokens. Oleh itu, tetapkan had berdasarkan bukti yang sama. Bagi model yang menggunakan pemikiran adaptif, kurangkan tahap usaha jika pemikiran terus menggunakan ruang balasan.
Penghalaan berkesan apabila bahagian mahal dalam sesuatu langkah ialah jumlah output, bukannya pertimbangan. Kekalkan model yang lebih berkeupayaan untuk membuat keputusan, kemudian serahkan kerja menaip kepada model yang lebih murah. Ukur versi yang dihalakan pada set penilaian anda sendiri terlebih dahulu kerana ukuran penting ialah kos bagi setiap tugas yang disiapkan. Dalam langkah ejen di atas, dua percubaan Haiku 4.5 berharga $0.128 berbanding $0.32 untuk satu percubaan Opus 5. Oleh itu, perbezaan harga tersebut masih menampung satu atau dua percubaan semula. Namun, ia tidak menampung jawapan yang salah dan tidak dikesan oleh sesiapa.
Pengelompokan ialah satu-satunya pemacu yang memberikan diskaun pada output. Diskaun ialah 50% pada kedua-dua sisi, kebanyakan kelompok diselesaikan dalam masa sejam, dan apa-apa tugas berjadual juga layak, dengan syarat tugas tersebut menyerahkan semula apa-apa kerja yang tamat tempoh pada tanda 24 jam.
Pemacu terakhir ialah perkara yang sering diabaikan. Frasa seperti "be thorough" dan "explain your reasoning" menetapkan panjang output bagi setiap panggilan yang akan anda buat. Gantikannya dengan bentuk yang anda mahu: "Answer in at most three sentences", atau "Return only the JSON object, with no preamble". System prompt yang menambah 300 token pada setiap balasan berharga lima kali ganda berbanding kos 300 token yang sama dalam prompt. mengawal kos ejen yang berjalan berterusan merangkumi aspek pemantauan, manakala sama ada API atau langganan kadar tetap lebih murah untuk corak penggunaan anda wajar ditentukan sebelum anda menghabiskan seminggu melaraskan perbelanjaan bagi setiap token yang boleh ditanggung oleh langganan. Bagi seorang pembangun, perkara ini biasanya bergantung pada sama ada Claude Pro berharga $20 sebulan dan had penggunaan yang disertakan mencukupi untuk kerja yang sebaliknya akan dicaj mengikut penggunaan. Jika anda sudah mencapai had tersebut pada pertengahan sesi, menentukan tetingkap yang sedang anda tunggu perlu didahulukan kerana penyelesaiannya mungkin menggunakan model yang lebih kecil, konteks yang lebih ringan, kredit penggunaan tambahan atau memindahkan kerja itu ke API yang dicaj mengikut penggunaan. Jika API yang dicaj mengikut penggunaan ternyata lebih murah untuk kerja tersebut, beralih kepada pelan yang lebih kecil atau membatalkannya tidak menjejaskan bulan yang telah anda bayar. Oleh itu, pertukaran tersebut tidak menelan kos tambahan. Jika pelan yang anda bandingkan dengan Pro ialah pelan ChatGPT dan bukannya API yang dicaj mengikut penggunaan, perbandingan dua peringkat langganan dengan harga bersebelahan menunjukkan pilihan yang lebih murah untuk kerja pengekodan. Jika soalan itu ditanya untuk satu pasukan dan bukannya seorang pembangun, ambil perhatian bahawa Claude Enterprise menggabungkan yuran bagi setiap tempat duduk dengan token yang dicaj pada kadar API yang sama, maka setiap pemacu di halaman ini masih terpakai pada bahagian bil yang dicaj mengikut penggunaan.
FAQ
Mengapa token output berharga lebih mahal daripada token input?
Penjanaannya memerlukan lebih banyak masa accelerator bagi setiap token. Prompt diproses dalam satu forward pass untuk keseluruhan kandungan, jadi satu bacaan model weights merangkumi ribuan token dan perkakasan biasanya dihadkan oleh throughput pendaraban. Dalam decoding biasa, balasan dihasilkan satu token pada satu masa. Setiap token memerlukan forward pass tersendiri yang membaca model weights dan KV cache yang semakin besar sekali lagi, jadi perkakasan biasanya dihadkan oleh memory bandwidth. Teknik seperti speculative decoding mengecilkan jurang itu tanpa menghapuskannya. Anthropic menetapkan harga output pada lima kali ganda harga input untuk keseluruhan katalog semasa, daripada Haiku 5.5 hingga Fable 5.1.
Adakah prompt caching menjadikan token output lebih murah?
Tidak. Prompt caching hanya terpakai pada input. Setakat 27 October 2026, cache read berharga 0.1x kadar input asas pada kebanyakan model (0.05x pada Opus 5.5 dan Sonnet 5.5, 0.025x pada Fable 5.1), manakala cache writes berharga 1.25x untuk tempoh 5 minit atau 2x untuk tempoh 1 jam. Output dibilkan pada kadar penuh bagi setiap panggilan, tanpa mengira kesan cache. Oleh itu, caching mengubah bentuk bil anda selain saiznya: apabila bahagian input merosot dengan banyak, output menjadi bahagian yang paling berbaloi untuk dikurangkan.
Adakah max_tokens yang tinggi akan menyebabkan saya dikenakan bayaran jika balasan yang diterima pendek?
Tidak. Anda dibilkan berdasarkan token yang sebenarnya dihasilkan oleh model, jadi max_tokens ialah had maksimum, bukan tempahan. Nilai ini tetap penting kerana ia satu-satunya had keras bagi balasan yang terus bertambah. Tetapkannya sedikit melebihi persentil ke-95 bagi output_tokens yang anda perhatikan, kemudian kendalikan stop_reason: "max_tokens" dalam kod dan bukannya menghantar jawapan yang terpotong tanpa pemberitahuan.
Bagaimanakah saya boleh mengetahui nisbah token input kepada output saya sendiri?
Log input_tokens, output_tokens, cache_read_input_tokens dan cache_creation_input_tokens daripada objek usage bagi setiap respons, kemudian bahagikan jumlahnya untuk tempoh seminggu. Jika nisbahnya melebihi 5 input kepada 1 output, kos anda tertumpu pada prompt. Cache bahagian yang stabil dan pendekkan bahagian yang lain. Jika nisbahnya lebih rendah, kos anda tertumpu pada balasan. Hadkan panjangnya dan pindahkan langkah yang menghasilkan sebahagian besar output itu kepada model yang lebih murah atau Batch API.