SSD Nodes Learn Hosting plans →
가이드 Matt Connor작성자 Matt Connor

Claude API 비용이 비싼 이유와 토큰 계산법

Claude API는 출력 토큰이 입력보다 5배 비싸며 매 대화마다 전체 기록을 다시 전송합니다. 실제 세션 비용을 산출하는 계산법과 API 호출 횟수를 줄여 비용을 절감하는 4가지 핵심 전략을 상세히 분석합니다.

Claude는 왜 비싼가? 짧은 답변

Claude가 비싼 이유는 서로 겹쳐 작용하는 4가지입니다. 출력 토큰 단가는 입력 토큰 단가의 5배입니다. API는 대화 내용을 기억하지 않으므로 매번 전체 대화 기록을 다시 보내고 다시 요금을 청구합니다. 에이전트는 하나의 질문을 수십 번의 API 호출로 바꾸며, 각 호출에는 계속 늘어나는 대화 기록이 포함됩니다. 여기에 더해 최상위 모델은 소형 모델의 실행 비용이 아니라 수행하는 작업의 난이도를 기준으로 가격이 책정됩니다.

토큰은 텍스트의 한 부분이며, 그 크기는 모델에 따라 다릅니다. Opus 5, Sonnet 5, Fable 5와 5.1, 그리고 모든 5.5 모델은 Claude 4.7과 함께 도입된 새로운 tokenizer를 사용합니다. Anthropic은 이 토큰 1,000,000개가 대략 영어 단어 555,000개 또는 문자 2.5 million개에 해당한다고 설명합니다. 따라서 토큰 1개는 약 2.5자, 또는 단어의 절반을 조금 넘는 정도입니다. Sonnet 4.6과 Haiku 4.5 같은 이전 모델은 기존 tokenizer를 사용합니다. 이 tokenizer에서는 토큰 1개가 영어 문자 약 3.5자이며, 토큰 1,000,000개에 단어 약 750,000개가 포함됩니다. 같은 텍스트라도 새로운 모델에서는 토큰 수가 약 30 percent 더 많게 계산됩니다. 따라서 예전 추정치를 재사용하지 말고 실제 사용할 모델로 다시 계산해야 합니다. 요금은 토큰 1 million개당으로 표시하며, MTok (million tokens)으로 씁니다. 아래의 모든 요금은 2026년 10월 기준으로 공개된 Claude API 요금입니다.

예상보다 큰 청구서의 대부분은 위 목록의 두 번째와 세 번째 이유에서 발생합니다. 일반적으로 사람들은 Claude가 작성하는 답변 때문에 비용이 발생한다고 생각합니다. 그러나 에이전트 세션에서는 작성된 텍스트가 전체 청구액의 10분의 1에도 못 미치는 경우가 많습니다.

공개된 요금입니다. 이제 수치를 기준으로 합의할 수 있습니다.

차트Published Claude API rates, US dollars per million tokens, October 2026
이 차트의 데이터
[
  {
    "label": "Haiku 4.5",
    "input_usd": 1,
    "output_usd": 5,
    "cache_read_usd": "0.10"
  },
  {
    "label": "Sonnet 5",
    "input_usd": 2,
    "output_usd": 10,
    "cache_read_usd": "0.20"
  },
  {
    "label": "Sonnet 4.6",
    "input_usd": 3,
    "output_usd": 15,
    "cache_read_usd": "0.30"
  },
  {
    "label": "Opus 5",
    "input_usd": 5,
    "output_usd": 25,
    "cache_read_usd": "0.50"
  }
]

절대적인 수치보다 구조를 확인해야 합니다. 모든 모델은 입력보다 출력에 정확히 5배 높은 요금을 부과합니다. Opus 5의 입력 요금은 백만 입력 토큰당 5달러이고, 출력 요금은 25달러입니다. Haiku 4.5의 요금은 각각 1달러와 5달러입니다. 따라서 이 표에서 가장 저렴한 모델과 가장 비싼 모델의 요금 차이도 5배이고, 읽기와 쓰기의 요금 차이도 5배입니다.

Sonnet 5의 요금은 백만 토큰당 2달러와 10달러입니다. Anthropic은 처음에는 이 요금을 2026년 8월 31일까지 적용되는 출시 기념 요금으로 판매했습니다. 이후 이 요금을 표준 요금으로 전환하고, 3달러와 15달러로 인상할 예정이었던 계획을 취소했습니다. 요금은 모델 출시와 함께 변경되므로, 이를 기준으로 예산을 세우기 전에 현재 요금을 확인해야 합니다. 최신 모델도 동일한 5배 구조를 유지합니다. Opus 5.5는 백만 토큰당 4달러와 20달러, Sonnet 5.5는 2달러와 10달러로 책정되어 있습니다. 2026년 10월 7일 출시된 Haiku 5.5의 요금은 0.10달러와 0.50달러부터 시작합니다. 이 표보다 낮은 무료 등급도 없습니다. 다만 새 계정에는 소액의 크레딧이 제공되며, API의 일부 기능은 전혀 비용이 들지 않습니다.

마지막 열은 캐시 읽기 요금입니다. 대부분의 청구 금액은 이 요금이 결정합니다. 산술 계산을 마친 뒤 이 부분으로 돌아오겠습니다.

출력 토큰 비용이 입력 토큰보다 5배 더 비싼 이유는 무엇입니까?

읽기와 쓰기는 수행되는 작업량이 다릅니다. 입력 토큰은 한 번에 처리됩니다. 모델은 전체 프롬프트를 한꺼번에 읽으며, 이 과정에서 작업이 병렬로 실행됩니다. 이것이 60,000 토큰의 프롬프트가 1,000 토큰의 프롬프트보다 읽는 데 60,000배 더 오래 걸리지 않는 이유입니다.

출력 토큰은 한 번에 하나씩 생성됩니다. 새로운 토큰이 생성될 때마다 모델을 한 번씩 통과해야 하며, 이전의 모든 토큰을 컨텍스트로 참조해야 합니다. 1,000개의 토큰을 작성한다는 것은 1,000번의 통과 과정을 순차적으로 거친다는 의미입니다. 이러한 직렬 작업은 읽기 작업처럼 분산 처리할 수 없으므로, 각 출력 토큰은 하드웨어를 더 오랜 시간 점유하게 됩니다.

이것이 바로 "답변을 짧게 줄여라"라는 요청이 기대보다 비용 절감 효과가 작은 이유입니다. 이 방법은 에이전트 비용의 더 작은 부분을 차지하는 영역에서만 작동하기 때문입니다.

왜 대화 전체가 턴마다 다시 과금되나요?

Claude API는 상태를 저장하지 않습니다(stateless). Anthropic 측에는 사용자가 메시지를 하나씩 추가하는 대화 세션이 존재하지 않습니다. 각 요청은 전체 메시지 기록을 포함하며, 모델은 응답을 생성하기 전에 이 기록 전체를 읽습니다. 따라서 30번째 턴에서는 1번째부터 29번째 턴까지의 내용에 대해서도 비용이 청구됩니다.

즉, 대화 비용은 대화 길이보다 더 빠르게 증가합니다. 1번째 턴에서는 적은 양의 컨텍스트에 대해 비용이 청구되지만, 40번째 턴에서는 큰 컨텍스트에 대해 청구됩니다. 40개의 턴을 모두 합산하면, 실제로 생성된 토큰 수보다 훨씬 많은 양의 토큰에 대해 비용을 지불하게 됩니다.

차트Context size at each turn of a 40 turn agent session
이 차트의 데이터
[
  {
    "turn": 1,
    "context_tokens": "20,000"
  },
  {
    "turn": 5,
    "context_tokens": "32,000"
  },
  {
    "turn": 10,
    "context_tokens": "45,000"
  },
  {
    "turn": 15,
    "context_tokens": "55,000"
  },
  {
    "turn": 20,
    "context_tokens": "64,000"
  },
  {
    "turn": 25,
    "context_tokens": "74,000"
  },
  {
    "turn": 30,
    "context_tokens": "84,000"
  },
  {
    "turn": 35,
    "context_tokens": "92,000"
  },
  {
    "turn": 40,
    "context_tokens": "100,000"
  }
]

위 세션은 시스템 프롬프트, 도구 정의, 에이전트가 처음 연 파일들을 포함하여 20,000 토큰으로 시작합니다. 40번째 턴에 이르면 컨텍스트는 100,000 토큰을 보유하게 됩니다. 40개의 모든 턴에 걸쳐 평균을 내면 요청당 약 60,000 토큰을 읽는 셈입니다.

에이전트 비용이 채팅보다 훨씬 많이 드는 이유는 무엇인가?

채팅은 질문마다 요청 1회를 보낸다. 에이전트는 단계마다 요청 1회를 보낸다. 파일을 읽는 작업이 1단계다. 테스트를 실행하는 작업이 1단계다. 테스트 출력을 읽는 작업이 1단계다. 파일을 편집하는 작업이 1단계다. 하나의 작업을 완료하는 데 40단계가 필요한 것은 코딩 에이전트에서 일반적이다.

도구를 사용하면 추가 비용이 2가지 발생한다. 모델은 매번 어떤 도구를 사용할 수 있는지 전달받아야 하므로, 도구 정의가 모든 요청의 입력 토큰에 포함된다. Anthropic이 공개한 오버헤드에 따르면, tool_choice가 auto로 설정된 Opus 5에서 도구 사용 시스템 프롬프트만 286토큰이며, 여기에 자체 도구 스키마의 토큰이 추가된다. 일부 서버 측 도구에는 별도 요금도 부과된다. 웹 검색은 검색 결과가 사용하는 토큰 비용과 별도로 검색 1,000회당 $10가 청구된다.

모든 도구 결과도 영구 컨텍스트가 된다. 3,000줄을 출력하는 명령을 실행하면 세션이 끝나거나 기록이 압축 또는 삭제될 때까지 이후의 모든 요청에 해당 3,000줄이 포함된다. Claude Code가 보고하는 세션별 토큰 사용량을 통해 이 현상을 확인할 수 있다. 출력이 많은 명령을 실행한 직후 입력 토큰 수가 증가하는지 확인한다.

단일 실제 세션에서의 연산

Opus 5를 사용한 에이전트 기반 코딩의 현실적인 1시간 작업 사례입니다. 총 40회의 API 요청이 발생했습니다. 컨텍스트는 20,000 토큰에서 100,000 토큰으로 증가했으며, 요청당 평균 약 60,000 토큰을 처리했습니다. 모델은 요청당 약 700 토큰을 작성했는데, 이는 짧은 도구 호출과 몇 개의 긴 코드 블록이 혼합된 결과입니다.

Requests in the session:      40
Average context per request:  60,000 tokens

Total input tokens billed:    40 x 60,000                    = 2,400,000
Input cost on Opus 5:         2,400,000 x $5 / 1,000,000     = $12.00

Total output tokens:          40 x 700                       =    28,000
Output cost on Opus 5:        28,000 x $25 / 1,000,000       =  $0.70

Session total                                                = $12.70
차트Where the money went in one 40 turn Opus 5 session, no caching
이 차트의 데이터
[
  {
    "label": "Input, context re-read",
    "billed_tokens": "2,400,000",
    "cost_usd": "12.00"
  },
  {
    "label": "Output, code and tool calls",
    "billed_tokens": "28,000",
    "cost_usd": "0.70"
  }
]

비용 구성을 살펴보겠습니다. 읽기 비용은 12.00 달러이며 쓰기 비용은 0.70 달러입니다. 즉, 실제로 읽게 되는 출력물은 전체 비용의 약 5%에 불과합니다. 모델은 {{q:session_billed_tokens@-1}} 토큰을 작성했으며, 읽기 작업에 대해 2,400,000 토큰만큼 청구되었습니다. 사람이 240만 토큰을 직접 입력한 것은 아닙니다. 동일한 100,000 토큰이 반복적으로 읽혔기 때문입니다.

레버 1: 가장 큰 효과를 내는 프롬프트 캐싱

프롬프트 캐싱은 프롬프트의 안정적인 접두사를 처리한 형태로 저장한다. 다음 요청에서는 해당 접두사를 다시 처리하지 않고 캐시에서 읽는다. 캐시에 쓰는 비용은 5분 캐시에서 입력 요금의 1.25배이고, 1시간 캐시에서는 2배다. 캐시에서 읽는 비용은 Opus 5를 포함한 대부분의 모델에서 입력 요금의 0.1배다. Opus 5.5와 Sonnet 5.5는 0.05배를 부과하고, Fable 5.1은 0.025배를 부과한다. Opus 5에서는 백만 토큰당 0.50달러이므로, 5달러보다 저렴하다.

앞의 세션에 이를 적용해 보자. 대화가 늘어나는 동안 100,000개 토큰은 각각 한 번씩 캐시에 기록된다. 나머지 2,300,000개 입력 토큰은 캐시 읽기가 된다.

Tokens written to cache:      100,000
Cache write at 1.25x input:   100,000 x $6.25 / 1,000,000    = $0.63

Tokens read from cache:       2,300,000
Cache read at 0.1x input:     2,300,000 x $0.50 / 1,000,000  = $1.15

Output cost, unchanged                                       = $0.70

Session total                                                = $2.48

캐시할 부분은 cache_control 필드로 표시한다. 턴이 바뀌어도 변하지 않는 콘텐츠 뒤에 중단점을 둔다. 여기에는 system prompt와 도구 정의가 해당한다. 계속 참조하는 긴 문서도 같은 안정적인 블록에 넣는다.

{
  "model": "claude-opus-5",
  "system": [
    {
      "type": "text",
      "text": "<long, stable instructions>",
      "cache_control": {"type": "ephemeral"}
    }
  ],
  "messages": [{"role": "user", "content": "..."}]
}

이제 프롬프트의 순서가 비용을 결정한다. 캐시 적중이 발생하려면 프롬프트의 맨 앞부터 정확히 일치해야 한다. 따라서 요청마다 바뀌는 내용은 바뀌지 않는 모든 내용 뒤에 배치해야 한다. system prompt의 맨 앞에 타임스탬프를 넣으면 매 턴마다 캐시가 무효화된다. 그러면 전체 접두사가 캐시 미스가 되고, 다시 기록하는 데 입력 요금의 1.25배를 지불한다.

응답에서 캐싱이 작동했는지 확인할 수 있다. 요청을 보내고 usage 블록을 확인한다.

curl https://api.anthropic.com/v1/messages \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "claude-opus-5",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello"}]
  }'

모든 응답에는 다음과 같은 usage 객체가 포함된다.

{
  "usage": {
    "input_tokens": 105,
    "cache_creation_input_tokens": 7345,
    "cache_read_input_tokens": 7123,
    "output_tokens": 239
  }
}

반복 요청에 여전히 0이 표시되고 cache_read_input_tokens이 함께 표시된다면 캐시가 적중되지 않은 것이다. 일반적인 원인은 중단점 앞의 내용이 변경된 경우다. 5분 캐시도 만료되므로 6분 후에 보낸 요청은 캐시 미스가 발생한 뒤 새로 기록된다.

레벨 2: 단순한 턴은 더 작은 모델로 처리하기

에이전트 세션에서 발생하는 대부분의 턴은 어렵지 않습니다. 파일을 열거나, 포맷터를 실행하거나, diff를 읽는 작업에는 최상위 모델이 필요하지 않습니다. 이러한 작업을 Haiku 4.5로 라우팅하면 입력 비용이 백만 토큰당 5 달러에서 1 달러로 낮아집니다. Haiku 5.5는 100,000 토큰까지의 프롬프트에 대해 0.10 달러라는 더 낮은 비용을 제시하지만, 프롬프트가 해당 기준을 넘어서면 모든 요금이 5배 상승하며 에이전트의 긴 컨텍스트는 금방 이 지점에 도달합니다. Haiku 5.5의 비용과 적합한 용도에서 두 계층에 대해 자세히 설명합니다.

차트The same 40 turn session under four setups, US dollars
이 차트의 데이터
[
  {
    "label": "Opus 5, no caching",
    "session_cost_usd": "12.70"
  },
  {
    "label": "Opus 5, cached",
    "session_cost_usd": "2.48"
  },
  {
    "label": "Sonnet 5, cached",
    "session_cost_usd": "0.99"
  },
  {
    "label": "Haiku 4.5, cached",
    "session_cost_usd": "0.50"
  }
]

동일한 세션의 비용은 캐싱을 사용하지 않는 Opus 5에서 12.70 달러, 캐싱을 사용하는 경우 2.48 달러, 캐싱을 사용하는 Sonnet 5에서는 0.99 달러, 캐싱을 사용하는 Haiku 4.5에서는 0.50 달러입니다. 캐싱만으로도 전체 비용의 약 80퍼센트가 절감됩니다. 모델 선택은 나머지 비용의 대부분을 제거합니다. Haiku 4.5 행은 요금을 공정하게 비교하기 위해 다른 모델과 동일한 토큰 총계를 유지합니다. Haiku 4.5는 구형 토크나이저를 사용하며, 신형 토크나이저는 동일한 텍스트에 대해 약 30퍼센트 더 많은 토큰을 계산합니다. 따라서 동일한 작업이라도 Haiku 4.5에서는 토큰 수가 약 23퍼센트 적게 측정되며, 이 경우 해당 세션 비용은 약 0.38 달러에 가까워집니다.

솔직한 주의 사항이 있습니다. 더 저렴한 모델이 잘못된 답변을 내놓으면 세션 전체를 다시 진행해야 하며, 사용자의 시간까지 낭비하게 됩니다. 가격이 아닌 작업의 난이도에 따라 라우팅하십시오. 이 규칙은 상향 조정에도 적용됩니다. Claude Fable 5와 Fable 5.1은 백만 토큰당 10달러와 50달러로 Opus 5보다 높게 책정되어 있으므로, 해당 모델로 턴을 보내기 전에 해당 요금으로 얻을 수 있는 이점을 먼저 읽어보시기 바랍니다. Opus, Sonnet, Haiku 모델 선택하기에서 각 모델의 강점을 다룹니다.

레벨 3: 컨텍스트 위생

컨텍스트에 남겨둔 모든 토큰은 이후의 모든 턴에서 비용으로 청구되므로, 토큰을 일찍 제거하는 것이 나중에 제거하는 것보다 훨씬 가치가 큽니다. 40턴으로 구성된 세션의 5번째 턴에 5,000 토큰짜리 파일을 그대로 넣으면, 이 파일은 35번 더 읽히게 됩니다. 이는 175,000개의 추가 입력 토큰을 의미하며, 부주의한 붙여넣기 한 번으로 Opus 5 모델에서 거의 1달러에 달하는 비용이 발생합니다.

수치를 개선하는 4가지 습관은 다음과 같습니다.

  • 어제 하던 작업을 이어가지 말고, 새로운 작업은 새로운 세션에서 시작하십시오.
  • head -50와 같은 도구를 사용하여 모델이 출력을 받기 전에 노이즈가 많은 명령어를 필터링하십시오.
  • 파일 전체가 아니라 필요한 함수 하나만 요청하십시오.
  • 긴 세션에서 더 이상 진전이 없다면, 요약을 요청한 뒤 그 요약본을 바탕으로 다시 시작하십시오. 요약본은 수백 토큰에 불과하지만, 전체 기록은 십만 토큰에 달할 수 있습니다.

레벨 4: 대화형이 아닌 작업은 모두 배치 처리

Batch API는 요청을 비동기적으로 처리하며 입력과 출력 비용을 모두 50퍼센트 절감합니다. 1초 이내에 답변이 필요한 작업이 아니라면 배치로 처리하십시오. 분류, 추출, 백로그 요약, 평가 실행 등이 이에 해당합니다. 배치 할인은 프롬프트 캐싱과 중복 적용됩니다. 대화형 세션은 기다릴 대상이 없으므로 이 할인이 적용되지 않습니다.

바가지를 쓰고 있는 것입니까?

이것이 "왜 Claude는 비싼가"라는 질문 이면에 숨겨진 진짜 의문이므로, 이에 대해 명확히 답변하겠습니다. 요금은 공개되어 있으며 표준 티어의 모든 사용자에게 동일하게 적용되고, 토큰 단위로 과금됩니다. 예외는 협의된 계약뿐이며, 그 경우에도 Claude Enterprise pricing은 계량된 토큰 요금을 대체하는 대신 사용자당 요금을 추가합니다. 다른 플랜이 아닌 다른 벤더와 비교하고 있다면, the same jobs priced on the Claude and ChatGPT APIs를 통해 각 서비스가 어디에서 더 저렴한지 확인할 수 있습니다. 청구서의 어떤 항목도 임의로 결정되지 않습니다. 요금표가 알려주지 못하는 것은 귀하가 가치를 얻고 있는지 여부입니다. 요금표는 토큰 가격을 책정하지만, 귀하는 결과물에 관심이 있기 때문입니다.

그러니 결과물에 가격을 매기십시오. 위 세션은 캐싱되지 않은 상태에서 12.70 달러가 소요되었습니다. 만약 이 세션으로 한 시간 분량의 기능을 구현했다면 저렴한 것입니다. 반대로 40번의 턴을 돌며 제자리걸음을 했다면, 동일한 12.70 달러로 아무것도 얻지 못한 것이며, 요금은 결코 문제가 아니었습니다.

이 점을 기억해야 합니다. 청구 금액은 가치가 아닌 토큰 수에 비례합니다. 생산적인 세션과 낭비된 세션은 길이가 같다면 비용도 같습니다. 이것이 요금표보다 4가지 레버가 더 중요한 이유입니다. 토큰당 가격은 협상할 수 없지만, 작업에 몇 개의 토큰이 소요될지는 귀하가 결정하기 때문입니다.

따라서 월별 총액이 아닌 완료된 작업당 비용을 추적하십시오. 캐싱과 라우팅을 조정하면서 이 수치가 낮아진다면, 월별 총액이 상승하더라도 귀하의 설정은 개선되고 있는 것입니다. 총액의 상승은 더 많은 작업을 수행하고 있다는 의미이기 때문입니다.

청구 금액을 줄이지 못하는 것

널리 알려진 조언 중에는 실제 효과가 거의 없는 것도 있다. 모델에 "간결하게 답하라"고 지시하면 출력량은 줄어들지만, 예시 청구 금액에서 출력이 차지한 비중은 5%에 불과했다. 질문 자체를 짧게 줄이면 60,000 토큰 컨텍스트에서 수백 토큰을 절약할 수 있다. extended thinking을 끄는 방법은 thinking 토큰이 출력에서 실제로 큰 비중을 차지하는 경우에만 도움이 된다. usage 블록을 보면 추측하지 않고도 그 여부를 확인할 수 있다.

더 큰 컨텍스트 윈도우 자체는 비용을 높이지 않는다. Claude 4.6 이상에서는 Haiku 5.5를 제외하고 전체 one million 토큰 윈도우에 표준 토큰당 요금이 적용된다. 따라서 900,000 토큰 요청도 토큰당 비용은 9,000 토큰 요청과 같다. Haiku 5.5는 예외다. 프롬프트 길이에 따라 요금이 책정되며, 100,000 토큰을 초과하는 프롬프트는 input, output, cache에 대해 5배의 요금을 낸다. 따라서 input은 million당 0.10달러에서 0.50달러로, output은 0.50달러에서 2.50달러로 오른다. 그 밖의 모든 현재 모델에서는 윈도우 크기가 가격을 결정하지 않는다. 윈도우에 무엇을 넣는지가 가격을 결정한다.

두 가지는 단일 세션이 아니라 계획 단계에서 다뤄야 한다. 매일 대화형으로 사용한다면 토큰당 과금과 정액 요금제를 비교해야 한다. API와 구독 비용 비교에서 이 계산을 수행한다. 정액 요금제가 더 유리하고 동시에 다른 공급업체도 검토한다면 Claude와 ChatGPT 요금제 나란히 비교에서 두 서비스에 같은 비교를 적용한다. 에이전트를 서버에서 무인으로 실행한다면 다른 설정을 조정하기 전에 최대 지출 한도를 설정해야 한다. VPS에서 AI 에이전트 비용을 제어하는 방법에서 이를 설명한다. 규모를 간단히 파악하려면 Claude 토큰 one million으로 실제 구매할 수 있는 것에서 요금표를 텍스트 페이지 분량으로 환산해 보여 준다.

FAQ

agent를 사용하기 시작한 뒤 Claude 요금이 급증한 이유는 무엇입니까?

agent는 질문 하나마다 여러 요청을 보내고, 각 요청에는 그 시점까지의 전체 대화가 포함되기 때문입니다. 일반적인 채팅은 질문 하나마다 요청을 1번 보냅니다. 코딩 agent는 단계마다 요청을 1번 보내며, 작업 하나에 40단계가 걸리는 일도 일반적입니다. 이러한 요청은 각각 전체 컨텍스트를 기준으로 과금되므로, 최종적으로 100,000 tokens에 이르는 세션은 총 2 million input tokens를 초과하여 과금될 수 있습니다. API 응답의 input_tokens와 cache_read_input_tokens을 확인하면 이 내용을 직접 볼 수 있습니다.

prompt caching을 사용하면 정말 요금이 그렇게 많이 줄어듭니까?

예시에서는 세션 비용이 12.70 dollars에서 2.48 dollars로 줄었습니다. Opus 5에서는 cache read 비용이 input rate의 10분의 1이기 때문입니다. 절감액은 전적으로 cache hit rate에 따라 달라집니다. 5 minute cache에서는 write 비용이 input의 1.25배이고 read 비용이 0.1배 이하이므로, read를 1번만 수행해도 비용을 회수합니다. 모든 요청에서 prompt가 시작 부분부터 변경되면 hit가 전혀 발생하지 않으며, write premium만 지불하게 됩니다. 정상적으로 작동한다고 가정하기 전에 cache_read_input_tokens로 확인하십시오.

모든 작업에 Haiku만 사용하면 됩니까?

아닙니다. Haiku 4.5의 비용은 input tokens 1 million개당 1 dollars이며, Opus 5는 5입니다. 따라서 classification과 routing처럼 단순하고 처리량이 높은 작업에서는 실제로 비용을 절약할 수 있습니다. 어려운 작업에서 잘못된 답변이 나오면 모델 비용보다 더 큰 비용이 발생합니다. 재시도 비용과 자체적으로 투입한 시간까지 추가되기 때문입니다. 안정적으로 적용되는 방식은 혼합 사용입니다. 기계적인 단계에는 작은 모델을 사용하고, 판단이 필요한 단계에는 frontier model을 사용합니다.

API가 Claude subscription보다 저렴합니까?

사용량이 얼마나 일정한지에 따라 다릅니다. subscription은 사용량 제한이 포함된 고정 월 요금제입니다. API는 상한 없이 token 단위로 과금됩니다. 따라서 사용량이 적거나 일시적으로 발생할 때는 API가 더 저렴하고, 매일 업무 시간 동안 많이 사용하면 더 비쌀 수 있습니다. usage block에서 일일 평균 tokens를 확인하고, 사용 중인 model의 rate로 계산한 다음, 한 달 동안 사용하는 날짜 수를 곱하십시오. 그런 다음 해당 월간 금액을 요금제 가격과 비교하십시오. entry tier의 가격은 Claude Pro의 비용과 사용량 제한이 끝나는 지점에 설명되어 있습니다. API가 더 저렴한 결과가 나오더라도 이미 결제한 해당 월이 낭비되는 것은 아닙니다. cancellation은 현재 billing period가 끝날 때 적용되며, 그때까지는 요금제를 계속 사용할 수 있습니다. 요금제를 해지하거나 더 낮은 tier로 변경하기에서 두 방법을 모두 설명합니다.