SSD Nodes Learn Hosting plans →
ガイド Matt Connor著者 Matt Connor

Paritokでエージェント料金は安くなる?仕組みと損益分岐点

Paritokはファイル読み取りやツール出力を圧縮し、トークンを74%削減すると主張します。圧縮の仕組みと、実際に元が取れる条件を計算します。

リクエストに対して Paritok が行う処理

Paritok はトークンゲートウェイです。コーディングエージェントとモデル API の間に配置され、各リクエストを圧縮してから転送するプロキシです。エージェントはプロバイダーではなく http://127.0.0.1:8080 と通信します。プロキシはツールスキーマ、ファイルの読み取り結果、ツールの出力、過去のターンを縮小し、より小さいペイロードを上流へ送信して、応答を変更せずに返します。

プロバイダーは、プロバイダーに到着した内容に対して課金します。ただし、請求額は削除されたトークンの種類、そのキャッシュ料金、エージェントが行うターン数によって変わります。これが仕組みの核心です。「コンテキストが長く持続する」という主張とは異なります。この点が、このツールを単なる整理機能ではなく興味深いものにしています。

このプロジェクトはまだ新しいものです。ゲートウェイは 15 July 2026 にオープンソース化され、PyPI では v1.3.14 が 6 October 2026、v1.3.0 が 5 August のリリースとされています。重みとゲートウェイのコードは Apache 2.0 です。圧縮モデルは Qwen3-4B-Instruct-2507 に対する LoRA(low-rank adaptation)アダプターです。実際のコーディングエージェントの軌跡から取得した 45,000 個のセグメントを含むプールから蒸留され、そのうち 40,606 個が教師モデルの検証に合格して学習例になりました。

これがコンテキストのトリミングではない理由

トリミングは情報を完全に削除します。エージェントがコンテキスト上限に近づき、古いターンから削除すると、turn 3 で読み取ったファイルは失われます。turn 20 でそのファイルが必要になれば、ファイルを再度読み取るため、同じトークンにもう一度コストがかかります。節約分は一時的な借り入れにすぎません。

Paritok はセグメントを、短い形式とタグ [REF:id] に置き換え、完全なテキストをプロキシ上に保持します。モデルは read_original または expand_context を呼び出してセグメントを復元します。これにより、障害の発生形態が変わります。トリマーは忘却によって失敗しますが、その事実を知らせません。コンプレッサーは情報を失った抜粋をモデルに渡すことで失敗しますが、抜粋だけでは不十分な場合、モデルは元のテキストを要求できます。

フィルタリングされたツールスキーマは引き続き復元可能です。ただし、デフォルトの適応型フィルターは、選択されなかった標準ツールを除外し、MCP の関連性シグナルが発火しない限り、選択されなかった MCP ツールも除外します。そのシグナルが発火すると、選択されなかった MCP ツールはスタブ化されます。gateway_search_tools は復元をサポートします。また、ゲートウェイは不足しているツールを示すメッセージも検出し、再試行の前に一致するツールを注入します。これは重要です。ツールを恒久的に隠すフィルターは、エージェントが実行できる操作を変えるためです。そして、その影響は、タスクが気付かないうちに失敗することで初めて判明する可能性があります。

3 つのレバーと、無料で利用できるもの

レバーの 1 つ目は、ツールとスキーマのフィルタリングです。すべてのリクエストには tools 配列全体が含まれます。MCP (Model Context Protocol) サーバーを接続していない Claude Code のターンでは、このブロックのサイズは約 29,000 トークンですが、MCP を接続すると 44,000 から 65,000 トークンに増加します。このフィルタは、ユーザーのリクエストと各ツールの説明を 130 MB の埋め込みモデル BAAI/bge-small-en-v1.5 で埋め込みベクトル化し、一致するツールのみを保持します。選択されなかった標準ツールは削除され、MCP ツールは関連性のシグナルが検知された場合のみスタブ化され、それ以外の場合は削除されます。前述の 29,000 トークンの例では、このブロックは約 8,000 トークンまで削減されます。この埋め込みモデルは CPU 上で動作します。

レバーの 2 つ目はコンテンツの圧縮です。これは GPU または Ollama を介した CPU 上で 4B モデルを使用して実行されます。ファイルの読み取り、ツールの出力、および履歴は、元のサイズの 25.7% まで削減されます。モデルは主にスパンを選択する手法をとり、書き換えは推論の要約やツール呼び出しの構成など、限定的な範囲に留めます。プロジェクトの論文では、教師データから生成されたトレーニングコーパスにおいて、出力された識別子、パス、数値の 96.0% が入力と完全に一致することが測定されています。学習済みモデルの SWE-bench Lite の出力結果でも、同様の監査で 96.2% を記録しました。これが「74%」という見出しの根拠です。注意が必要なのは、74% とは圧縮対象コンテンツの圧縮率であり、請求額の削減率ではないという点です。

レバーの 3 つ目は履歴の要約です。デフォルトでは、コンテキストが設定されたウィンドウの 80% を超えると、古いターンが要約されます。直近の 4 ターンはそのまま保持されるため、制限に達することなく長いセッションを継続できます。

セルフホストにおいて GPU は必須ではありません。これがこのページで最も重要な一文です。pip install "paritok[toolselect]" を使用すれば、一般的な CPU VPS 上でツールフィルタを利用でき、トークンごとの料金も発生しません。GPU をレンタルする前に、まずはこの方法を試してください。

プロジェクトの測定対象と使用したハーネス

グラフSWE-bench Lite: compression rate against solve quality retained (project's published figures)
このグラフのデータ
[
  {
    "label": "Paritok-4B-v1",
    "compressed_to_pct": 25.7,
    "quality_retained_pct": 86.5
  },
  {
    "label": "gpt-4.1-mini",
    "compressed_to_pct": 50.2,
    "quality_retained_pct": 85.6
  },
  {
    "label": "gpt-5",
    "compressed_to_pct": 61.9,
    "quality_retained_pct": 93.6
  }
]

これらはプロジェクトが公開している数値であり、SWE-bench Lite を用いた独自のハーネスで測定されたものです。Paritok-4B-v1 はコンテンツを元のサイズの 25.7% に圧縮しつつ、非圧縮時の解決率の 86.5% を維持します。圧縮器として gpt-5 を使用すると品質は 93.6% とより高く維持されますが、圧縮率は 61.9% に留まります。また、フロンティアモデルのコストを支払ってフロンティアモデルのコストを削減することになります。

品質の列は正しく解釈してください。維持された品質とは、圧縮器による解決率を非圧縮時のベースライン解決率で割ったものです。86.5% を維持するということは、ベースラインと比較して解決数が正味で 13.5% 減少することを意味します。これはベースラインで解決できた問題のうち失われた割合を指すものではありません。圧縮された実行環境では、ベースラインとは異なる問題を解決できる可能性があるためです。この数値は、リコールを無効にし、プロダクション編集リカバリを有効にした状態で、圧縮された生のソースコードを一度の試行で理解する能力を測定しています。CPU ツールスキーマフィルターや、完全なマルチターンゲートウェイの性能を測定するものではありません。

グラフReported input-token saving as a session grows (project's own harness)
このグラフのデータ
[
  {
    "label": "Turn 1",
    "saved_pct": 25
  },
  {
    "label": "Turn 5",
    "saved_pct": 39
  },
  {
    "label": "Turn 12",
    "saved_pct": 57
  },
  {
    "label": "Turn 20",
    "saved_pct": 63
  }
]

エンドツーエンドの節約効果はセッションの進行とともに増大します。これは履歴が蓄積され、その履歴こそが圧縮対象であるためです。プロジェクトの報告によると、1 ターン目では約 25%、5 ターン目では 39%、20 ターン目では 63% の節約となります。測定対象は 1 から 5 ターン目までであり、README ではそれ以降の行は予測値として記載されています。また、節約の限界についても言及されています。200,000 トークンの予算において、ターンごとのコンテンツ節約量は 8 から 12 ターン目付近で約 48,000 トークンに収束します。これはコンテキストが満杯になると履歴の増加が止まるためです。個別のツールフィルターによる節約が 1 ターンあたり約 21,000 トークン加算されるため、予測される合計のプラトー(停滞域)は 1 ターンあたり約 69,000 トークンとなります。広く引用される「85% 超」という数値は、コンテキストが飽和したセッションを指しています。これは最良のケースであり、同じ README にはデフォルト設定下での節約量は約 72% を上限として停滞すると記載されているため、この数値を前提とした計画は避けてください。

Paritok では 24GB GPU の費用を回収できますか?

GPU は必須ではありません。モデルは 24GB 未満のカードにも収まります。例として、24GB カードを 1 時間あたり $0.44 で借りる場合を考えます。1 か月間動かし続けると 730 時間なので、$321 です。稼働時間を 1 日 8 時間、22 日間に限定すると 176 時間で、$77 です。

次に、トークン削減量を金額の削減量に換算します。削減されるのは入力トークンです。出力トークンはプロキシをそのまま通過するため、プロキシによって圧縮されません。新規入力、キャッシュへの書き込み、キャッシュからの読み取りを分けて、プロバイダーの料金で変更後の費用を計算します。そのうえで、API の合計費用を変更前後で比較します。入力が金額全体の 80% を占めている場合でも、トークン削減率に 0.8 を掛けただけでは、請求額の削減額は確定しません。

グラフMonthly API saving needed to cover an illustrative $0.44/hour card
このグラフのデータ
[
  {
    "label": "Always on (730 hours)",
    "required_api_saving_usd": 321.2
  },
  {
    "label": "Workday only (176 hours)",
    "required_api_saving_usd": 77.44
  }
]

カードを稼働させ続ける場合、測定した月間 API 削減額が $321.2 を超えると費用を回収できます。稼働時間を作業時間外に限定する場合は、$77.44 を超えると回収できます。トークンを 85% 削減できても、それだけで請求額を 68% 削減できるとは限りません。そのため、月間のエージェント費用の損益分岐点も確定しません。レンタル費用を測定した請求額の削減率で割ると、その損益分岐点を求められます。

この結果がグラフの印象より良くなる要因が 2 つあります。モデルに 24GB は必要ありません。q4 ビルドは約 2.5GB、f16 ビルドは約 8GB なので、より小さいカードを使うか、別の用途ですでに稼働させている GPU ボックスを使えば、グラフ内のすべての数値が下がります。また、誰もコーディングしていない時間にインスタンスを停止することが、ここでは最大の削減策です。レンタル費用を約 4 分の 1 にできるためです。

不利になる要因も 1 つあります。圧縮処理には実際の計算負荷がかかります。4B モデルが圧縮する各トークンは、モデルが読み取る必要のあるトークンです。また、保持する各スパンは、モデルが書き戻す必要があります。そのため、エージェントの各ターンに遅延が加わります。時間単位で借りるカードでは、このコストは請求書の項目ではなく待ち時間として現れます。そのため、実際に遅延を感じるまで見落としやすくなります。

レンタルした GPU の稼働時間と API トークンの費用を一般的に比較する場合は、GPU VPS と API トークンの損益分岐点で推論自体について同じ計算を行っています。

VPS で Paritok gateway を実行する

PyPI のパッケージメタデータでは Python 3.10 以降が受け入れられますが、README のバッジには 3.11 以降と記載されています。Ubuntu 24.04 には Python 3.12 が含まれているため、CPU tool filter には通常の VPS イメージで十分です。

sudo apt update && sudo apt install -y python3-venv curl
python3 -m venv /opt/paritok/venv
source /opt/paritok/venv/bin/activate
pip install "paritok[proxy]==1.3.14"
pip install "paritok[toolselect]==1.3.14"

バージョンを固定します。PyPI では v1.3.0 の日付が 5 August 2026、v1.3.14 の日付が 6 October 2026 となっています。このペースで更新されるプロジェクトでは、リリース間で名前が変更されます。実際、v1.3.0 では API の expand_context が read_original に変更されました。単独の pip install paritok や、main の git clone を指定すると、翌週には別の gateway が導入され、測定した数値をどのバージョンが生成したのか記録が残りません。

デフォルトのバックエンドは Ollama です。モデルを pull し、proxy が検索する短い名前を付けます。

ollama pull paritok/paritok-4b-v1
ollama cp paritok/paritok-4b-v1 paritok-4b-v1

ローカルモデルは、圧縮する各セグメントについて保持する span をすべて出力するため、時間のかかる圧縮処理は agent turn の停止として現れます。Ollama の出力長を制限する num_predict の上限 が、その処理を制限する設定です。

その横に paritok.yaml を記述します。use_gpu_server: false により、圧縮処理が自分のハードウェア上で実行されます。

use_gpu_server: false
local_model:
  base_url: http://localhost:11434/v1
paritok proxy --port 8080 --config-file paritok.yaml

paritok up は、モデルが存在しない場合に pull し、proxy を port 8080 で起動するショートカットです。Ollama はあらかじめインストールしておく必要があります。agent を接続する前に proxy を確認します。

curl http://127.0.0.1:8080/health
curl http://127.0.0.1:8080/stats

/health は、"status":"ok" と version string を含む小さな JSON オブジェクトを返します。/stats は圧縮の合計値と、proxy 自身による削減量の推定値を返します。この推定値は proxy が自分の処理を評価した値にすぎないため、provider の usage page と照合してください。

利便性ではなく throughput を重視する場合は、vLLM で base model の上に adapter を提供します。

vllm serve Qwen/Qwen3-4B-Instruct-2507 \
  --enable-lora \
  --lora-modules paritok-4b-v1=paritok/paritok-4b-v1 \
  --max-lora-rank 32 \
  --port 8000

--max-lora-rank 32 flag はプロジェクト独自の command に含まれています。adapter の rank が 32 だからです。次に paritok.yaml で local_model.base_url を http://localhost:8000/v1 に設定し、proxy が Ollama ではなく vLLM と通信するようにします。

Ollama は短時間で起動できます。一方、vLLM は concurrent request の処理に優れているため、同じマシンを複数の agent が共有すると、すぐに差が現れます。Ollama と vLLM の実用上の違いを基準に選択してください。

base URL の環境変数を設定して、agent を proxy に接続します。

export ANTHROPIC_BASE_URL=http://127.0.0.1:8080
export OPENAI_BASE_URL=http://127.0.0.1:8080

Codex CLI は OPENAI_BASE_URL を無視するため、paritok.yaml で codex.enabled: true が設定されている場合、paritok up が ~/.codex/config.toml を書き込みます。環境変数だけを export すると、Codex は provider と直接通信したままになります。その場合の兆候は、作業中に /stats counter が一度も増えないことです。

listener は 127.0.0.1 に限定し、0.0.0.0 では待ち受けないでください。proxy は各 request に付与された credentials を upstream に転送します。また、認証不要の /stats endpoint では、元の content と圧縮後の content のサンプルが公開されます。そのため、インターネットから到達できる listener を使用すると、private context とローカルの圧縮リソースが外部に公開されます。port を開放する代わりに、SSH tunnel または VPN 経由で laptop から接続してください。

再起動後も動作するよう、systemd の下で実行します。パスは実際のインストール先に合わせて変更してください。unit が実行する paritok user を作成し、install directory へのアクセス権を付与します。

sudo useradd --system --home-dir /opt/paritok --shell /usr/sbin/nologin paritok
sudo chown -R paritok:paritok /opt/paritok
[Unit]
Description=Paritok compression proxy
After=network-online.target

[Service]
User=paritok
WorkingDirectory=/opt/paritok
ExecStart=/opt/paritok/venv/bin/paritok proxy --port 8080 --config-file /opt/paritok/paritok.yaml
Restart=on-failure

[Install]
WantedBy=multi-user.target

sudo systemctl enable --now paritok で有効化し、再度 curl /health を実行します。起動直後に終了する unit は、通常、config file のパスが誤っていることを示します。journalctl -u paritok -n 50 で理由を表示できます。

ホステッド版の選択肢と、そのコスト

このプロジェクトでは、圧縮機能をサービスとしても提供しています。paritok.com の API key で use_gpu_server: true を設定すると、4B model は同社のハードウェア上で実行されます。2026年11月2日時点では、圧縮したファイルトークン 100万個あたり $0.30 が前払いクレジットから請求され、tool-schema filtering は無料です。新規アカウントには、カード登録なしで $5 の無料クレジットが付与されます。ホステッドサービスが無料だったローンチ期間は 2026年10月1日に終了しており、現在は有料サービスです。これにより、圧縮モデルをホスティングする作業は不要になりますが、gateway は引き続き自分で実行します。

その一方で、プロンプトと agent が読み取るファイルは、model provider に届く前にマシンから外部へ送信され、第三者を経由します。Self-hosting は、まさにこの経路を避けるためのものです。そのフラグを設定する前に、どちらを優先するのかを決めてください。フラグの変更は 1 行で済みますが、その影響は 1 行では済みません。

自分の導入前後を測定する方法

公開されている数値は、プロジェクトのハーネスで SWE-bench Lite を実行した場合の、プロジェクト固有の数値です。あなたのリポジトリは SWE-bench Lite ではありません。自分の環境で測定してください。

  • プロキシを経路に置かずに通常どおり1週間運用します。プロバイダーの使用量ページから、入力、新規キャッシュ書き込み、キャッシュ読み取り、出力のトークン数を、それぞれ別の行に記録します。合計金額だけを記録しないでください。
  • 次の1週間はプロキシを前段に置き、同じ種類の作業を行います。
  • 入力の各カテゴリを実際の単価で比較し、出力コストの変化も含めます。プロキシは出力を圧縮しませんが、エージェントの動作やターン数が変わると、購入する出力トークン量も変わります。
  • やり直したタスクの数を数えます。これはこのトレードオフにおける品質面ですが、どのダッシュボードにも表示されません。
  • 合計を比較する前に、2週目の GPU 使用時間を加算します。

入力と出力を分けることが重要です。両者の単価は大きく異なり、コンプレッサーが処理するのは一方だけだからです。2026年11月2日時点で、Claude Sonnet 4.6 は入力トークン100万個あたり $3、出力トークン100万個あたり $15 です。プロンプトキャッシュの読み取りは入力単価の10%で、100万個あたり $0.30 です。新しい Claude Sonnet 5.5 はそれぞれ $2 と $10 で、キャッシュ読み取りは入力単価の5%、100万個あたり $0.10 です。入力トークンと出力トークンのコスト差によって、入力側のコンプレッサーに価値があるかどうかが決まります。Claude Code のトークンが実際に使われる場所を見ると、圧縮する価値があるほど大きいコンテキスト部分を確認できます。

特にツールフィルターの計算では、プロンプトキャッシュが複雑な要因になります。ツールブロックはリクエストの先頭に置かれるため、通常は最初のターン以降でキャッシュヒットになります。Sonnet 4.6 では、入力単価の10%が適用されます。キャッシュされたブロックから21,000トークンを削減しても、保存できるのは100万個あたり $0.30 で計算した21,000トークン分、つまり1ターンあたり約 $0.006 です。キャッシュされていない単価から想定される $0.063 ではありません。プロジェクトはセッション中、フィルター済みブロックを固定します。これにより、キャッシュされたプレフィックスが変わりません。ターンごとにツールを選び直すフィルターでは、このプレフィックスが無効になり、削減額を上回るコストが発生する可能性があります。

検証されていない点

上記の性能値はすべてプロジェクト自体が示したものです。独立した合成コーパスによる圧縮検証はありますが、SWE-bench のタスク成功率は明示的に検証対象外です。そのため、プロジェクトが示す SWE-bench Lite の解決品質の数値は、依然として独立検証されていません。2026年7月にゲートウェイがオープンソース化されたばかりで、コードの運用実績もほとんどありません。圧縮率と品質保持率は、どちらも良好に見えることで利益を得る側が測定した値です。だからといって誤りとは限りません。ただし、検証済みではありません。自分で測定した数値とは別のものとして扱うべきです。

設定を疑う前に、把握しておくべき仕様があります。このツールのフィルターが使用する埋め込みモデルは、起動時ではなく最初のリクエスト時に読み込まれます。そのため、プロジェクトでは10〜15秒のウォームアップ時間を見込み、その後は1回あたり約15 msと説明しています。プロキシの起動後に使い捨てのリクエストを1回送れば、最初の実際のエージェント処理がハングしたようには見えません。

午後のうちに自分で確認できる点は4つあります。プロキシが起動して稼働し続けるか、作業中に /stats が変化するか、プロバイダーの入力トークンの請求行が実際に減るか、そしてエージェントが作業を完了できるかです。これらは、公開されたベンチマークよりも、使用環境に適用できるかどうかを正確に判断する材料になります。

他のツールとの位置付けについて説明します。セルフホスト型の LiteLLM ゲートウェイは、リクエストの内容を変更せずにルーティングと使用量の計測を行います。そのため、両者は異なる問題を解決し、併用できます。Paritok はエージェントに最も近い位置に置かれます。目的がこの特定のツールではなく請求額の削減であれば、VPS 上のエージェント向けコスト管理の選択肢には、まず無料で試せる変更がいくつかあります。

FAQ

Paritok は API 料金を削減しますか、それともコンテキスト使用量だけですか?

リクエストをプロバイダーへ送信する前に圧縮するため、料金の削減額は削除されたトークンの単価と、エージェントの最終的なターン数に依存します。実際の削減幅は、見出しで示される数値よりも小さくなります。74% という数値は、圧縮対象コンテンツの圧縮率です。プロジェクトの報告によれば、エンドツーエンドでの入力トークン削減率は、1 ターンで約 25%、20 ターン目には 63% と予測されています。出力トークンはそのまま通過しますが、生成量はエージェントの挙動に依存します。

圧縮モデルを自己ホストするにはどの程度の GPU が必要ですか?

GPU は必須ではありません。Ollama は CPU 上でもモデルを実行できます。q4 ビルドは約 2.5 GB、f16 ビルドは約 8 GB です。そのため、24 GB のカードであれば十分に余裕を持って収まります。より小さなカードでも動作し、その場合は損益分岐の計算が有利に働きます。ツールスキーマフィルターは GPU を全く必要としません。130 MB の埋め込みモデルである BAAI/bge-small-en-v1.5 を使用し、CPU 上で動作します。一般的な VPS に paritok[toolselect] をインストールすれば、わずかな RAM の消費でツールブロックの削減効果を得られます。

圧縮器がエージェントの必要な情報を削除してしまったらどうなりますか?

データが完全に失われることはありません。モデルは転送対象からスパンを削除しますが、圧縮されたセグメントには [REF:id] タグが付与されます。モデルは read_original または expand_context を使用して全文を復元します。デフォルトのツールフィルターは、選択されていない標準ツールを削除し、MCP 関連性シグナルが発火しない限り、選択されていない MCP ツールも削除します(発火した場合は MCP ツールをスタブ化します)。ツールの復元には gateway_search_tools と、ツール不足メッセージの検知が使用されます。真のリスクはファイル消失よりも静かなものです。モデルが損失のある抜粋に基づいて動作し、オリジナルを要求すべきであると認識できない可能性があります。SWE-bench Lite における 86.5% の品質保持率という数値は、リコールを無効化し、プロダクション編集の復元を有効化した状態で、圧縮された生のソースコードを一度の試行で理解できたかを測定したものです。これは CPU ツールスキーマフィルターや、マルチターンゲートウェイ全体の性能を測定したものではありません。

なぜ最初のリクエストに 15 秒もかかるのですか?

ツールフィルターの背後にある埋め込みモデルが、起動時ではなく最初のリクエスト時に読み込まれるためです。プロジェクトのドキュメントでは、10 秒から 15 秒のウォームアップが必要であり、それ以降は 1 回の呼び出しにつき約 15 ms であるとされています。プロキシ起動後に curl を使用して一度ダミーのリクエストを送信しておけば、最初のエージェントのターンで停止することはありません。

自己ホストではなくホスト型の GPU サーバーを使用すべきですか?

ホスト型を使用すれば、圧縮モデルのホスティングや GPU のレンタル費用が不要になりますが、ゲートウェイの管理は依然として必要です。2026 年 11 月 2 日現在、料金は圧縮されたファイルトークン 100 万個あたり $0.30 で、プリペイドクレジットから支払われます。新規アカウントには $5 分の無料クレジットが付与されます(無料のローンチ期間は 2026 年 10 月 1 日に終了しました)。また、このサービスはプロンプトやエージェントが読み取るファイルを、モデルプロバイダーに到達する前に第三者へ送信します。コードを自社管理のインフラに留めるために自己ホストしている場合、この設定はその目的を無効化します。自己ホストであれば圧縮処理は自前のサーバー内で行われますが、圧縮されたリクエストとプロバイダーの認証情報は、依然としてモデルプロバイダーへ送信されます。

この記事は役に立ちましたか?