كيف تقلل تكاليف وكيل البرمجة باستخدام Paritok؟
اكتشف كيف يعمل Paritok على ضغط قراءات الملفات ومخرجات الأدوات لتقليل استهلاك الرموز بنسبة 74%. تعرف على آلية عمل البوابة وحسابات نقطة التعادل لتوفير فواتير وكيلك البرمجي.
ما الذي يفعله Paritok بالطلب
Paritok هو بوابة رموز (token gateway): وكيل (proxy) يقع بين وكيل البرمجة الخاص بك وواجهة برمجة تطبيقات النموذج، ويقوم بضغط كل طلب قبل إعادة توجيهه. يتحدث وكيلك مع http://127.0.0.1:8080 بدلاً من المزود. يقوم الوكيل بتقليص مخططات الأدوات، وقراءات الملفات، ومخرجات الأدوات، وجولات المحادثة القديمة، ثم يرسل الحمولة الأصغر إلى الجهة الأعلى، ويسلم الرد دون تغيير.
يحاسبك المزود بناءً على ما يصل إليه، لكن الفاتورة تعتمد على الرموز التي تمت إزالتها، وأسعار التخزين المؤقت الخاصة بها، وعدد الجولات التي يقوم بها الوكيل. هذه هي الفكرة الأساسية. إنها ادعاء مختلف عن "سياقك يدوم لفترة أطول"، وهذا هو سبب كون هذه الأداة مثيرة للاهتمام بدلاً من كونها مجرد أداة تنظيم.
المشروع لا يزال في بداياته. تم طرح البوابة كمصدر مفتوح في 15 يوليو 2026، وتعود تواريخ إصدارات PyPI للنسخة v1.3.14 إلى 6 أكتوبر 2026، والنسخة v1.3.0 إلى 5 أغسطس. الأوزان ورمز البوابة مرخصان بموجب Apache 2.0. نموذج الضغط هو مهايئ LoRA (تكييف منخفض الرتبة) على Qwen3-4B-Instruct-2507، تم استخلاصه من مجموعة تضم 45,000 مقطع مأخوذة من مسارات وكلاء برمجة حقيقية، منها 40,606 اجتازت التحقق من المعلم وأصبحت أمثلة للتدريب.
لماذا لا يُعد هذا تقليماً للسياق
التقليم يحذف البيانات نهائياً. عندما يقترب الوكيل من حد السياق الخاص به ويحذف أقدم الجولات، فإن الملف الذي قرأه في الجولة 3 يختفي. إذا احتاج إلى ذلك الملف في الجولة 20، فإنه يقرأ الملف مرة أخرى، لذا فأنت تدفع ثمن تلك الرموز (tokens) مرة ثانية. كان التوفير مجرد قرض.
يستبدل Paritok جزءاً ما بصيغة أقصر مع وسم، [REF:id]، ويحتفظ بالنص الكامل على الوكيل (proxy). يستعيد النموذج الجزء المطلوب عن طريق استدعاء read_original أو expand_context. هذا يغير نمط الفشل. يفشل المقلم (trimmer) عن طريق النسيان، ولا يخبرك بذلك أبداً. بينما يفشل الضاغط (compressor) عن طريق تقديم مقتطف ناقص للنموذج، ويمكن للنموذج طلب النص الأصلي عندما لا يكون المقتطف كافياً.
تظل مخططات الأدوات المفلترة قابلة للاسترداد، لكن المرشح التكيفي الافتراضي يسقط الأدوات القياسية غير المحددة ويسقط أدوات MCP غير المحددة ما لم يتم تفعيل إشارة أهمية MCP الخاصة بها. عندما يتم تفعيل تلك الإشارة، يتم تحويل أدوات MCP غير المحددة إلى "كعب" (stub). يدعم gateway_search_tools الاسترداد، كما تكتشف البوابة (gateway) رسائل الأدوات المفقودة وتقوم بحقن الأدوات المطابقة قبل إعادة المحاولة. هذا أمر مهم لأن المرشح الذي يخفي أداة بشكل دائم يغير ما يستطيع وكيلك القيام به، وستعرف ذلك من خلال مهمة فشلت بصمت.
الرافعات الثلاث، وأيّها مجاني
الرافعة الأولى هي مرشح مخطط الأدوات. يحمل كل طلب مصفوفة tools كاملة. في دورة Claude Code التي لا تتصل فيها أي خوادم MCP (بروتوكول سياق النموذج)، يقيس المشروع هذه الكتلة بنحو 29,000 token؛ وعند الاتصال بخوادم MCP، يذكر أنها تتراوح بين 44,000 و65,000 token. يضمّن المرشح طلب المستخدم ووصف كل أداة باستخدام BAAI/bge-small-en-v1.5، وهو نموذج تضمين حجمه 130 MB، ثم يُبقي الأدوات المطابقة، ويحذف الأدوات القياسية غير المحددة، وينشئ تمثيلات بديلة لأدوات MCP غير المحددة فقط عندما تُفعّل إشارة الصلة بـMCP. وإلا فإنه يحذف أدوات MCP تلك أيضاً. في مثال المشروع الذي يبلغ 29,000 token، تنخفض الكتلة إلى نحو 8,000 token. يعمل نموذج التضمين هذا على CPU.
الرافعة الثانية هي ضغط المحتوى، وهي الجزء الذي يستخدم نموذج 4B على GPU أو عبر Ollama على CPU. تُختصر قراءات الملفات ومخرجات الأدوات وسجل المحادثة إلى 25.7% من حجمها الأصلي. يختار النموذج المقاطع أساساً بدلاً من إعادة كتابتها، مع السماح بإعادة كتابة محدودة لمحتوى مثل ملخصات الاستدلال وتأطير استدعاءات الأدوات. تقيس ورقة المشروع نسبة 96.0% من المعرّفات والمسارات والأرقام الناتجة التي تظهر حرفياً في الإدخال ضمن مجموعة التدريب التي أنشأها المعلّم؛ وتحصل مخرجات النموذج المدرّب من SWE-bench Lite، ضمن البيانات المحجوزة للاختبار، على 96.2% في التدقيق نفسه. من هنا تأتي نسبة 74% المذكورة في العنوان. اقرأ ذلك بعناية: تمثل 74% نسبة ضغط المحتوى الذي يُضغط، وليست مقدار الخفض في فاتورتك.
الرافعة الثالثة هي تلخيص السجل. افتراضياً، عندما يتجاوز السياق 80% من النافذة المُعدّة، تُلخّص الدورات الأقدم بينما تبقى آخر أربع دورات كاملة، بحيث تستمر الجلسة الطويلة بدلاً من بلوغ الحد.
لا تحتاج إلى GPU للاستضافة الذاتية. هذه أهم جملة في هذه الصفحة. يوفّر لك pip install "paritok[toolselect]" مرشح الأدوات على VPS عادي يعمل بـCPU، من دون رسوم لكل token. جرّبه قبل استئجار بطاقة.
ما الذي قاسه المشروع، وعلى أي بيئة اختبار
البيانات وراء هذا الرسم البياني
[
{
"label": "Paritok-4B-v1",
"compressed_to_pct": 25.7,
"quality_retained_pct": 86.5
},
{
"label": "gpt-4.1-mini",
"compressed_to_pct": 50.2,
"quality_retained_pct": 85.6
},
{
"label": "gpt-5",
"compressed_to_pct": 61.9,
"quality_retained_pct": 93.6
}
]هذه أرقام المشروع المنشورة، وقد قاسها باستخدام بيئة الاختبار الخاصة به مقابل SWE-bench Lite. يضغط Paritok-4B-v1 المحتوى إلى 25.7% من حجمه الأصلي، مع الحفاظ على 86.5% من معدل الحل غير المضغوط. ويؤدي استخدام gpt-5 ضاغطاً إلى الحفاظ على جودة أكبر، بنسبة 93.6%، لكنه يضغط المحتوى إلى 61.9% فقط، ما يعني أنك ستدفع أسعار النماذج المتقدمة لكي توفّر أسعار النماذج المتقدمة.
اقرأ عمود الجودة بدقة. الجودة المحتفظ بها هي معدل حلول الضاغط مقسوماً على معدل الحل الأساسي غير المضغوط. يعني الحفاظ على 86.5% انخفاضاً صافياً قدره 13.5% في عدد الحلول مقارنة بذلك الخط الأساسي؛ ولا يعني نسبة المشكلات التي حُلّت في الخط الأساسي ثم فشلت، لأن عمليات التشغيل المضغوطة قد تحل أيضاً مشكلات مختلفة. يقيس هذا الرقم فهم المصدر الخام المضغوط في محاولة واحدة، مع تعطيل الاستدعاء وتفعيل استعادة التعديلات في بيئة الإنتاج؛ ولا يقيس مرشح مخطط أدوات CPU أو البوابة الكاملة متعددة الأدوار.
البيانات وراء هذا الرسم البياني
[
{
"label": "Turn 1",
"saved_pct": 25
},
{
"label": "Turn 5",
"saved_pct": 39
},
{
"label": "Turn 12",
"saved_pct": 57
},
{
"label": "Turn 20",
"saved_pct": 63
}
]يزداد التوفير من طرف إلى طرف مع استمرار الجلسة، لأن السجل التراكمي يزداد، وهو الجزء الذي يجري ضغطه. يذكر المشروع توفيراً يقارب 25% في دور واحد، و39% بحلول الدور 5، و63% بحلول الدور 20. لا تشمل القياسات سوى الأدوار من 1 إلى 5؛ ويضع README صفوف الأدوار اللاحقة تحت تصنيف التوقعات. ويوضح README أيضاً متى يتوقف النمو: فعلى ميزانية قدرها 200,000 رمز، يستقر توفير المحتوى لكل دور عند نحو 48,000 رمز، في مكان ما بين الدورين 8 و12، لأن السجل يتوقف عن النمو بعد امتلاء السياق. ويضيف التوفير المنفصل لمرشح الأدوات نحو 21,000 رمز لكل دور، ما يجعل الاستقرار المشترك المتوقع نحو 69,000 رمز لكل دور. ويصف الرقم الشائع الاقتباس منه، «أكثر من 85%»، الجلسات التي امتلأ سياقها. هذه أفضل حالة، ويذكر README نفسه أن التوفير يستقر باتجاه حد أقصى يقارب 72% في الإعدادات الافتراضية، لذلك لا تخطط بناءً عليه.
هل تستحق وحدة معالجة الرسوميات (GPU) بسعة 24GB تكلفة Paritok؟
وحدة معالجة الرسوميات اختيارية، حيث يعمل النموذج على بطاقات بسعة أقل من 24GB. لحساب تكلفة الاستئجار التوضيحية، لنفترض أن تكلفة البطاقة بسعة 24GB هي 0.44 دولار في الساعة. إذا تركتها تعمل طوال الشهر، أي 730 ساعة، فستكون التكلفة 321 دولاراً. أما إذا شغلتها فقط خلال ساعات العمل، أي 8 ساعات يومياً لمدة 22 يوماً، فستكون 176 ساعة، أي 77 دولاراً.
الآن، حوّل تقليل الرموز (tokens) إلى توفير مالي. ينطبق هذا التخفيض على رموز الإدخال. تمر رموز الإخراج عبر الـproxy دون تغيير، لذا لا يقوم الـproxy بضغطها. احسب التغيير في الإدخال الجديد، وعمليات الكتابة في الذاكرة المؤقتة، وقراءات الذاكرة المؤقتة بشكل منفصل، باستخدام أسعار مزود الخدمة الخاص بك، ثم قارن إجمالي تكلفة API قبل وبعد التغيير. حتى لو كان الإدخال يمثل 80% من إجمالي إنفاقك بالدولار، فإن ضرب نسبة تقليل الرموز في 0.8 لا يحدد مقدار التوفير في فاتورتك.
البيانات وراء هذا الرسم البياني
[
{
"label": "Always on (730 hours)",
"required_api_saving_usd": 321.2
},
{
"label": "Workday only (176 hours)",
"required_api_saving_usd": 77.44
}
]تغطي البطاقة التي تُترك قيد التشغيل تكاليفها بمجرد أن يتجاوز توفيرك الشهري المحسوب في فاتورة API مبلغ 321.2 دولار، أو 77.44 دولار إذا أوقفت المثيل (instance) خارج ساعات العمل. إن تقليل الرموز بنسبة 85% وحده لا يعني توفيراً في الفاتورة بنسبة 68%، لذا لا يمكن استخدامه لتحديد حد الإنفاق الشهري للوكيل. اقسم تكلفة الاستئجار على نسبة التوفير المحسوبة في فاتورتك للحصول على هذا الحد.
هناك أمران يجعلان هذا الخيار أفضل مما يشير إليه الرسم البياني. النموذج لا يحتاج إلى 24GB: إصدار q4 يستهلك حوالي 2.5GB وإصدار f16 حوالي 8GB، لذا فإن استخدام بطاقة أصغر، أو جهاز GPU تشغله بالفعل لغرض آخر، سيقلل كل الأرقام في ذلك الرسم. كما أن إيقاف المثيل عندما لا يكون هناك أحد يبرمج هو العامل الأكبر تأثيراً هنا، لأنه يقلل تكلفة الاستئجار بحوالي ثلاثة أرباع.
وهناك أمر واحد يجعل الأمر أسوأ. عملية الضغط تتطلب جهداً فعلياً. كل رمز يقوم نموذج 4B بضغطه هو رمز يجب عليه قراءته، وكل جزء يحتفظ به هو جزء يجب عليه كتابته مجدداً، مما يضيف تأخيراً (latency) إلى كل دورة للوكيل. على بطاقة تستأجرها بالساعة، تظهر هذه التكلفة في شكل وقت انتظار، وليس كبند في فاتورة، لذا يسهل تجاهلها حتى تشعر بها.
إذا كنت تقارن بين ساعات استئجار GPU وتكلفة رموز API بشكل عام، فإن نقطة التعادل بين خادم GPU افتراضي ورموز API تجري نفس الحسابات لعملية الاستنتاج (inference) ذاتها.
تشغيل بوابة Paritok على خادم افتراضي خاص (VPS)
تقبل بيانات الحزمة الوصفية على PyPI إصدار Python 3.10 أو أحدث، على الرغم من أن شارة ملف README تشير إلى 3.11+. يأتي Ubuntu 24.04 مزوداً بـ Python 3.12، لذا فإن صورة VPS قياسية تكفي لمرشح أداة المعالجة المركزية (CPU).
sudo apt update && sudo apt install -y python3-venv curl
python3 -m venv /opt/paritok/venv
source /opt/paritok/venv/bin/activate
pip install "paritok[proxy]==1.3.14"
pip install "paritok[toolselect]==1.3.14"ثبّت الإصدار. يؤرخ PyPI الإصدار v1.3.0 بتاريخ 5 أغسطس 2026 والإصدار v1.3.14 بتاريخ 6 أكتوبر 2026، والمشروع الذي يتطور بهذه السرعة يغير أسماء المكونات بين الإصدارات: فقد قام الإصدار v1.3.0 نفسه بإعادة تسمية expand_context إلى read_original في واجهة برمجة التطبيقات (API) الخاصة به. إن استخدام pip install paritok مجرداً، أو تنفيذ git clone لـ main، سيمنحك بوابة مختلفة في الأسبوع القادم ولن يترك سجلاً يوضح أي إصدار منها أنتج الأرقام التي قمت بقياسها.
الخلفية الافتراضية هي Ollama. اسحب النموذج، ثم امنحه الاسم المختصر الذي يبحث عنه الـ Proxy.
ollama pull paritok/paritok-4b-v1
ollama cp paritok/paritok-4b-v1 paritok-4b-v1بما أن النموذج المحلي يكتب النطاقات (spans) التي يحتفظ بها لكل مقطع يقوم بضغطه، فإن عملية الضغط التي تستغرق وقتاً طويلاً تظهر كدور وكيل (agent turn) متوقف، ويعد حد num_predict الخاص بـ Ollama لطول المخرجات هو المعيار الذي يضبط هذا الأمر.
اكتب paritok.yaml بجانبه. use_gpu_server: false هو ما يبقي عملية الضغط على عتادك الخاص.
use_gpu_server: false
local_model:
base_url: http://localhost:11434/v1paritok proxy --port 8080 --config-file paritok.yamlparitok up هو الاختصار لسحب النموذج إذا كان مفقوداً وتشغيل الـ Proxy على المنفذ 8080؛ يجب أن يكون Ollama مثبتاً بالفعل. افحص الـ Proxy قبل توجيه أي وكيل إليه.
curl http://127.0.0.1:8080/health
curl http://127.0.0.1:8080/statsيعيد /health كائن JSON صغيراً يحتوي على "status":"ok" وسلسلة نصية للإصدار. يعيد /stats إجمالي عمليات الضغط وتقدير الـ Proxy لما وفره. تعامل مع هذا التقدير كتقييم للـ Proxy لعمله الخاص، وقم بتأكيده مقابل صفحة الاستخدام الخاصة بمزود الخدمة.
للحصول على إنتاجية أعلى بدلاً من سهولة الاستخدام، يقوم vLLM بخدمة المحول (adapter) فوق النموذج الأساسي.
vllm serve Qwen/Qwen3-4B-Instruct-2507 \
--enable-lora \
--lora-modules paritok-4b-v1=paritok/paritok-4b-v1 \
--max-lora-rank 32 \
--port 8000يوجد العلم --max-lora-rank 32 في أمر المشروع نفسه لأن المحول من الرتبة 32. ثم اضبط local_model.base_url على http://localhost:8000/v1 في paritok.yaml ليتحدث الـ Proxy مع vLLM بدلاً من Ollama.
يتميز Ollama بسرعة الإعداد. بينما يتعامل vLLM مع الطلبات المتزامنة بشكل أفضل بكثير، وهو أمر يبدأ في اكتساب أهمية بمجرد مشاركة أكثر من وكيل واحد في نفس الخادم. الفرق العملي بين Ollama وvLLM هو ما سيحسم هذا القرار لك.
وجّه الوكيل إلى الـ Proxy باستخدام متغيرات بيئة عنوان URL الأساسي.
export ANTHROPIC_BASE_URL=http://127.0.0.1:8080
export OPENAI_BASE_URL=http://127.0.0.1:8080يتجاهل Codex CLI المتغير OPENAI_BASE_URL، لذا يقوم paritok up بكتابة ~/.codex/config.toml نيابة عنك عند ضبط codex.enabled: true في paritok.yaml. تصدير المتغير وحده يترك Codex يتحدث مباشرة مع المزود، وعلامة ذلك هي عداد /stats الذي لا يتحرك أثناء عملك.
اجعل المستمع (listener) على 127.0.0.1، ولا تستخدم 0.0.0.0 أبداً. يقوم الـ Proxy بإعادة توجيه بيانات الاعتماد المقدمة مع كل طلب إلى الجهة الأعلى، كما أن نقطة النهاية /stats غير الموثقة تعرض عينات من المحتوى الأصلي والمضغوط، لذا فإن المستمع المفتوح على الإنترنت يعرض سياقاً خاصاً وموارد ضغط محلية. اتصل به من حاسوب محمول عبر نفق SSH أو VPN بدلاً من فتح المنفذ.
شغّله تحت systemd لضمان استمراره بعد إعادة التشغيل. عدّل المسارات لتطابق تثبيتك. أنشئ المستخدم paritok الذي تعمل الوحدة باسمه، وامنحه دليل التثبيت:
sudo useradd --system --home-dir /opt/paritok --shell /usr/sbin/nologin paritok
sudo chown -R paritok:paritok /opt/paritok[Unit]
Description=Paritok compression proxy
After=network-online.target
[Service]
User=paritok
WorkingDirectory=/opt/paritok
ExecStart=/opt/paritok/venv/bin/paritok proxy --port 8080 --config-file /opt/paritok/paritok.yaml
Restart=on-failure
[Install]
WantedBy=multi-user.targetفعّله باستخدام sudo systemctl enable --now paritok، ثم نفذ curl على /health مرة أخرى. الوحدة التي تبدأ ثم تتوقف فوراً تعني عادةً أن مسار ملف الإعداد خاطئ، ويقوم journalctl -u paritok -n 50 بطباعة السبب.
الخيار المُستضاف وتكاليفه
يُقدّم المشروع أيضاً خدمة الضغط كخدمة (SaaS). اضبط use_gpu_server: true باستخدام مفتاح API من paritok.com، وسيعمل نموذج 4B على أجهزتهم. اعتباراً من 2 نوفمبر 2026، تبلغ تكلفة الخدمة 0.30 دولار لكل مليون رمز (token) ملف يتم ضغطه، وتُخصم من رصيد مدفوع مسبقاً، بينما تُعد تصفية مخطط الأدوات (tool-schema filtering) مجانية. تحصل الحسابات الجديدة على رصيد مجاني بقيمة 5 دولارات دون الحاجة لبطاقة ائتمان. انتهت فترة الإطلاق التي كانت فيها الخدمة المُستضافة مجانية في 1 أكتوبر 2026، لذا فهي الآن خدمة مدفوعة. هذا يعفيك من عبء استضافة نموذج الضغط، بينما تظل أنت المسؤول عن تشغيل البوابة (gateway).
يعني هذا أيضاً أن مطالباتك (prompts) والملفات التي يقرؤها وكيلك تغادر جهازك وتصل إلى طرف ثالث قبل أن تصل إلى مزود النموذج الخاص بك. وُجدت الاستضافة الذاتية لتجنب هذه الخطوة تحديداً. قرر ما الذي تحاول تحسينه قبل ضبط هذا الخيار، لأن تغيير الخيار يتطلب سطراً واحداً فقط، بينما تبعاته ليست كذلك.
كيف تقيس أداءك قبل وبعد الاستخدام
الأرقام المنشورة هي أرقام المشروع، ومستمدة من بيئة الاختبار الخاصة به على منصة SWE-bench Lite. مستودعك البرمجي ليس SWE-bench Lite، لذا عليك قياس أرقامك بنفسك.
- شغّل أسبوع عمل طبيعي دون وجود Proxy في المسار. سجّل عدد الرموز (tokens) لكل من المدخلات (input)، والكتابة في الذاكرة المؤقتة (cache-write)، والقراءة منها (cache-read)، والمخرجات (output) كسطور منفصلة من صفحة الاستخدام الخاصة بمزود الخدمة، وليس كمبلغ إجمالي بالدولار.
- شغّل الأسبوع التالي مع وجود الـProxy في المقدمة، أثناء القيام بنفس نوع العمل.
- قارن فئات المدخلات بأسعارها الفعلية، وأدرج أي تغيير في تكلفة المخرجات. لا يقوم الـProxy بضغط المخرجات، لكن التغييرات في سلوك الوكيل (agent) وعدد دورات العمل تؤثر على كمية المخرجات التي تشتريها.
- أحصِ المهام التي اضطررت لإعادتها. هذا هو الجزء المتعلق بالجودة في المعادلة، ولا توجد لوحة تحكم في أي مكان تبلغ عنه.
- أضف ساعات استخدام وحدة معالجة الرسوميات (GPU) إلى الأسبوع الثاني قبل مقارنة الإجماليات.
فصل المدخلات عن المخرجات أمر مهم لأن كلاً منهما يُسعّر بشكل مختلف تماماً، وعملية الضغط لا تؤثر إلا على أحدهما. اعتباراً من 2 نوفمبر 2026، تبلغ تكلفة Claude Sonnet 4.6 مبلغ 3 دولارات لكل مليون رمز مدخلات و15 دولاراً لكل مليون رمز مخرجات، وتكلفة قراءة الذاكرة المؤقتة للمطالبات (prompt-cache) هي 10% من سعر المدخلات، أي 0.30 دولار لكل مليون. أما الإصدار الأحدث Claude Sonnet 5.5 فيكلف 2 دولار و10 دولارات على التوالي، وتكلفة قراءة الذاكرة المؤقتة فيه هي 5% من سعر المدخلات، أي 0.10 دولار لكل مليون. الفجوة بين تكلفة رمز المدخلات والمخرجات هي التي تحدد ما إذا كان ضاغط جانب المدخلات ذا قيمة لك. أين تذهب رموز Claude Code فعلياً يوضح لك أي جزء من سياقك كبير بما يكفي لتكبد عناء ضغطه.
تزيد الذاكرة المؤقتة للمطالبات (prompt caching) من تعقيد حسابات تصفية الأدوات (tool-filter) بشكل خاص. توضع كتلة الأدوات في مقدمة الطلب، لذا بعد الدورة الأولى تكون عادةً مطابقة في الذاكرة المؤقتة (cache hit)؛ وهذا يكلف في Sonnet 4.6 ما يعادل 10% من سعر المدخلات. إن تقليل 21,000 رمز من كتلة مخزنة مؤقتاً يوفر 21,000 رمز بسعر 0.30 دولار لكل مليون، أي حوالي 0.006 دولار لكل دورة، بدلاً من 0.063 دولار التي قد يوحي بها السعر غير المخزن مؤقتاً. يحافظ المشروع على الكتلة المفلترة مجمدة طوال الجلسة حتى لا تتغير البادئة المخزنة مؤقتاً. إن استخدام أداة تختار الأدوات مجدداً في كل دورة سيؤدي إلى إبطال تلك البادئة وقد يكلفك أكثر مما يوفره.
ما الذي لا يزال غير مُثبَت
تأتي كل أرقام الأداء المذكورة أعلاه من المشروع نفسه. يوجد فحص مستقل لضغط النصوص الاصطناعية، لكنه لا يختبر صراحةً نجاح مهام SWE-bench؛ لذا تظل أرقام جودة الحل في SWE-bench Lite الخاصة بالمشروع غير مؤكدة بشكل مستقل. مع جعل البوابة مفتوحة المصدر في يوليو 2026، لا يوجد أيضاً سوى القليل من التاريخ التشغيلي لهذا الكود. يتم قياس كل من معدل الضغط ورقم الجودة المحتفظ بها من قبل الطرف المستفيد من ظهورها بمظهر جيد. هذا لا يعني أنها خاطئة، بل يعني أنها غير مؤكدة، وعليك التعامل معها بحذر مختلف عن الأرقام التي تنتجها بنفسك.
هناك سلوك موثق واحد يستحق المعرفة قبل أن تلوم إعداداتك. نموذج التضمين (embedding model) الذي يستخدمه فلتر الأداة يتم تحميله عند الطلب الأول بدلاً من وقت التشغيل، لذا يوثق المشروع فترة إحماء تتراوح بين 10 إلى 15 ثانية، ثم حوالي 15 مللي ثانية لكل استدعاء بعد ذلك. أرسل طلباً تجريبياً واحداً بعد بدء الـproxy ولن يبدو أن دورة الوكيل (agent turn) الأولى الحقيقية الخاصة بك معلقة.
هناك أربعة أمور يمكنك حسمها بنفسك في فترة ما بعد الظهيرة: ما إذا كان الـproxy يبدأ ويظل يعمل، وما إذا كان /stats يتحرك أثناء عملك، وما إذا كان خط استهلاك الـtokens الخاص بمزود الخدمة ينخفض فعلياً، وما إذا كان الوكيل لا يزال ينهي العمل. هذه الأمور تحسم الأمر لإعداداتك بشكل أفضل بكثير من أي معيار قياسي منشور.
فيما يتعلق بموقع هذه الأداة بجانب أدواتك الأخرى: تقوم بوابة LiteLLM ذاتية الاستضافة بتوجيه وقياس الطلبات دون تغيير محتواها، لذا تعالج الأداتان مشكلتين مختلفتين ويمكن ربطهما معاً، بحيث يكون Paritok هو الأقرب للوكيل. إذا كان الهدف الحقيقي هو تقليل الفاتورة بدلاً من استخدام هذه الأداة تحديداً، فإن مجموعة أوسع من ضوابط التكلفة لوكيل على خادم VPS تتضمن عدة تغييرات لا تكلف شيئاً لتجربتها أولاً.
FAQ
هل يقلل Paritok فاتورة API لدي أم يقلل استخدام السياق فقط؟
يقلّص الطلب قبل وصوله إلى المزوّد؛ ويعتمد مقدار التوفير في الفاتورة على أسعار الرموز التي أزيلت وعدد أدوار الوكيل الناتج. حجم هذا التقليص أقل مما يوحي به الرقم المعلن. تبلغ نسبة 74% معدل الضغط للمحتوى الذي يجري ضغطه. وعلى امتداد العملية كاملة، يذكر المشروع نسبة تقارب 25% في دور واحد، ويتوقع وصول التوفير في رموز الإدخال إلى 63% بحلول الدور 20. تمر رموز الإخراج من دون تغيير، لكن مقدار النص المُولَّد يظل معتمداً على سلوك الوكيل.
ما مقدار GPU الذي أحتاج إليه لاستضافة نموذج الضغط بنفسي؟
استخدام GPU اختياري؛ إذ يشغّل Ollama النموذج على CPU أيضاً. يبلغ حجم إصدار q4 نحو 2.5 GB، وإصدار f16 نحو 8 GB، لذلك يتسع النموذج داخل بطاقة بسعة 24 GB مع مساحة كبيرة متبقية. وتعمل بطاقة أصغر، كما تجعل حساب نقطة التعادل في صالحك. لا يحتاج مرشح مخطط الأدوات إلى GPU مطلقاً؛ فهو يستخدم BAAI/bge-small-en-v1.5، وهو نموذج تضمين حجمه 130 MB ويعمل على CPU. ثبّت paritok[toolselect] على VPS عادي، وستحصل على تقليص كتل الأدوات مقابل قدر قليل من RAM.
ماذا يحدث إذا أزال الضاغط شيئاً يحتاج إليه الوكيل؟
لا يُفقد شيء نهائياً. يحذف النموذج مقاطع من المحتوى الذي يُمرَّر، لكن المقاطع المضغوطة تحمل وسم [REF:id]، ويستعيد النموذج النص الكامل باستخدام read_original أو expand_context. يسقط مرشح الأدوات الافتراضي الأدوات القياسية غير المحددة، ويسقط أدوات MCP غير المحددة ما لم تُفعَّل إشارة صلة MCP، وفي هذه الحالة ينشئ تمثيلاً مختصراً لتلك الأدوات. يستخدم استرداد الأدوات gateway_search_tools واكتشاف رسائل الأدوات المفقودة. الخطر الفعلي أكثر هدوءاً من فقدان ملف: يعمل النموذج اعتماداً على مقتطف فاقد للمعلومات، ولا يدرك مطلقاً أنه ينبغي أن يطلب النص الأصلي. تقيس نسبة الاحتفاظ بالجودة البالغة 86.5% على SWE-bench Lite الفهمَ في طلب واحد للمصدر الخام المضغوط، مع تعطيل الاسترداد وتمكين استرداد التعديلات في الإنتاج؛ ولا تقيس مرشح مخطط الأدوات على CPU أو البوابة الكاملة متعددة الأدوار.
لماذا يستغرق طلبي الأول 15 ثانية؟
يُحمَّل نموذج التضمين الذي يقف وراء مرشح الأدوات عند الطلب الأول بدلاً من تحميله عند بدء التشغيل. يوثّق المشروع زمناً للتهيئة من 10 إلى 15 ثانية، ثم نحو 15 ms لكل استدعاء بعد ذلك. أرسل طلباً تجريبياً يمكن تجاهله باستخدام curl بعد تشغيل الـproxy، ولن يتوقف دور الوكيل الفعلي الأول.
هل ينبغي أن أستخدم خادم GPU المستضاف بدلاً من الاستضافة الذاتية؟
يلغي ذلك استضافة نموذج الضغط وتكلفة استئجار GPU، بينما تظل مسؤولاً عن صيانة البوابة. اعتباراً من 2 November 2026، تبلغ التكلفة $0.30 لكل مليون رمز ملف مضغوط، وتُدفع من رصيد مسبق الدفع، مع رصيد مجاني قدره $5 للحسابات الجديدة؛ وانتهت فترة الإطلاق المجانية في 1 October 2026. كما يرسل مطالباتك والملفات التي يقرأها وكيلك إلى طرف ثالث قبل وصولها إلى مزوّد النموذج لديك. إذا كنت تستضيف الخدمة ذاتياً لإبقاء الشيفرة على بنية تحتية تسيطر عليها، فإن هذا الخيار يلغي سبب البدء بذلك. تُبقي الاستضافة الذاتية الضغط على جهازك؛ لكن الطلبات المضغوطة وبيانات اعتماد المزوّد تظل تُرسل إلى مزوّد النموذج لديك.