كيف تستضيف نموذج Kolibri-1 ذاتياً؟ المتطلبات والعتاد

Kolibri-1 ذاتياً: الإجابة المختصرة

يمكنك استضافة Kolibri-1 ذاتياً، لكن ليس على VPS عادي. تنشر Aleph Alpha من هايدلبرغ النموذج بموجب Apache 2.0. يبلغ حجم الأوزان بتنسيق FP8 نحو 78 GB. الطريقة الرسمية هي استخدام vLLM على H200 واحدة على الأقل، أو على بطاقتي رسوميات بسعة 80 GB لكل منهما. لا توجد طريقة رسمية لاستخدام CPU أو GGUF أو llama.cpp أو Ollama.

يهتم كثير من القراء في ألمانيا بسؤال أساسي: هل تبقى البيانات داخل المؤسسة؟ نعم، يتيح Kolibri-1 ذلك، ولا تمنع الرخصة هذه الحالة. العائق هو العتاد.

حالة المعلومات: تستند جميع المعلومات هنا إلى Model Card الخاصة بـ Aleph-Alpha/Kolibri-1 في المراجعة e52eb4627d11516b0c01de49210ab5a4e4061444 (Hugging Face، 3 أكتوبر 2026)، وإلى الحزمة aleph-alpha-inference في الإصدار 1.0.0. جرى التحقق منها آخر مرة في 13 أكتوبر 2026. قد تذكر المراجعات اللاحقة أرقاماً مختلفة. تحقّق منها قبل استئجار العتاد أو شرائه.

ما تحدده بطاقة النموذج (Model Card) حول Kolibri-1

• البنية: MoE (خليط من الخبراء). يتكون النموذج من شبكات فرعية عديدة تُسمى الخبراء. يتم معالجة عدد قليل منها فقط لكل Token.
• الحجم: 78 مليار معامل إجمالاً، منها 3,46 مليار معامل نشط لكل Token. يتكون النموذج من 50 طبقة، تحتوي كل منها على 384 خبيراً، يتم اختيار 6 منهم لكل Token.
• السياق: 262.144 Token بشكل أصلي. وفقاً للبطاقة، تم التحقق من جودة الأداء حتى 1.048.576 Token.
• الأوزان: بتنسيق FP8 (أرقام الفاصلة العائمة بـ 8 بت) في float8_e4m3fn، ضمن كتل بحجم 128×128. أما الـ Embedding والـ LM-Head فهما بتنسيق bfloat16. إجمالاً، يبلغ حجم النموذج حوالي 78 جيجابايت وفقاً للبطاقة. حجم المستودع نفسه هو 78,9 جيجابايت.
• بيانات التدريب: 62,5% باللغة الإنجليزية، 23,9% باللغة الألمانية، و13,6% برمجيات، مع 20 تريليون Token في مرحلة التدريب المسبق. بالإضافة إلى ذلك، يوجد Tokenizer مصمم خصيصاً لهيكلية اللغة الألمانية وفقاً للبطاقة.
• الترخيص: Apache 2.0. المستودع غير مقيد (not gated). لذا، لا تحتاج إلى طلب وصول.

تكمن النقطة الأهم في السطرين الأولين. تعني الـ 3,46 مليار معامل نشط أن هناك عبئاً حسابياً منخفضاً لكل Token. ومع ذلك، يعتمد احتياج الذاكرة على جميع المعاملات البالغ عددها 78 ملياراً. يختار الموجه (Router) خبراء مختلفين لكل Token. لذلك، يجب أن تظل جميع بيانات الخبراء في ذاكرة الرسوميات (VRAM) في جميع الأوقات. يعمل نموذج MoE إذاً كنموذج صغير، لكنه يستهلك ذاكرة نموذج كبير.

يتمتع الـ Tokenizer أيضاً بتأثير عملي. يقوم الـ Tokenizer بتقسيم النص إلى Token. إذا كان غير متوافق مع اللغة، فسيتم تقسيم الكلمة الألمانية الطويلة إلى أجزاء صغيرة كثيرة. هذا يستهلك من مساحة السياق ووقت المعالجة. الـ Tokenizer المصمم للغة الألمانية يحتاج إلى عدد أقل من الـ Token لنفس النص.

أرقام القياس (Benchmark) في البطاقة

تذكر Aleph Alpha قيمتين إجماليتين للنموذج الذي خضع للتدريب الإضافي. هذه الأرقام ناتجة عن تقييم الشركة المصنعة نفسها، وليست من اختبار مستقل.

[
  {
    "label": "Deutsch (Overall DE)",
    "overall": 70.8
  },
  {
    "label": "Englisch (Overall EN)",
    "overall": 75.5
  }
]

باللغة الألمانية، يحقق Kolibri-1 وفقاً للبطاقة 70.8 نقطة، وباللغة الإنجليزية 75.5. هذا يعني أن النموذج أقوى قليلاً باللغة الإنجليزية. وحدها التجارب باستخدام وثائقك الخاصة ستحدد ما إذا كان كافياً لمهامك.

ما تغير مقارنة بـ Pharia

كانت سلسلة النماذج السابقة من Aleph Alpha تسمى Pharia. كانت بطاقة Pharia-1-LLM-7B-control تشير إلى ترخيص Open Aleph License. كان هذا الترخيص يسمح بالبحث والتعليم غير التجاري فقط. للاستخدام التجاري، كان يجب عليك التواصل مع Aleph Alpha مباشرة. في المقابل، يخضع Kolibri-1 لترخيص Apache 2.0. يمكنك بالتالي استخدام النموذج في شركتك وتوزيعه بعد تعديله، طالما أنك ترفق نص الترخيص والملاحظات المطلوبة.

ما هي وحدة معالجة الرسوميات (GPU) التي يحتاجها Kolibri-1؟

تحدد البطاقة التقنية مستويين. الحد الأدنى: 2× A100 80 GB، أو 2× H100 SXM5، أو 1× H200، أو 1× B200، أو 1× B300. الموصى به: 2× H100 SXM5، أو 2× H200، أو 1× B200، أو 1× B300.

لماذا لا تكفي بطاقة H100 واحدة؟ الحساب بسيط. اطرح الأوزان من ذاكرة الرسوميات، أي الـ VRAM (ذاكرة الوصول العشوائي للفيديو). ما يتبقى يحتاجه vLLM بشكل أساسي من أجل KV-Cache. يقوم الـ KV-Cache بتخزين المفاتيح والقيم (keys و values) لطبقات الانتباه (Attention) لكل رمز (token) في السياق. بدون هذا المخزن، لا يمكن للنموذج الاحتفاظ بالسياق.

[
  {
    "config": "1\u00d7 H100 80 GB",
    "vram_gb": 80,
    "gewichte_gb": 79,
    "rest_gb": 1
  },
  {
    "config": "1\u00d7 H200",
    "vram_gb": 141,
    "gewichte_gb": 79,
    "rest_gb": 62
  },
  {
    "config": "2\u00d7 A100 80 GB",
    "vram_gb": 160,
    "gewichte_gb": 79,
    "rest_gb": 81
  },
  {
    "config": "2\u00d7 H100 SXM5",
    "vram_gb": 160,
    "gewichte_gb": 79,
    "rest_gb": 81
  },
  {
    "config": "2\u00d7 H200",
    "vram_gb": 282,
    "gewichte_gb": 79,
    "rest_gb": 203
  }
]

تمتلك بطاقة H100 سعة 80 GB، وتشغل الأوزان 79 GB. حسابياً، يتبقى 1 GB. هذا لا يكفي لأي سياق مفيد. تترك بطاقة H200 مساحة قدرها 62 GB، بينما تترك بطاقتان H200 مساحة 203 GB. الاحتياطي الفعلي أصغر من ذلك. يستخدم vLLM افتراضياً 92% فقط من ذاكرة الرسوميات (--gpu-memory-utilization، القيمة الافتراضية 0.92 في vLLM 0.29.0)، كما تحتاج عمليات التنشيط (activations) إلى مساحة أيضاً. هذه القيم هي تقديرات تقريبية وليست قياسات دقيقة.

تخفف خاصيتان في البنية المعمارية من الضغط على الـ KV-Cache. أولاً، يجمع Kolibri-1 وفقاً للبطاقة التقنية بين طبقات تستخدم Sliding-Window-Attention وطبقات تستخدم الانتباه الكامل بنسبة 4:1. تخزن طبقة Sliding-Window رموز نافذة ثابتة فقط. لذلك، لا ينمو مخزنها المؤقت مع كامل طول السياق. ثانياً، توصي البطاقة باستخدام --kv-cache-dtype fp8. وبذلك، يشغل كل إدخال في المخزن نصف الذاكرة مقارنة بـ 16 بت. ومع ذلك، تستمر طبقات الانتباه الكامل في النمو مع كل رمز إضافي. عند الوصول إلى 262.144 رمزاً، يصبح الأمر ضيقاً على بطاقة H200 واحدة.

لماذا لا يستطيع VPS عادي تشغيل Kolibri-1

تنشر Aleph Alpha طريقة الاستخدام عبر vLLM مع GPU فقط. لا تذكر الـCard تشغيل النموذج على CPU، ولا GGUF أو llama.cpp أو Ollama. لا يحتوي VPS عادي يعمل على CPU على ذاكرة رسوميات. لذلك يفتقد المتطلبات الأساسية لهذه الطريقة.

مع ذلك، توجد على Hugging Face تحويلات إلى GGUF من إنشاء المجتمع. أظهر البحث عن «kolibri-1 gguf» في 6 أكتوبر 2026 ثمانية مستودعات لـKolibri-1، وأصبح عددها في 13 أكتوبر 2026 أحد عشر مستودعاً. يبلغ حجم ملف Q4_K_M نحو 47,5 GB، ومن الناحية الحسابية يمكن أن يتسع له خادم مزود بـ64 GB من RAM. لكن المستودعات التي فحصناها في 6 أكتوبر 2026 تذكر صراحةً أن llama.cpp العادي لا يعرف البنية kolibri1. تحتاج إلى إصدار مُرقّع عند commit محدد. ولم يتغير ذلك حتى 13 أكتوبر 2026: لا يوجد في llama.cpp سوى Feature Request مفتوح واحد متعلق بـKolibri-1. اختبر بعض المطورين السياقات الطويلة فعلاً. يذكر Prompt48 أنه استعاد معلومة اختبارية محددة (Needle) بدقة عند 195.935 Token باستخدام Q4_K_M على A100، وعند 718.803 Token مع سياق موسّع. واستعاد Hob-forge ثلاث حقائق مخفية عند ما يصل إلى 253.646 Token، في تشغيل باستخدام -c 262144. هذه اختبارات استرجاع وليست اختبارات أداء. ويذكر Prompt48 وHob-forge صراحةً عدم وجود مقارنة أداء مع النسخة الأصلية بتنسيق FP8. لذلك لا يصلح هذا أساساً لبيانات الشركات. إنه مجرد تجربة.

يشرح الدليل الذي يوضح حجم LLM المناسب لسعة RAM لديك خطوةً خطوةً مقدار RAM الذي يحتاج إليه النموذج مع كل أسلوب تكميم. ويوضح مقارنة Ollama وvLLM سبب كون vLLM الأداة المناسبة هنا: صُمّم vLLM لمعالجة طلبات متوازية كثيرة على وحدات GPU، بينما صُمّم Ollama لبدء تشغيل النماذج المكمّمة بسهولة.

تثبيت Kolibri-1 باستخدام vLLM

تحتاج إلى خادم Linux مزود ببطاقة رسوميات NVIDIA متوافقة مع تعريف مثبت. اقرأ نظرة عامة على خوادم VPS المزودة بـ GPU لمعرفة ما يجب مراعاته عند الاستئجار. تحقق أولاً من مواصفات الجهاز الفعلية:

nvidia-smi --query-gpu=name,memory.total --format=csv

يعرض المخرج اسم كل بطاقة وذاكرتها بـ MiB. يجب أن تبلغ بطاقة H100 حوالي 81.000 MiB، وبطاقة H200 حوالي 143.000 MiB. إذا لم يعرض الأمر أي تعريف، فهذا يعني أن تعريف NVIDIA غير مثبت، وبالتالي لن يتمكن vLLM من العثور على أي GPU.

بعد ذلك، أنشئ بيئة Python خاصة بك. تقوم الحزمة بجلب vLLM وPyTorch ضمن نطاقات إصدار محددة. استخدام بيئة منفصلة يضمن عدم تداخل هذه الحزم مع برامج أخرى على الخادم.

sudo apt update && sudo apt install -y python3-venv
python3 -m venv ~/kolibri
source ~/kolibri/bin/activate
pip install 'aleph-alpha-inference==1.0.0'
pip show vllm aleph-alpha-inference

تحدد البطاقة pip install 'aleph-alpha-inference>=1'. هنا تم تثبيت الإصدار على 1.0.0، مما يمنع التحديثات اللاحقة من تغيير إعداداتك دون علمك. يتطلب الإصدار 1.0.0 لغة Python 3.10 أو أحدث، وإصدار vLLM بدءاً من 0.29.0 وحتى ما قبل 0.30.0. يجب أن يظهر pip show إصدار vLLM 0.29.x. هذه الحزمة هي إضافة (plugin) لـ vLLM، وتقوم بتسجيل المحللات (parsers) kolibri1 لعمليات الاستنتاج واستدعاء الأدوات. بدون هذه الإضافة، لن يتعرف vLLM على هذه الأسماء.

توفر Aleph Alpha أيضاً صورة حاوية (container image): ghcr.io/aleph-alpha/aleph-alpha-inference. إذا كنت تدير خوادم GPU باستخدام الحاويات، يمكنك استخدام هذا المسار.

تعطيل قياسات vLLM (Telemetrie)

يرسل vLLM إحصائيات استخدام مجهولة افتراضياً. إذا كان هدفك هو منع أي بيانات من مغادرة الخادم، قم بتعطيل ذلك قبل البدء:

export VLLM_NO_USAGE_STATS=1
export DO_NOT_TRACK=1

تشغيل الخادم

يتبع الأمر البطاقة، مع إضافتين: مراجعة (revision) ثابتة وربط بـ localhost.

vllm serve Aleph-Alpha/Kolibri-1 \
  --revision e52eb4627d11516b0c01de49210ab5a4e4061444 \
  --host 127.0.0.1 --port 8000 \
  --kv-cache-dtype fp8 \
  --reasoning-parser kolibri1 \
  --tool-call-parser kolibri1 \
  --enable-auto-tool-choice

يحدد --revision إصدار الأوزان (weights) الذي سيتم تحميله. بدون هذا الخيار، يقوم vLLM بتحميل الإصدار الحالي من main. إذا قامت Aleph Alpha بتغيير المستودع، سيتغير نموذجك عند التنزيل التالي. يجعل --host 127.0.0.1 واجهة برمجة التطبيقات (API) متاحة محلياً فقط. بدون هذا الخيار، يستمع vLLM على جميع واجهات الشبكة، وسيصبح المنفذ 8000 مفتوحاً بمجرد سماح جدار الحماية بذلك.

في حال وجود بطاقتي GPU، أضف --tensor-parallel-size 2. يقوم هذا الخيار بتوزيع كل طبقة على البطاقتين. بدونه، سيستخدم vLLM بطاقة واحدة فقط، ولن تتسع البطاقة الواحدة بسعة 80 جيجابايت للأوزان.

عند التشغيل الأول، يقوم vLLM بتنزيل حوالي 79 جيجابايت من Hugging Face إلى ~/.cache/huggingface. تأكد من توفر مساحة كافية على القرص لهذا الغرض ولبيئة Python. بعد نجاح التنزيل الأول، يمكنك منع أي اتصال إضافي بـ Hugging Face باستخدام export HF_HUB_OFFLINE=1. سيتم تحميل الأوزان حينها من الذاكرة المؤقتة المحلية فقط.

إذا لم تكن الذاكرة كافية للسياق الكامل البالغ 262.144 رمزاً (token)، فلن يبدأ vLLM. ستشير رسالة الخطأ إلى أن ذاكرة KV المؤقتة صغيرة جداً بالنسبة لطول التسلسل الأقصى. في هذه الحالة، حدد حداً أصغر، مثل --max-model-len 65536. لتشغيل السياق الموسع حتى 1.048.576 رمزاً، تستخدم البطاقة --max-model-len 1048576 و--hf-overrides '{"max_position_embeddings": 1048576}'. يتطلب ذلك ذاكرة أكبر بكثير ويجب استخدامه فقط على التكوينات الموصى بها.

التحقق من استجابة النموذج

بمجرد أن يشير السجل (log) إلى أن الخادم يعمل على المنفذ 8000، اختبر واجهة برمجة التطبيقات المتوافقة مع OpenAI:

curl http://127.0.0.1:8000/v1/models
curl http://127.0.0.1:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "Aleph-Alpha/Kolibri-1", "messages": [{"role": "user", "content": "Was ist die Hauptstadt von Frankreich?"}], "chat_template_kwargs": {"enable_thinking": false}}'

يجب أن يسرد الاستدعاء الأول Aleph-Alpha/Kolibri-1 كنموذج. يجب أن يعيد الاستدعاء الثاني ملف JSON يذكر فيه choices[0].message.content مدينة باريس. يقوم enable_thinking: false بإيقاف وضع التفكير لهذا الطلب، وهو مفعل افتراضياً. وفقاً للبطاقة، يؤثر reasoning_effort أيضاً بالقيمة none. بالنسبة لأخذ العينات (sampling)، توصي البطاقة بـ temperature=1.0 وtop_p=0.97 وtop_k=128.

للوصول من جهازك الخاص، لا تحتاج إلى منفذ مفتوح. يكفي استخدام نفق SSH:

ssh -L 8000:127.0.0.1:8000 user@dein-server

بعد ذلك، يمكنك الوصول إلى واجهة برمجة التطبيقات على جهازك عبر http://127.0.0.1:8000. إذا كنت تريد السماح لخدمات أخرى في الشبكة بالوصول، أضف --api-key وقم بإعداد Reverse Proxy مع TLS (أمن طبقة النقل) أمامه.

كم تبلغ تكلفة ساعة تشغيل Kolibri-1 باليورو؟

تتفاوت أسعار تأجير وحدات معالجة الرسوميات (GPU) بشكل كبير حسب المزوّد والمنطقة. تستخدم الحسابات أدناه فرضيتين، وفقاً لبيانات أكتوبر 2026: 3,50 يورو للساعة الواحدة لوحدة H200، و2,50 يورو للساعة لوحدة H100 SXM5، وذلك بنظام الدفع عند الطلب (on demand) وقبل إضافة ضريبة القيمة المضافة. قد تكون الأسعار لدى مزودي خدمات GPU المتخصصين أقل من ذلك، بينما تكون أعلى بكثير لدى مزودي الخدمات السحابية الضخمة (Hyperscalers) في مناطق الاتحاد الأوروبي. استخدم عروض الأسعار الخاصة بك، فآلية الحساب تظل ثابتة.

[
  {
    "plan": "1\u00d7 H200, rund um die Uhr",
    "eur_pro_stunde": 3.5,
    "stunden_pro_monat": 730,
    "eur_pro_monat": 2555
  },
  {
    "plan": "2\u00d7 H100 SXM5, rund um die Uhr",
    "eur_pro_stunde": 5,
    "stunden_pro_monat": 730,
    "eur_pro_monat": 3650
  },
  {
    "plan": "1\u00d7 H200, nur B\u00fcrozeit",
    "eur_pro_stunde": 3.5,
    "stunden_pro_monat": 176,
    "eur_pro_monat": 616
  }
]

يحتوي الشهر في المتوسط على 730 ساعة. إذا عملت وحدة H200 على مدار الساعة، فستبلغ تكلفتها 2555 يورو شهرياً. أما الخيار الموصى به باستخدام وحدتي H100 فيصل إلى 3650 يورو. إذا قمت بتشغيل الجهاز خلال ساعات العمل فقط، أي 8 ساعات على مدار 22 يوم عمل، وهو ما يعادل 176 ساعة، فستدفع 616 يورو. في المقابل، يتطلب كل تشغيل إعادة تحميل الأوزان (weights) إلى ذاكرة الرسوميات، وهي عملية تستغرق بضع دقائق.

متى يكون هذا الخيار مجدياً مقارنة بأسعار الـ API Token؟

لا تشير البطاقة إلى وجود API مستضاف لنموذج Kolibri-1 اعتباراً من أكتوبر 2026. لذا، فإن المقارنة بأسعار الـ Token تعني: تشغيل Kolibri-1 على وحدة GPU خاصة بك مقابل استخدام نموذج آخر عبر API. للحساب، نعتمد سعرين مفترضين لكل مليون Token، كمتوسط بين المدخلات والمخرجات: 0,50 يورو للنموذج الاقتصادي، و2 يورو للنموذج الأكثر تكلفة.

[
  {
    "plan": "1\u00d7 H200, rund um die Uhr",
    "mio_token_bei_0_50_eur": 5110,
    "mio_token_bei_2_eur": 1277.5,
    "token_pro_sekunde_bei_0_50_eur": 1944
  },
  {
    "plan": "2\u00d7 H100 SXM5, rund um die Uhr",
    "mio_token_bei_0_50_eur": 7300,
    "mio_token_bei_2_eur": 1825,
    "token_pro_sekunde_bei_0_50_eur": 2778
  },
  {
    "plan": "1\u00d7 H200, nur B\u00fcrozeit",
    "mio_token_bei_0_50_eur": 1232,
    "mio_token_bei_2_eur": 308,
    "token_pro_sekunde_bei_0_50_eur": 1944
  }
]

عند سعر 0,50 يورو لكل مليون Token، لا تغطي وحدة H200 تكاليفها في وضع التشغيل المستمر إلا بعد تجاوز 5110 مليون Token شهرياً. وهذا يعادل في المتوسط 1944 Token في الثانية، على مدار الساعة دون توقف. أما عند سعر 2 يورو لكل مليون Token، تنخفض العتبة لخيار ساعات العمل إلى 308 مليون Token. يجب عليك قياس ما إذا كانت بطاقة واحدة قادرة على تحقيق هذا المعدل من الإنتاجية بناءً على مزيج طول الطلب (prompt) وطول الإجابة الخاص بك. الحساب يوضح فقط حجم العمل الذي يجعل المقارنة منطقية.

توجد الطريقة التفصيلية التي تأخذ في الاعتبار معدل الاستخدام وفترات الخمول في حساب نقطة التعادل بين خادم GPU وخدمة API. بالنسبة لنموذج Kolibri-1، هناك نقطة إضافية لا يغطيها أي جدول. فمن يستضيف Kolibri-1 ذاتياً لأسباب تتعلق بالبيانات، غالباً لا يقارن التكلفة بـ API. إذا كانت الوثائق لا يمكنها مغادرة المؤسسة، فإن خيار الـ API مستبعد تماماً. عندها يصبح السؤال الحقيقي هو: هل تستأجر GPU في مركز بيانات داخل الاتحاد الأوروبي مع توقيع اتفاقية معالجة بيانات (AVV)، أم تشتري أجهزتك الخاصة؟ حتى الـ GPU المستأجرة تظل موجودة لدى طرف ثالث. وفقاً للائحة العامة لحماية البيانات (GDPR)، يُعد هذا "معالجة بيانات من قبل طرف خارجي" وليس تشغيلاً داخلياً.

متى يكون النموذج المحلي الصغير هو الإجابة الصادقة

يستحق Kolibri-1 العناء إذا كنت بحاجة إلى نقاط قوته. وفقاً لبطاقة النموذج، تشمل هذه القوة استدعاء الأدوات ومعالجة المستندات ذات السياق الطويل. يمكن لـ 262.144 رمزاً (token) استيعاب مجلد عقود كامل في طلب واحد. إذا كانت مهامك أقصر، فإن الحسابات تختلف.

بالنسبة لفرز رسائل البريد الإلكتروني أو التلخيصات القصيرة، غالباً ما يكفي نموذج يحتوي على 7 إلى 14 مليار معامل. عند كمّيته (quantized) إلى 4 بت، يعمل النموذج باستخدام Ollama على خادم VPS يعتمد على المعالج المركزي (CPU) بذاكرة وصول عشوائي تتراوح بين 16 و32 جيجابايت. هذا أبطأ من معالج الرسوميات (GPU)، لكنه كافٍ لبضع مئات من الطلبات يومياً. يوضح دليل استضافة Ollama ذاتياً على خادم VPS كيفية القيام بذلك. تكون التكاليف حينها مساوية لسعر الخادم الشهري العادي وليس فاتورة ساعات معالجة الرسوميات.

النموذج الصغير البديهي من نفس الشركة هو Pharia-1-LLM-7B-control. ومع ذلك، فإن ترخيصه، Open Aleph License، يسمح فقط بالأغراض غير التجارية وغير الإدارية وفقاً لنص الترخيص. لذا، فهو ليس حلاً للاستخدام داخل الشركات.

لا يمكنك اتخاذ قرار صادق إلا من خلال الاختبار. خذ 50 مهمة حقيقية من عملك اليومي. اطلب من Kolibri-1 حلها على معالج رسوميات مستأجر بالساعة، ومن نموذج صغير على خادم VPS يعتمد على المعالج المركزي. قارن الإجابات بعد ذلك. تكلفة بضع ساعات من الاختبار ضئيلة مقارنة بشراء عتاد خاطئ.

يوضح ما يلزم لاستضافة Kimi K3 ذاتياً كيف تختلف النتيجة مع نموذج مفتوح آخر. تساعد المقارنة في التقييم: ينتمي Kolibri-1، بوزن يبلغ حوالي 78 جيجابايت، إلى النماذج التي لا تزال تتسع على بطاقة واحدة.

FAQ

هل يُسمح لي باستخدام Kolibri-1 تجارياً؟

نعم. وفقاً لـModel Card، يتوفر Kolibri-1 بموجب Apache 2.0. يمكنك استخدامه داخل الشركة وإعادة توزيعه بعد تعديله، إذا أرفقت نص الرخصة والإشعارات المطلوبة. وهذا يميّز Kolibri-1 عن سلسلة Pharia السابقة: تذكر Card الخاصة بـPharia-1-LLM-7B-control رخصة Open Aleph License، التي تسمح، وفقاً لنص الرخصة، بالاستخدامات غير التجارية وغير الإدارية فقط.

هل يعمل Kolibri-1 مع Ollama أو على CPU؟

ليس رسمياً. تنشر Aleph Alpha طريقة الاستخدام عبر vLLM على وحدات NVIDIA GPU فقط، باستخدام الإضافة aleph-alpha-inference. توجد ملفات GGUF في عدة مستودعات أنشأها المجتمع، ويبلغ حجم ملف Q4_K_M نحو 47,5 GB. تحتاج هذه الملفات إلى llama.cpp مُرقّع، لأن llama.cpp العادي لا يعرف البنية kolibri1. يذكر بعض المطورين اجتياز اختبارات استرجاع بسياق طويل يصل إلى أكثر من 700.000 Token. لكن، وفقاً لتصريحاتهم، لا توجد مقارنة أداء مع النسخة الأصلية بتنسيق FP8.

هل تكفي H100 واحدة بسعة 80 GB لتشغيل Kolibri-1؟

لا. تشغل أوزان FP8 وحدها نحو 78 GB. لذلك لا يبقى عملياً أي مجال لـKV-cache الذي يحتفظ بالسياق. تذكر الـCard، ضمن الحد الأدنى، بطاقتي H100 SXM5 أو بطاقة H200 واحدة. عند استخدام بطاقتين، شغّل vLLM باستخدام --tensor-parallel-size 2.

كيف أعطّل وضع التفكير في Kolibri-1؟

يكون وضع التفكير مفعّلاً افتراضياً. يمكنك تعطيله لكل طلب باستخدام "chat_template_kwargs": {"enable_thinking": false} في JSON body. ووفقاً للـCard، يعمل reasoning_effort أيضاً عند ضبط قيمته على none. عندما يكون الوضع مفعّلاً، يفصل --reasoning-parser kolibri1 نص التفكير عن الإجابة الفعلية.