SSD Nodes Learn Hosting plans →
الأدلة Matt Connorبقلم Matt Connor · آخر تحديث في 2026-11-04

Ollama أم llama.cpp على VPS: أيهما تختار؟

تعرّف إلى الفرق بين Ollama وllama.cpp، واختر الأنسب لخادم VPS يعمل بالمعالج فقط، مع فهم أثر التكميم على RAM ومتى لا يناسبك أي منهما.

Ollama مقابل llama.cpp: أي طبقة تريد تشغيلها؟

لا يُعد Ollama وllama.cpp منافسين بالطريقة التي يوحي بها السؤال. فـllama.cpp هو محرك الاستدلال: يحمّل ملف النموذج ويحوّل prompt إلى tokens. أما Ollama فهو مدير للنماذج، وdaemon يعمل في الخلفية، وHTTP API مبني فوق ذلك المحرك. وما يزال README الخاص بـOllama يدرج llama.cpp بوصفه backend للاستدلال (تم التحقق في 27 October 2026). لذلك فالسؤال الحقيقي هو: أي طبقة تريد تشغيلها على VPS لديك، وليس أيهما أسرع.

شغّل Ollama عندما تريد خدمة تجلب النماذج بالاسم وتواصل العمل دون تدخل مستمر. شغّل llama.cpp مباشرة عندما يكون الخادم صغيراً وتحتاج إلى اختيار ملف النموذج المحدد، وحجم السياق المحدد، وعدد الخيوط المحدد، لأن كل إعداد من هذه الإعدادات يستهلك ذاكرة لا تتوفر لديك على VPS صغير.

ما هي طبيعة كل مشروع فعلياً

llama.cpp هو تنفيذ بلغة C وC++ لاستدلال نماذج Transformer، ويعتمد على مكتبة ggml. يقرأ ملفات GGUF. وGGUF، أي GGML universal file format، هو حاوية في ملف واحد تضم الأوزان، وtokeniser، والبيانات الوصفية التي يحتاج إليها المحرك لتشغيل النموذج. يوفّر المشروع ملفات تنفيذية منفصلة للمهام المختلفة. llama-server هو خادم HTTP، وllama-cli هو موجه تفاعلي، وllama-bench يقيس معدل المعالجة. يعتمد المشروع الآن إصدارات وفق semantic versioning ‏(MAJOR.MINOR.PATCH)، وكان v0.7.0، المنشور في 15 October 2026، أحدث إصدار في 27 October 2026. وما تزال وسوم nightly التي تتضمن رقم البناء تُنشر إلى جانبها، عدة مرات يومياً، وكان أحدثها في 27 October 2026 هو b11913.

Ollama هو برنامج مكتوب بلغة Go. يشغّل ollama serve daemon في الخلفية، الذي يحمّل النماذج ويستجيب لطلبات HTTP، بينما يتصل ذلك الـdaemon بعميل سطر الأوامر. ويوجد خلفهما registry على ollama.com يحتوي على نماذج مجهزة مسبقاً. يستخدم Ollama الإصدارات الدلالية. صدر v0.32.5 في 27 July 2026، وأُصدر v0.40.12 في 27 October 2026 عند 00:07 UTC. يجلب ollama pull ملف GGUF مع قالب prompt ومجموعة من المعلمات الافتراضية، ثم يخزّنه تحت /usr/share/ollama/.ollama/models في Linux. توجد هذه الملفات على قرص root، ويبلغ حجم كل منها عدة gigabytes. لذلك، على VPS يحتوي على root volume بسعة 25 GB، من المفيد معرفة ما الذي يتركه pull وراءه وكيف تنقل دليل النموذج إلى مكان آخر قبل أن يملأ التنزيل الثالث القرص.

هذا التغليف هو جوهر الفرق بين المشروعين. يحدد Ollama quantisation والقالب وطول السياق نيابةً عنك، ويمنحك اسماً واحداً تتذكره. أما llama.cpp فيعرض هذه الخيارات على شكل flags، مع استخدام قيم افتراضية تلقائية للإعدادات التي تتركها دون تحديد.

المحور 1: التحكم في النموذج والتكميم

يخزّن التكميم الأوزان بعدد بتات أقل من عدد البتات البالغ 16 أو 32 في النموذج الأصلي. وتستخدم إصدارات GGUF الشائعة في المتوسط نحو 4 أو 5 أو 8 بتات لكل وزن. لا تكون الدقة موحّدة في الملف. في مصدر أداة التكميم في llama.cpp (وفق القراءة في 27 October 2026)، يحتفظ إصدار Q4_K_M بمعظم الموترات بدقة 4 بتات، لكنه يستخدم Q6_K بدقة 6 بتات لطبقة الإخراج، ولموترات قيم الانتباه والتمرير الأمامي السفلية في نحو نصف الطبقات. أما الموترات الصغيرة، مثل النُّظم، فلا تُكمَّم إطلاقاً. وهذا ما يجعل نموذجاً يضم 8 مليارات معلمة مناسباً لذاكرة RAM في VPS عادي. يصبح اسم GGUF سهل القراءة بعد فهم النمط: يعني Q4_K_M تكميم K بدقة 4 بتات وبحجم متوسط. يحتفظ الرقم الأعلى بدقة أكبر، لكنه يستهلك ذاكرة أكثر.

رسم بيانيMeta-Llama-3.1-8B-Instruct GGUF file size by quantisation (GiB)
البيانات وراء هذا الرسم البياني
[
  {
    "label": "Q2_K",
    "file_size_gib": 2.96
  },
  {
    "label": "Q3_K_M",
    "file_size_gib": 3.74
  },
  {
    "label": "Q4_K_M",
    "file_size_gib": 4.58
  },
  {
    "label": "Q5_K_M",
    "file_size_gib": 5.34
  },
  {
    "label": "Q6_K",
    "file_size_gib": 6.14
  },
  {
    "label": "Q8_0",
    "file_size_gib": 7.95
  }
]

تلك هي أحجام الملفات المنشورة في مستودع bartowski/Meta-Llama-3.1-8B-Instruct-GGUF على Hugging Face، وفق القراءة في 2 August 2026 وبعد تحويلها من البايتات إلى GiB. يوجد 6 إصداراً من نموذج واحد، وأصغرها حجمه 2.96 GiB، مقابل 7.95 GiB لأكبرها. أما الخيار الافتراضي الشائع، Q4_K_M، فحجمه 4.58 GiB. في VPS بسعة 4 GiB، يحدد هذا الاختيار وحده ما إذا كان النموذج سيُحمَّل أصلاً. الحجم ليس سوى نصف القرار، لأن الإصدار الذي يمكنك تحمّل حجمه ليس بالضرورة إصداراً يستحق الاستخدام. ويبيّن ما يكلّفك به Q4 وQ8 وfp16 فعلياً في جودة الإجابة ما إذا كانت الجيجابايتات الإضافية تمنحك فائدة ستلاحظها.

مع llama.cpp، تحدد اسم الملف، ولذلك تختار ذلك الإصدار بنفسك.

llama-server -m ~/models/Meta-Llama-3.1-8B-Instruct-Q4_K_M.gguf \
  -c 4096 -t 4 --host 127.0.0.1 --port 8080

يمثل -c حجم السياق بالرموز، ويمثل -t عدد الخيوط، ويحدد -ngl عدد الطبقات التي تُنقل إلى GPU (وتكون قيمته 0 على خادم لا يستخدم إلا CPU). للإعدادات غير المحددة قيم افتراضية، ويكون --fit مفعّلاً افتراضياً لضبط الوسائط غير المحددة بما يلائم ذاكرة الجهاز.

مع Ollama، يأتي التكميم ضمن الوسم الذي تسحبه، ويعرض ollama ls ما هو موجود فعلياً على القرص. إذا لم يتضمن السجل الإصدار الذي تريده، فاستورد GGUF بنفسك. اكتب Modelfile:

FROM ./Meta-Llama-3.1-8B-Instruct-Q4_K_M.gguf
PARAMETER num_ctx 4096

ثم أنشئه وتحقق من النتيجة:

ollama create llama31-q4 -f ./Modelfile
ollama ls

طول السياق هو الإعداد الذي يسبب المشكلات للمستخدمين. يختار Ollama قيمته الافتراضية من VRAM المتاحة، والخادم الذي لا يملك GPU ينتقل إلى أصغر فئة: 4096 رمزاً. إذا أرسلت إليه مستنداً يضم 20,000 رمز، فستُسقط الرموز الإضافية قبل أن يراها النموذج، ولذلك ستكون الإجابة واثقة لكنها خاطئة بشأن ملف لم يقرأ منه سوى نصفه. ارفع القيمة باستخدام OLLAMA_CONTEXT_LENGTH في الخدمة الخفية، أو باستخدام PARAMETER num_ctx في Modelfile. إذا كانت مهمة واحدة فقط تحتاج إلى نافذة أكبر، فيمكن ضبط num_ctx لكل طلب بدلاً من ضبطه على مستوى الخادم، وبذلك لا تُضاف ذاكرة التخزين المؤقت الإضافية إلى بقية المهام التي يُطلب من الخدمة الخفية تنفيذها. لا يملك llama.cpp قيمة افتراضية يمكن الوثوق بها أيضاً. اضبط -c صراحةً، واعرف القيمة التي ضبطتها.

الحساب الفعلي للذاكرة الذي لا يوضحه أحد

ملف النموذج ليس التكلفة الكاملة. يحتوي مخزن KV المؤقت، أي مخزن key/value المؤقت، على إدخال واحد لكل طبقة ولكل token من سياق المحادثة، ويزداد حجمه مع نمو المحادثة.

احسب ذلك لنموذج Llama 3.1 8B. يحتوي النموذج على 32 طبقة، و8 رؤوس key/value، وبُعد رأس قدره 128. يخزن كل token كلاً من key وvalue بحجم 2 بايت لكل منهما في f16، ولذلك يكون الحساب 2 x 8 x 128 x 2 = 4096 بايت لكل طبقة. وعبر 32 طبقة، يعادل ذلك 128 KiB لكل token. لذلك يحتاج سياق من 4096 token إلى 512 MiB، بينما يحتاج سياق من 32,768 token إلى 4 GiB.

لذلك يحتاج نموذج Q4_K_M 8B بسياق 4k إلى نحو 4.58 GiB للأوزان، إضافة إلى نحو 0.5 GiB لمخزن KV المؤقت، وإضافة إلى وقت التشغيل نفسه. لن يتسع ذلك في ذاكرة RAM بحجم 4 GiB. ويتسع في 8 GiB مع مساحة كافية للتشغيل. إذا رفعت السياق إلى 32k على الجهاز نفسه ذي سعة 8 GiB، فسيستهلك المخزن المؤقت وحده كامل المساحة المتاحة تقريباً. راقبه أثناء التشغيل باستخدام free -h عندما يكون النموذج محمّلاً، ولا تعتمد على تقدير لم تتحقق منه بالقياس. إذا كنت تحدد الموارد لنموذج يتجاوز 8B بفارق كبير، فإن تطبيق الحساب نفسه على نموذج 27B على VPS يعمل بالـCPU فقط يوضح ما يمكن لكل فئة بين 8 و64 GB استيعابه فعلياً.

يؤثر Ollama في ذلك أيضاً. تكون قيمة OLLAMA_NUM_PARALLEL الافتراضية هي 1، وتتدرج الذاكرة التي يحتاج إليها النموذج مع حاصل ضرب هذه القيمة في طول السياق. إذا رفعت القيمتين معاً، فسيطلب daemon بهدوء ذاكرة RAM تعادل عدة أضعاف ما توقعت. ويحدد الحساب نفسه الحد الأقصى لعدد المستخدمين المتزامنين، لأن كل طلب متزامن يحتاج إلى جزء مستقل من مخزن KV المؤقت، وهذا يفسر سبب توقف خادم يعمل جيداً لمستخدم واحد عند خمسة مستخدمين.

المحور 2: البرنامج الخفي الذي عليك تشغيله

يكتب برنامج تثبيت Ollama وحدة systemd، وينشئ مستخدم نظام ollama، ويفعّل الخدمة. وتحصل بذلك على إدارة دورة الحياة من دون كتابة أي من هذه العناصر بنفسك. تُدار الإعدادات عبر systemd:

sudo systemctl edit ollama
[Service]
Environment="OLLAMA_CONTEXT_LENGTH=8192"
Environment="OLLAMA_KEEP_ALIVE=30m"
sudo systemctl daemon-reload
sudo systemctl restart ollama
journalctl -e -u ollama

يصبح OLLAMA_KEEP_ALIVE أكثر أهمية على VPS يعمل بوحدة CPU من أي بيئة أخرى. تُحتفظ النماذج في الذاكرة لمدة 5 دقائق افتراضياً، ثم تُزال منها. ويجب على الطلب التالي تحميل الملف بأكمله مجدداً قبل أن يتمكن من تقديم الإجابة. إذا كانت النواة لا تزال تحتفظ بالملف في ذاكرة التخزين المؤقت للصفحات، فسيكون ذلك سريعاً، لكن إبقاءه هناك يعتمد على وجود RAM فائضة فقط. وعندما تؤدي أعمال أخرى إلى إخراجه من الذاكرة، يُعاد تحميل الملف من القرص، ولذلك يحوّل تحميل بحجم 4.58 GiB ردّاً يستغرق ثانيتين إلى ردّ يستغرق ثلاثين ثانية على وحدات تخزين بطيئة. يعالج keep-alive طويل زمن الاستجابة، لكنه يستهلك RAM باستمرار. وكلاهما تكلفة حقيقية. اختر الخيار الأقل ضرراً. إذا قررت أن يبقى النموذج مقيماً في الذاكرة، فإن ضبط keep_alive ليبقى بعد فترات الخمول وإعادة التشغيل يتطلب بضعة أسطر، ويجنبك تهيئة النموذج يدوياً في كل مرة يُعاد فيها تشغيل الخادم.

لا يوفر llama.cpp برنامجاً خفياً ولا مستخدم خدمة، لذلك عليك إعداد كليهما بنفسك. من دليل llama.cpp الذي بنيت فيه البرنامج، ثبّت الملف التنفيذي ومكتباته في /usr/local، وأنشئ مستخدم llama، وامنحه نسخة من النموذج:

sudo cmake --install build
sudo ldconfig
sudo useradd --system --no-create-home --shell /usr/sbin/nologin llama
sudo install -d -o llama -g llama /srv/models
sudo install -o llama -g llama -m 644 ~/models/Meta-Llama-3.1-8B-Instruct-Q4_K_M.gguf /srv/models/model-Q4_K_M.gguf

إذا استخدمت أرشيف الإصدار بدلاً من البناء، فأشر إلى ExecStart داخل llama-server، لأن الأرشيف يحتفظ بمكتباته إلى جانب الملف التنفيذي. ثم اكتب الوحدة كما يلي، باستخدام /etc/systemd/system/llama-server.service:

[Unit]
Description=llama.cpp server
After=network-online.target

[Service]
ExecStart=/usr/local/bin/llama-server -m /srv/models/model-Q4_K_M.gguf -c 4096 -t 4 --host 127.0.0.1 --port 8080
Restart=always
RestartSec=3
User=llama

[Install]
WantedBy=multi-user.target

فعّلها باستخدام sudo systemctl enable --now llama-server. يحتفظ البرنامج بعد ذلك بالنموذج طوال مدة تشغيله. ولا يُفرغ النموذج من الذاكرة عند الخمول افتراضياً، لكن إضافة --sleep-idle-seconds تفعّل الإفراغ وإعادة التحميل تلقائياً من دون إيقاف الخدمة. إذا كان إنشاء الوحدات أمراً جديداً عليك، فهذا هو النمط نفسه المتبع في تشغيل خدماتك الخاصة عبر systemd على VPS.

المحور 3: واجهة API التي سيتصل بها تطبيقك

تقلّصت الفروقات على هذا المحور كثيراً. يدعم المشروعان الآن تنسيق OpenAI chat، لذلك تعمل معظم مكتبات العميل مع أيٍّ منهما بعد تغيير عنوان URL الأساسي فقط.

يستمع Ollama على 127.0.0.1:11434. ومساره المتوافق مع OpenAI هو http://localhost:11434/v1/chat/completions، كما يوفّر واجهة API أصلية على /api/chat إلى جانبه. وتوجد أيضاً وثائق لمسار متوافق مع Anthropic. لا يتيح أي من هذه المسارات للنموذج البحث عن المعلومات بنفسه. لذلك، إذا كان تطبيقك يحتاج إلى إجابات أحدث من بيانات تدريب النموذج، فخطّط لـدمج البحث على الويب عبر API الخاصة بـOllama أو Open WebUI أو حلقة أدوات قصيرة.

curl -X POST http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "llama31-q4", "messages": [{"role": "user", "content": "Say this is a test"}]}'

عند تشغيله باستخدام العلامات السابقة، يستمع llama-server على 127.0.0.1:8080. أما إذا تُرك بالإعداد الافتراضي، فإنه يستخدم الآن المنفذ 9931 (تم التحقق منه في 27 October 2026)، لذلك أبقِ --port في سطر الأوامر إذا كان تطبيقك يتوقع المنفذ 8080. وهو يوفّر /v1/chat/completions و/v1/completions و/v1/embeddings، إضافة إلى نقطة النهاية الخاصة به /completion وواجهة ويب مضمّنة. كما يوفّر مسارات تشغيلية لا يوفّرها Ollama: /health لفحص الجاهزية، و/props لإعدادات النموذج المحمّل، و/slots لمعرفة ما ينفذه كل موضع طلب، و/metrics بتنسيق Prometheus بعد إضافة --metrics، لأن نقطة النهاية هذه معطّلة افتراضياً. إذا كنت تخطط لمراقبة هذه الخدمة، فمن المرجح أن يكون هذا الفرق هو العامل الحاسم.

لا يفعّل أي من الخادمين المصادقة نيابةً عنك. ويستخدم كلاهما loopback افتراضياً لسبب وجيه. اتصل بهما عبر نفق SSH أو من خلف reverse proxy، ولا تفتح المنفذين 11434 أو 8080 على الإنترنت.

ما الذي يستطيع VPS يعمل بالـCPU فقط تنفيذه فعلياً

يشغّل VPS يعمل بالـCPU فقط نماذج صغيرة ببطء. هذا هو الملخص الصريح، والمهم هو معرفة الحد الفاصل. أجرِ القياس قبل أن تبني أي تصميم حوله:

llama-bench -m ~/models/Meta-Llama-3.1-8B-Instruct-Q4_K_M.gguf -p 512 -n 128

يمثل العمود pp سرعة معالجة الطلب، ويمثل العمود tg سرعة توليد الرموز، وكلاهما بوحدة رمز في الثانية. في خطة vCPU مشتركة، يحقق نموذج بحجم 8B وبتكميم Q4_K_M عادةً سرعة منخفضة من خانة الآحاد في tg. معالجة الطلب هي الجزء الأكثر تأثيراً: تتم معالجة الطلب كاملاً قبل ظهور أول رمز في الإخراج، لذلك يضيف الطلب الطويل وقت انتظار إلى كل طلب على حدة. أما طول الرد فهو الجزء من التكلفة الذي يمكنك التحكم فيه فعلياً، لأن نموذجاً يولد 3 رموز في الثانية ويسترسل في رد من 600 رمزاً يشغل الخادم لمدة 200 ثانية، أي أكثر من ثلاث دقائق من التوليد وحده. لذلك فإن تحديد الحد الأقصى للإخراج باستخدام num_predict هو أرخص طريقة لمنع رد طويل واحد من التحول إلى انتهاء مهلة.

يمكن استخدام CPU مع نموذج بحجم من 1B إلى 4B للتصنيف، أو الاستخراج، أو التلخيص القصير، أو التوجيه. تصل الردود خلال ثوانٍ، وتناسب الذاكرة خطة عادية. إذا أردت مثالاً عملياً بهذا الحجم بدلاً من نطاق أحجام، فإن تنزيل Nemotron 3.5 Lightning وقياسه على VPS يوضح الوسم الدقيق، وحجم RAM الذي يطلبه فعلياً، والسرعة التي يحافظ عليها من دون GPU. لا يصلح CPU للدردشة التفاعلية بسرعة القراءة، أو مساعدي البرمجة، أو معالجة المستندات الطويلة، أو أي مهمة تتضمن حلقة وكيل تنفذ طلبات كثيرة بالتتابع. إذا نفذت الحلقة 12 طلباً يستغرق كل منها 4 ثوانٍ، فستحتاج إلى دقيقة قبل إنتاج أي نتيجة. إذا كان الهدف هو استخدام مساعد برمجة، فإن توجيه وكيل إلى نموذج تستضيفه بنفسك يوضح المهام التي ينجح فيها نموذج محلي صغير فعلياً، والمهام التي يجب أن تبقى على API مستضاف.

هناك مخرجان عندما لا تنجح الأرقام. إذا كانت المشكلة هي التزامن، أي وصول عدة مستخدمين إلى نموذج واحد في الوقت نفسه، يتغير اختيار المحرك، وتغطي مقارنة Ollama مع vLLM للتقديم المتزامن هذه الحالة. إذا كانت المشكلة هي السرعة الخام، فالحل هو VPS مزود بـGPU، حيث يبدأ -ngl في أن يصبح مؤثراً. قبل اختيار أي من الخيارين، احصل على خط أساس للعتاد نفسه، لأن عرض نطاق القرص والذاكرة يؤثر في وقت التحميل بقدر تأثير CPU. يستحق اختبار VPS قابل للتكرار تخصيص ساعة له.

تثبيت llama.cpp مع تثبيت إصدار البناء

يتغير كلا المشروعين أسبوعياً، لذلك سجّل الإصدار الذي نشرته. يثبّت الأمر المختصر من المشروع الإصدار الحالي:

curl -LsSf https://llama.app/install.sh | sh
llama serve -hf ggml-org/Qwen3.5-0.8B-GGUF

لتثبيت بناء محدد، استخدم ملف tarball المُجمّع مسبقاً من صفحة الإصدارات بدلاً من ذلك. ينشر المشروع الآن أيضاً إصدارات وفق نظام الإصدار الدلالي: كان v0.7.0 أحدث إصدار في 27 October 2026، وتشير صفحة إصداره إلى nightly b11669 للملفات الثنائية. تلاه v0.8.0 في 28 October 2026، وتشير صفحة إصداره إلى nightly b11960 للملفات الثنائية. تستخدم الأوامر أدناه b10224، وهي العلامة الحالية في 2 August 2026؛ استبدلها بالعلامة التي اختبرتها:

curl -LO https://github.com/ggml-org/llama.cpp/releases/download/b10224/llama-b10224-bin-ubuntu-x64.tar.gz
tar xf llama-b10224-bin-ubuntu-x64.tar.gz
find . -type f -name 'llama-server'

أو ابنِ العلامة نفسها من الشيفرة المصدرية:

sudo apt update && sudo apt install -y build-essential cmake git libssl-dev
git clone https://github.com/ggml-org/llama.cpp
cd llama.cpp
git checkout b10224
cmake -B build
cmake --build build --config Release -j $(nproc)

يُعد libssl-dev الاعتمادية الموثقة لميزات HTTPS. يستغرق التجميع عدة دقائق، ويتطلب ذاكرة RAM أكبر مما توفره أصغر الخطط، لذلك نفّذ البناء على خادم أكبر وانسخ الملفات الثنائية إذا نفدت الموارد في الخادم الصغير.

ثبّت Ollama بإصدار محدد

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.32.5 sh
ollama -v

يقرأ البرنامج النصي OLLAMA_VERSION، لذلك يمكنك تثبيت إصدار معروف باستقراره بدلاً من استخدام الإصدار الذي نُشر هذا الصباح. نُشر الإصدار v0.32.5 في 27 July 2026. يتوفر أيضاً مسار يدوي إذا كنت تفضّل عدم تمرير برنامج نصي إلى shell:

sudo rm -rf /usr/lib/ollama
curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst | sudo tar x -C /usr
ollama -v

لا ينشئ المسار اليدوي وحدة systemd أو مستخدم الخدمة، لذلك عليك إضافة كليهما بنفسك. يشرح الدليل الكامل لتشغيل Ollama على VPS إعداد الخدمة خطوة بخطوة.

أنماط الفشل والعبارات التي ستظهر لك

يرفض Ollama تحميل النموذج. كانت الإصدارات الأقدم من Ollama تتحقق من الحجم قبل التحميل، وكان ollama run يعرض سطراً بهذا الشكل:

Error: model requires more system memory (5.6 GiB) than is available (3.2 GiB)

لا يحتوي مصدر Ollama الحالي على هذه الرسالة (تم التحقق في 27 October 2026). يسلّم Ollama التحميل الآن إلى llama-server، لذلك يظهر النموذج الذي لا تتسع له الذاكرة على أنه فشل في المشغّل بدلاً من ذلك، مع أخطاء تبدأ على النحو التالي:

llama-server reported out-of-memory during startup
llama-server process has terminated

في كلتا الحالتين، الإصلاح واحد. انتقل إلى صف quantisation التالي، أو خفّض طول السياق، أو اختر نموذجاً أصغر.

لا يفشل llama.cpp، بل يصبح بطيئاً جداً. يستخدم llama.cpp memory-mapping لملف GGUF افتراضياً، لذلك يبدأ تشغيل ملف أكبر من RAM. ثم تنقل النواة الأوزان من القرص وإليه عند كل token، وتنخفض سرعة التوليد إلى ثوانٍ لكل token بينما يصل استخدام القرص إلى 100 percent. مرّر --load-mode none لتعطيل memory mapping. استبدل هذا الخيار --no-mmap، وهو موثّق على أنه deprecated في build المثبّت b10224، ولم يعد يظهر في الإصدارات الحالية (تم التحقق في 29 October 2026). عندما تتدخل النواة، يوضح dmesg السبب:

Out of memory: Killed process 1234 (llama-server)

لن يُحمَّل ملف النموذج إطلاقاً. يؤدي إنشاء GGUF لعائلة نماذج أحدث من engine لديك إلى ظهور خطأ يذكر architecture غير المعروفة له، حيث إن <arch> هو الاسم المخزّن في metadata الخاصة بالملف:

llama_model_load: error loading model: unknown model architecture: '<arch>'

الإصلاح هو ترقية engine، وليس استخدام ملف مختلف. هذه هي كلفة تثبيت الإصدار، ولذلك تدوّن رقم build. يجب أن تعرف الإصدار الذي ستُجري الترقية منه.

تجيب API محلياً، لكن تطبيقك لا يستطيع الوصول إليها. يربط Ollama الخدمة على 127.0.0.1:11434، لذلك يحصل مضيف آخر على رفض للاتصال. اضبط OLLAMA_HOST=0.0.0.0:11434 عبر systemctl edit ollama فقط عندما يكون المنفذ خلف جدار ناري أو شبكة خاصة، لأن API لا تملك مصادقة أمامها.

يكون الرد الأول بعد التوقف بطيئاً جداً. حدث تفريغ النموذج بعد خمول دام 5 minute، ويُعاد تحميله من القرص إذا لم تُبقِه page cache. يعرض ollama ps، عند تشغيله مباشرة قبل الطلب، عدم تحميل أي نموذج، وهذا يؤكد السبب. ارفع OLLAMA_KEEP_ALIVE.

إذن، أيّهما يجب أن تستخدم؟

استخدم Ollama عندما تريد إدارة النماذج نيابةً عنك، وتريد نقطة نهاية متوافقة مع OpenAI دون إعدادات إضافية. هذا هو الخيار الافتراضي المناسب للنشر الأول، ولأي حالة ستتغير فيها النماذج باستمرار.

استخدم llama.cpp مباشرةً عندما تكون الذاكرة محدودة بدرجة تحتاج معها إلى اختيار صف quantisation بنفسك، أو عندما تريد /health و/slots و/metrics للمراقبة، أو عندما تحتاج إلى flag لا يوفّره Ollama. هذا هو الخيار الصريح على VPS الذي بالكاد تتسع موارده للنموذج، لأن الإعدادات التي تجعله مناسباً هي نفسها التي يختارها Ollama نيابةً عنك.

من الطبيعي تشغيل كليهما. استخدم Ollama للتجارب، وllama.cpp للنموذج الوحيد الذي تضعه في بيئة الإنتاج ولا تريد تغييره.

FAQ

هل Ollama مجرد غلاف حول llama.cpp؟

إلى حدّ كبير، لكن الغلاف ينفّذ أعمالاً فعلية. يذكر ملف README الخاص بـOllama أن llama.cpp هو backend الاستدلال الخاص بها (تم التحقق في 27 October 2026). تضيف Ollama فوقه سجلّاً للنماذج، وقالب prompt يحوّل رسائل المحادثة إلى prompt، ومجموعة من معلمات أخذ العينات الافتراضية، وخدمة daemon تفرغ النماذج عند الخمول، وواجهة HTTP API. عند مقارنة عدد الرموز في الثانية مع تطابق الإعدادات، فأنت تقارن المحرك نفسه بنفسه. والاختيار الفعلي الذي تجريه هو بين طبقتَي الإدارة.

أيهما أسرع على VPS يعمل بالمعالج فقط؟

يشترك البرنامجان في المحرك نفسه، لذلك تكون النتائج متقاربة عند استخدام ملف النموذج نفسه، ونوع quantisation نفسه، وحجم السياق نفسه، وعدد الخيوط نفسه. تعود الفروق التي يبلّغ عنها المستخدمون عادةً إلى اختلاف الإعدادات الافتراضية، وأبرزها طول السياق وعدد الخيوط، لا إلى اختلاف المحرك. قِس الأداء باستخدام llama-bench -m <file> -p 512 -n 128 وقارن العمود tg على خادمك قبل تصديق أي رقم منشور.

هل يمكنني استخدام ملف GGUF الخاص بي مع Ollama؟

نعم. ضع الملف على الخادم، واكتب Modelfile يكون سطره الأول FROM ./your-model.gguf، وأضف أي أسطر PARAMETER تحتاج إليها، مثل num_ctx، ثم شغّل ollama create your-name -f ./Modelfile. ستدرجه ollama ls بجانب أي نموذج سحبته من السجل. بهذه الطريقة تستخدم quantisation لا يوفرها السجل.

ما مقدار RAM الذي أحتاج إليه لنموذج 8B؟

احسب حجم الملف، وأضف إليه ذاكرة KV cache وذاكرة بيئة التشغيل. يبلغ حجم إصدار Q4_K_M من Llama 3.1 8B نحو 4.58 GiB على القرص، ويضيف سياق من 4096 token نحو 512 MiB من ذاكرة التخزين المؤقت، لذلك تكفي 8 GiB من RAM، بينما لا تكفي 4 GiB. تتوسع ذاكرة التخزين المؤقت مع حجم السياق: يحتاج النموذج نفسه عند استخدام سياق من 32,768 token إلى نحو 4 GiB من ذاكرة التخزين المؤقت وحدها. تذكّر أن المتطلب مع Ollama يتوسع أيضاً مع OLLAMA_NUM_PARALLEL.

هل كان هذا المقال مفيدًا؟