SSD Nodes Learn Hosting plans →
Посібники Matt ConnorВід Matt Connor · Оновлено 2026-10-26

Muse Glimmer 30B на VPS: RAM і диск для Linux

Розміри Linux-тегів Muse Glimmer становлять 18–59 GB. Перевірте RAM і диск для VPS перед завантаженням та оцініть вартість inference лише на CPU.

Що потрібно Muse Glimmer на VPS

Muse Glimmer працює на звичайному Linux VPS без GPU. Те, чи поміститься модель у пам’ять, залежить від вибраного tag. Meta Superintelligence Labs опублікувала модель 10 August 2026 за ліцензією Apache 2.0: 30 billion параметрів, context window 128K і окремий perception encoder на 1.8B параметрів, який дає змогу обробляти зображення разом із текстом. Meta позиціонує її як модель для локальних агентів, що постійно працюють, а не як звичайний чат. Рівень reasoning strength можна встановлювати для кожного запиту.

Опубліковані Ollama tags, які працюють у Linux, станом на 25 October 2026 мають розмір від 18 GB до 59 GB. Саме цей діапазон визначає вимоги до ресурсів. Повний список tags починається з 17 GB і закінчується на 65 GB, але обидва крайні значення відповідають MLX tags, призначеним для Apple Silicon, тому на Linux server їх не враховують. Для default tag указано приблизно 18 GB, тому навіть найменший придатний server має мати помітно більше ніж 18 GB вільної RAM. Додатково потрібні disk space для завантаження моделі та memory для context window.

Який тег muse-glimmer слід завантажити?

ГрафікPublished muse-glimmer tag sizes on 25 October 2026 (Linux tags only)
Дані, на яких побудовано графік
[
  {
    "label": "30b (default)",
    "size_gb": 18
  },
  {
    "label": "30b-q4_K_M",
    "size_gb": 18
  },
  {
    "label": "30b-q4_K_M-dflash",
    "size_gb": 20
  },
  {
    "label": "30b-q8_0",
    "size_gb": 31
  },
  {
    "label": "30b-q8_0-dflash",
    "size_gb": 33
  },
  {
    "label": "30b-bf16",
    "size_gb": 57
  },
  {
    "label": "30b-bf16-dflash",
    "size_gb": 59
  }
]

Ollama показав 7 тегів для цієї моделі без мітки MLX, не враховуючи псевдонім latest. Звичайні теги містять ті самі 30 billion ваг, збережених із різною числовою точністю. Теги -dflash містять ці ваги та додаткову меншу мережу, описану нижче, тому кожен із них має більший розмір, ніж відповідний звичайний тег. Вказаний розмір — це обсяг завантаження. Приблизно стільки пам’яті також потрібно утримувати до додавання контексту.

Збірка 4-bit є меншою: 30b-q4_K_M обсягом 18 GB. Тег за замовчуванням 30b — це та сама збірка під іншою назвою, з тим самим digest на сторінці тегу. Збірка 8-bit — 30b-q8_0 обсягом 31 GB. 30b-bf16 — це неquantised 16-bit release обсягом 57 GB. Це більше RAM, ніж надає більшість орендованих серверів за ціну, яку можна було б виправдати для side project. Тег 30b-nvfp4 обсягом 17 GB, менший за розміром, і тег 30b-mxfp8 8-bit обсягом 33 GB обидва мають мітку MLX, тому їх виключено з таблиці. У наступному розділі пояснено чому.

Теги -dflash додають DFlash drafter від Meta. У model card його описано як "a small companion network that proposes entire blocks of tokens at once": 5 draft layers, які прогнозують блоки по 16 tokens. Це функція speculative decoding для пришвидшення роботи. На сторінці моделі Ollama підтримку DFlash подано як частину його MLX engine на Apple Silicon. На VPS лише з CPU він потребує приблизно 2 GB додаткової фактичної пам’яті для drafter, але ви ще не вимірювали виграш на своєму обладнанні. Тому почніть зі звичайного тегу й змінюйте лише один параметр за раз.

Починайте з 4-bit, якщо немає конкретної причини вчинити інакше. Перехід із 4-bit на 8-bit приблизно вдвічі збільшує обсяг даних, які CPU має читати для кожного згенерованого token, тому пропускна здатність знижується, а використання пам’яті зростає. Цей компроміс розглянуто в матеріалі яку фактичну ціну для вас мають квантування q4, q8 і fp16, а коротка відповідь для CPU-сервера така: збірка 4-bit — єдиний варіант, із якого варто починати.

Чому теги MLX нічого не роблять на сервері Linux

MLX — це фреймворк Apple для роботи з масивами, а рушій MLX в Ollama — його бекенд для Apple Silicon. Коли Ollama оголосила про нього, в інструкції було зазначено: «переконайтеся, що маєте Mac із понад 32GB unified memory». Кожен тег, позначений MLX на сторінці тегів, призначений для цього рушія та такого обладнання. Позначка не завжди входить у назву: для цієї моделі вона охоплює 30b-nvfp4, 30b-mxfp8 і їхні варіанти -dflash, а також кожен тег, що містить mlx. На x86 Linux VPS кожен із них займає десятки гігабайт під час завантаження, але запустити його неможливо. Завантажені файли лише займатимуть місце на диску. Показники швидкодії, виміряні на Mac, стосуються саме цих тегів, тому вони не описують ваш сервер. Переглядаючи список тегів на сторінці моделі, спочатку відфільтруйте всі теги з позначкою MLX, а потім оцініть вимоги за рештою.

Скільки RAM і дискового простору йому насправді потрібно?

Пам’ять займають два компоненти, і лише один із них — розмір tag. Обсяг weights визначається tag, який ви завантажуєте. KV cache, тобто стан для кожного token, який модель зберігає для розмови, збільшується разом із налаштованою довжиною context. Власна документація Ollama зазначає, що паралельне обслуговування запитів множить context на кількість запитів у роботі. Тому сервер, який одночасно відповідає двом агентам, потребує більше пам’яті, ніж той самий сервер для одного агента.

Не використовуйте значення RAM з будь-якого посібника, зокрема з цього. Завантажте tag, надішліть моделі один prompt і, поки модель ще залишається завантаженою, виконайте ці дві команди.

ollama ps
free -h

ollama ps показує, що зараз завантажено і як навантаження розподіляється між CPU та GPU. free -h показує залишок ресурсів. Ці два результати на вашому сервері точніші за будь-яку опубліковану таблицю, оскільки вже враховують налаштування context, вашу quantisation та все інше, що виконується на сервері.

З диском усе простіше. Ollama зберігає моделі в /usr/share/ollama/.ollama/models у Linux. У більшості образів VPS цей каталог розташований у root filesystem. Root volume на 40GB не вмістить збірку bf16 розміром 57 GB. Він також не вмістить одночасно збірки 8-bit і 4-bit. Якщо ви ще не перевіряли, що саме записує pull, у матеріалі де Ollama зберігає моделі та як їх перемістити описано цей каталог. Перемістіть store на змонтований volume до завантаження будь-яких моделей.

sudo systemctl edit ollama
[Service]
Environment="OLLAMA_MODELS=/mnt/models"
sudo mkdir -p /mnt/models
sudo chown -R ollama:ollama /mnt/models
sudo systemctl daemon-reload
sudo systemctl restart ollama

Користувач ollama має володіти цим каталогом, оскільки service працює від імені ollama і записує blobs у цей каталог від свого імені. Якщо pull завершується помилкою доступу, причина буде в journalctl -u ollama -n 50.

Для swap потрібне одне чітке правило: swap не дає змоги запускати більший tag. Під час генерації weights потрібні для кожного token, тому weights у swap знову й знову зчитуються з диска. Через це стовпці si та so в vmstat 1 будуть зайняті, а швидкість виведення знизиться до кількох секунд на token. Залиште невеликий swap file як захист від out of memory killer. Розраховуйте обсяг RAM під tag, який ви фактично хочете використовувати.

Встановлення Ollama і фіксація іменованого тегу

curl -fsSL https://ollama.com/install.sh | sh
ollama --version
systemctl status ollama

Скрипт встановлення налаштовує службу systemd, тому сервер знову запускає її після перезавантаження. Якщо ви не хочете запускати Ollama як системну службу, якою керує root, дивіться запуск Ollama без root у Podman. Після цього завантажте явний тег.

ollama pull muse-glimmer:30b
ollama list

Самостійно прочитайте стовпчик розміру в ollama list і порівняйте його з поточним списком тегів на сторінці моделі. Опубліковані теги додаються, перейменовуються та видаляються, а розмір у посібнику є знімком стану на певний день.

Ніколи не записуйте ollama pull muse-glimmer на сервері, від якого ви залежите. Назва моделі без тегу розгортається в тег latest, а latest є вказівником, який видавець може перемістити на іншу збірку. Під час звичайного завантаження модель під вашим агентом непомітно замінюється. Вона може мати інші вимоги до пам’яті та іншу поведінку, і в журналах це не буде явно зазначено. Записуйте тег у своїх скриптах, unit-файлах і конфігурації агента. У матеріалі Самостійне розгортання LLM з Ollama на VPS описано решту налаштування сервера.

Чи можна запускати Muse Glimmer без GPU?

Так, але варто чітко розуміти обмеження. Генерація одного токена потребує зчитування ваг моделі з пам’яті, тому швидкість визначається пропускною здатністю пам’яті, а не кількістю vCPU, заявленою в тарифі. Після кількох ядер додаткові ядра майже не дають приросту. На shared VPS цією пропускною здатністю користуються всі інші орендарі хоста, тому модель 30B у форматі 4-bit генерує лише невелику кількість токенів за секунду.

Не покладайтеся на чиїсь показники, зокрема й на мої. Виміряйте кількість токенів за секунду на власному сервері і приймайте рішення за отриманими результатами.

У результаті модель має чіткий поділ за сценаріями використання. Інтерактивний чат працює незручно: ви читаєте швидше, ніж сервер виводить текст, а кожна відповідь починається з тривалої паузи. Фонові агентні завдання підходять краще, оскільки завданню, яке виконується без нагляду протягом десяти хвилин, низька швидкість не заважає. Саме такий сценарій використання Meta описує для цієї моделі.

Якщо потрібна інтерактивна швидкість, є два чесні варіанти: GPU або hosted API. Розрахуйте точку беззбитковості між GPU VPS і API-токенами до оренди сервера, а в матеріалі Що насправді дає GPU VPS описано, що саме ви купуєте. Щоб зрозуміти, яку модель може вмістити певний сервер, почніть із матеріалу Які моделі можна розгорнути на власному сервері, а Запуск моделі Qwen подібного розміру на VPS є найближчим порівнянням у цьому класі розмірів. Якщо виміряні показники виявляться надто низькими для комфортної роботи, у матеріалі Nemotron 3.5 Lightning на VPS розглянуто ті самі питання щодо RAM і кількості токенів за секунду для моделі, створеної з пріоритетом на швидкість, а не на розмір.

Чому він забуває інформацію задовго до 128K токенів?

На сервері без GPU Ollama за замовчуванням використовує контекстне вікно на 4096 токенів незалежно від того, який обсяг підтримує модель. У FAQ Ollama зазначено значення за замовчуванням 4096, а в документації щодо довжини контексту, переглянутій 25 October 2026, значення за замовчуванням залежить від обсягу пам’яті GPU: 4k за обсягу VRAM менше ніж 24 GiB, 32k за обсягу від 24 до 48 GiB і 256k за обсягу 48 GiB або більше. CPU-only VPS належить до найнижчої категорії. Тег повідомляє про 128K, але сервер передає моделі лише 4096 токенів, доки ви не вкажете інше. Тому довгий журнал взаємодії агента втрачає початкові повідомлення, і здається, що модель має проблеми з пам’яттю.

Збільште це значення на сервері для кожного запиту:

[Service]
Environment="OLLAMA_CONTEXT_LENGTH=32768"

В інтерактивному сеансі /set parameter num_ctx 32768 змінює значення лише для цього сеансу. Через API передайте num_ctx в опціях запиту.

Кожен додатковий токен контексту потребує пам’яті понад обсяг, необхідний для ваг моделі. Якщо запитати повні 128K на сервері, розрахованому лише на зберігання ваг, завантаження не вдасться або система перейде на повільніший режим. Збільшуйте значення поетапно та після кожного кроку запускайте ollama ps. У матеріалі Як працюють num_ctx і довжина контексту в Ollama наведено відповідні розрахунки.

Сила міркування: low, medium, high і xhigh

Meta визначає чотири рівні сили міркування для Muse Glimmer — від low до xhigh — і рекомендує два вищі рівні для складних завдань із написання коду та роботи агентів. В Ollama це керується параметром think. У командному рядку використовуйте --think=, а в тілі API передавайте think.

ollama run muse-glimmer:30b --think=high "Summarise the changes in /tmp/patch.diff"

В інтерактивному сеансі цю функцію перемикають команди /set think і /set nothink. У документації Ollama про thinking, переглянутій 25 October 2026, зазначено, що для визначення підтримуваних моделлю значень слід використовувати /api/show. Модель із метаданими thinking перелічує їх у thinking.values: це можуть бути логічні значення для перемикання між увімкненим і вимкненим станом або назви рівнів, визначені моделлю. Документація радить використовувати точне значення, наведене там. Не кожна модель публікує цей список: якщо у відповіді немає thinking, модель не має метаданих thinking. На цій самій сторінці зазначено, що непідтримуване ім’я замінюється значенням за замовчуванням моделі. Тому помилково введений рівень не спричиняє помилки, а непомітно запускається зі значенням за замовчуванням. Довідка командного рядка називає лише true, false, high, medium і low та без перевірки передає будь-який інший рядок на сервер. Тому перегляньте, що /api/show повідомляє для muse-glimmer:30b, замість того щоб вгадувати, і перевірте значення вручну, перш ніж додавати його до агента.

На сервері, що працює лише на CPU, цей параметр має практичне значення. Вищий рівень означає, що перед появою першого слова відповіді буде згенеровано більше токенів міркування, а один токен міркування потребує стільки самого часу за годинником, скільки й один токен відповіді. Для звичайних завдань залишайте рівень low. Довжина відповіді також потребує контролю, тому обмежуйте відповідь параметром num_predict, щоб одна надто довга відповідь не займала повільний сервер кілька хвилин.

Залиште модель завантаженою для постійно активного агента

Ollama за замовчуванням вивантажує неактивну модель через п’ять хвилин. Якщо агент запускається кожні десять хвилин, це означає повне завантаження 18 GB з диска під час кожного запуску. На VPS із мережевим сховищем це завантаження не відбувається швидко. Натомість зафіксуйте модель у пам’яті.

[Service]
Environment="OLLAMA_KEEP_ALIVE=-1"

Від’ємне значення залишає модель у пам’яті, доки її не буде вивантажено. keep_alive в API-запиті перевизначає значення за замовчуванням на сервері лише для цього виклику. Ціна очевидна: оперативна пам’ять залишається зайнятою, навіть коли нічого не відбувається. Тому цей параметр призначений для сервера, виділеного під агента. У розділі Як залишити модель Ollama завантаженою описано варіанти налаштування.

Налаштуйте coding agent для роботи з ним

Ollama надає OpenAI-сумісний API за адресою http://127.0.0.1:11434/v1, тому більшість інструментів для agent підключаються за допомогою базової URL-адреси та будь-якого непорожнього API key. На сторінці Ollama Muse Glimmer також описано скорочену команду запуску, яка підключає сумісний agent до локальної моделі однією командою. У цій команді також слід явно вказати tag.

ollama launch claude --model muse-glimmer:30b

Agents надсилають великі prompt. Вміст файлів, результати роботи інструментів і transcript, що постійно збільшується, надходять як input tokens. На CPU-сервері саме обробка prompt створює найбільше навантаження ще до початку генерації. Зменште параметр context настільки, наскільки це дозволяє завдання. У матеріалі Підключення coding agent до Ollama описано налаштування на стороні клієнта, у матеріалі Запуск coding agent на VPS — сервер, на якому він працює, а у матеріалі Контроль витрат agent на VPS — наслідки його роботи протягом усього дня.

Введення зображень працює так само. Ollama API приймає зображення в полі images повідомлення, тому клієнт, який працює лише з текстом, ніколи не надішле зображення, незалежно від можливостей perception encoder.

Не відкривайте порт 11434

API Ollama не має автентифікації. Якщо встановити OLLAMA_HOST=0.0.0.0:11434, щоб підключатися до нього з ноутбука, у публічному інтернеті опиниться runner моделей без автентифікації. Будь-хто, хто його знайде, зможе завантажувати моделі на ваш диск і читати все, що ваш агент надсилає через нього. Залиште його прив’язаним до localhost і використовуйте тунель.

ssh -N -L 11434:127.0.0.1:11434 user@your-vps

Захист кінцевої точки API Ollama описує належні варіанти, зокрема reverse proxy, який запитує облікові дані.

Що виходить з ладу і що ви побачите

Завантаження зупиняється посередині. Причина — диск. Виконайте df -h для каталогу моделі. Збірка bf16 обсягом 57 GB не вміщується на кореневому томі обсягом 40GB. Так само не вміщуються поруч збірки 8-bit і 4-bit.

Модель завантажується, а потім процес завершується. Причина — нестача пам’яті. dmesg -T записує, який процес вибрав kernel out of memory killer, а journalctl -u ollama -n 100 показує ту саму подію з боку сервісу. Виправлення — вибрати менший tag або менший num_ctx. Збільшення swap не допоможе.

Модель працює зі швидкістю кілька секунд на token. Виконайте vmstat 1 і стежте за стовпцями si та so. Постійна активність swap означає, що ваги не вміщуються в RAM, тому система зчитує їх із диска під час роботи.

Tag, який працював минулого тижня, зник. Списки tag змінюються. Повторно відкрийте сторінку моделі, зафіксуйте актуальний tag і запишіть його назву в місці, де зможете перевірити її знову.

Повторно перевірте розміри перед завантаженням

Розміри в таблиці взято зі сторінки tag моделі 25 October 2026, а опублікований список tag не є гарантією. Перегляньте актуальний список на сторінці моделі, а потім перевірте, що саме збереглося на диску:

ollama pull muse-glimmer:30b
ollama list
sudo du -sh /usr/share/ollama/.ollama/models

Ollama зберігає шари моделей як спільні blobs, тому два tag, які використовують один шар, не займають удвічі більше дискового простору. Порівняйте дані du з опублікованим розміром і плануйте дисковий простір за більшим із цих двох значень.

FAQ

Скільки RAM потребує Muse Glimmer на VPS?

Почніть із розміру tag і додайте context window. Станом на 25 October 2026 розмір default tag становить приблизно 18 GB, тому сервер із 16GB не зможе завантажити його взагалі, а на сервері з 24GB після завантаження залишиться мало пам’яті для context. Вважайте це початковою оцінкою, а не остаточною відповіддю. Завантажте tag, один раз виконайте його завантаження в пам’ять, потім запустіть ollama ps і free -h на власному сервері та перегляньте фактичні значення. Довший context і паралельні запити додатково збільшують використання пам’яті понад обсяг weights.

Чи можна запускати Muse Glimmer без GPU?

Так. Модель завантажується та генерує відповіді лише на CPU VPS. Швидкість генерації обмежена пропускною здатністю пам’яті, а не кількістю ядер. На shared host ця пропускна здатність є спільною для всіх користувачів, тому за 4-bit очікуйте лише кілька tokens per second. Цього достатньо для фонової роботи agent, яка виконується без нагляду, але для інтерактивного чату швидкість буде незручно низькою. Запустіть ollama ps під час запиту та перегляньте стовпець процесора, щоб перевірити, де виконується обчислення.

Чи придатні MLX tags для Linux VPS?

Ні. Кожен tag, який сторінка tag позначає як MLX, створено для MLX engine в Ollama, тобто для його Apple Silicon backend. Це стосується також 30b-nvfp4 і 30b-mxfp8, хоча в їхніх назвах немає mlx. На x86 Linux server ці tags займають багато місця під час завантаження, але запустити їх неможливо. Використовуйте звичайний 30b або один з інших tags без MLX. Ігноруйте benchmarks для Apple hardware, які стосуються MLX builds.

Чому модель забуває інформацію задовго до 128K tokens?

Тому що на сервері без GPU default context window в Ollama становить 4096 tokens незалежно від того, який обсяг підтримує модель. Через це server обрізає довгі розмови до того, як модель їх побачить. Установіть OLLAMA_CONTEXT_LENGTH на server, /set parameter num_ctx для одного session або передайте num_ctx в options API-запиту. Використання пам’яті зростає разом із цим значенням, тому збільшуйте його поступово та щоразу перевіряйте ollama ps.

Чи потрібно зафіксувати tag, чи можна просто використовувати latest?

Зафіксуйте tag. muse-glimmer без tag розгортається в latest. Це pointer, який publisher може будь-коли перемістити на іншу build, тому звичайна операція pull може змінити модель, яку запускає ваш agent. Записуйте muse-glimmer:30b у scripts, unit files і agent config. Перед фіксацією перевірте список tags на сторінці моделі, оскільки опубліковані tags змінюються.

Чи була ця стаття корисною?