AI agent, LLM і AI assistant: у чому різниця
LLM потребує RAM для ваг, assistant додає чат, а agent має інструменти, цикл виконання й облікові дані, тому його сервер має працювати постійно.
Чим відрізняються AI agent, LLM і AI assistant?
AI agent, LLM і AI assistant — це три рівні одного стеку. Відрізнити їх можна, з’ясувавши, що кожному з них потрібно від сервера. LLM (large language model) — це файл ваг, якому потрібні RAM і обчислювальні ресурси. AI assistant — це модель, доповнена чатом, обліковим записом і збереженою історією. Майже завжди вона працює на чужому обладнанні. AI agent — це assistant, який також має інструменти й цикл виконання. Він зберігає облікові дані, тому його потрібно розміщувати на машині, яка постійно працює.
У більшості матеріалів на цю тему пояснення обмежується визначеннями. Визначення важливі лише тому, що кожен рівень має різні витрати. Перший потребує RAM. Наступному потрібні публічна URL-адреса та TLS (transport layer security). Останній потребує облікових даних. Якщо agent використав облікові дані, їх потрібно змінити.
LLM — це ваги, а для ваг потрібна RAM
LLM — це файл із числами. Ви завантажуєте його, runtime завантажує файл у пам’ять, і модель обробляє запити по одному. Контракт простий: на вході текст, на виході текст. Модель не зберігає пам’ять між викликами, не має доступу до годинника, мережі чи можливості відкрити файл. Усе, що LLM нібито пам’ятає, програма, яка її викликає, додає до контексту.
Розмір цього файла визначає потрібний тариф VPS, оскільки під час роботи моделі весь файл перебуває в пам’яті. Для 4-бітної квантизації, яку Ollama постачає за замовчуванням, орієнтуйтеся приблизно на 0.6 GB на мільярд параметрів. Додайте ще один-два гігабайти для вікна контексту та самого runtime.
The data behind this chart
[
{
"label": "qwen3:4b",
"download_gb": 2.5,
"ram_gb_needed": 6
},
{
"label": "qwen3:8b",
"download_gb": 5.2,
"ram_gb_needed": 8
},
{
"label": "qwen3:14b",
"download_gb": 9.3,
"ram_gb_needed": 12
},
{
"label": "qwen3:32b",
"download_gb": 20.0,
"ram_gb_needed": 24
}
]Збірка qwen3:8b займає 5.2 GB на диску і потребує приблизно 8 GB RAM для роботи без використання swap. VPS із 4 GB не завантажить qwen3:14b, розмір якого становить 9.3 GB ще до введення першого слова. Найбільша модель у цій таблиці, qwen3:32b, потребує приблизно 24 GB, що в більшості прайс-листів означає інший тариф і іншу щомісячну оплату.
Вмістити модель у пам’ять — це одне питання. Швидкість — інше. На VPS лише з CPU вузьким місцем є пропускна здатність пам’яті, а не тактова частота. Тому модель, яка поміщається в пам’ять, усе одно може генерувати лише кілька токенів за секунду. Для завдання, яке виконується протягом ночі, цього достатньо. Для чату це незручно. GPU приблизно на порядок збільшує швидкість, але так само збільшує й рахунок, тому приймайте рішення на основі вимірювання: протестуйте VPS із робочим навантаженням, яке плануєте запускати і прочитайте матеріал коли GPU VPS виправдовує свою ціну. Щоб узагалі запустити модель, почніть із матеріалу Ollama на власному VPS.
Асистент — це LLM разом із чатом
Асистент — це продуктовий рівень навколо моделі. ChatGPT і Claude — це асистенти: модель, вікно чату, обліковий запис, збережені розмови, обмеження частоти запитів. Майже нічого з цього не працює на обладнанні, яким ви керуєте, тому хостований асистент потребує підписки та майже не використовує вашу RAM.
Версія для self-hosting — це front end, наприклад Open WebUI, підключений до локального Ollama або хостованого API. Front end — це невелике програмне забезпечення. Розраховуйте приблизно на 1 GB resident memory для чату, додатково до обсягу, потрібного моделі. Йому потрібні публічний URL і сертифікат, на відміну від самої моделі, оскільки ви хочете отримувати доступ до чату з телефона: отримайте сертифікат за допомогою Certbot і Nginx або завершуйте TLS на Traefik перед кількома застосунками. Якщо ви ще вибираєте front end, порівняйте альтернативи Open WebUI.
Асистент відповідає. Він не виконує дії. Коли він записує shell-команду, людина читає її та вирішує, чи вставляти її в термінал. Ця людина є рівнем безпеки, а agent — це компонент, який його усуває.
Агент додає інструменти та цикл
Агент — це помічник, який може викликати функції, а потім читати результати. Роботу виконують дві частини. Перша — інструмент: опис функції, яку може запросити модель, і ваш код, що фактично її запускає. Друга — цикл: ваша програма викликає модель, модель запитує інструмент, програма запускає його, додає результат до діалогу та знову викликає модель. Це повторюється, доки модель не повідомить про завершення або доки ліміт не зупинить цикл.
Цикл — це звичайний код, і базова реалізація займає менше ста рядків. Агентом його робить те, що інструменти мають справжні облікові дані, тому цикл може змінювати щось за межами самої програми. Саме цей факт визначає всі подальші рішення щодо розміщення. Навички агентів і сервери MCP (model context protocol) — це два способи надати агенту більше інструментів без переписування циклу.
- Він працює довше за вашу сесію. Чат завершується, коли ви закриваєте вкладку. Запуск агента може тривати двадцять хвилин і має переживати перехід ноутбука в режим сну, тому агент слід розміщувати на постійно увімкненому сервері та запускати через сервіс або таймер systemd, який відновлює його роботу після перезавантаження.
- Він зберігає секрети. Це може бути API key, SSH key або пароль до бази даних. Будь-що, що може прочитати агент, ворожа інструкція, прихована у вхідних даних, може змусити його використати. Тому зберігайте секрети поза доступом агента.
- Його вартість зростає разом із циклом, а не лише з вашим запитанням. На кожному кроці весь діалог повторно надсилається як вхідні дані, тому запуск із десятьма кроками оплачує цей текст десять разів. Саме тому вхідні токени становлять більшу частину вартості агента і потрібно встановити жорстке обмеження витрат на один запуск.
- Він може помилятися так, що це призведе до запису змін. Неправильна відповідь у чаті лише змусить вас перечитати її. Неправильна команда видалення в циклі може видалити весь каталог. Запускайте агент як користувача з мінімальними правами, достатніми для його роботи, а для coding agents спочатку запускайте його в sandbox перед наданням доступу до репозиторію.
Що потрібно кожному рівню від сервера
The data behind this chart
[
{
"label": "LLM (weights you host)",
"ram_gb": 8,
"gpu": "helps a lot",
"public_url": "no",
"credentials": "none"
},
{
"label": "Assistant (chat surface)",
"ram_gb": 1,
"gpu": "no",
"public_url": "yes",
"credentials": "one login"
},
{
"label": "Agent (tools and a loop)",
"ram_gb": 2,
"gpu": "no",
"public_url": "only for webhooks",
"credentials": "several"
}
]Уважно прочитайте стовпець RAM, оскільки в ньому не враховано модель. Фронтенд чату та середовище виконання агента — це невеликі програми. Якщо агент викликає hosted-модель, для її роботи достатньо 2 GB RAM, і недорогий тариф є повноцінним рішенням, а не компромісом. Якщо розмістити ваги на тому самому сервері, рядок моделі на 8 GB визначає вимоги всієї системи.
Інші стовпці важливіші, ніж може здаватися. Лише рівень моделі працює швидше з GPU. Лише рівню асистента зазвичай потрібна публічна URL-адреса, оскільки браузер має до нього підключатися; агент потребує її лише тоді, коли щось зовнішнє має викликати його, наприклад через webhook. Агент також зберігає several облікових даних. Саме це є ключовою відмінністю між агентом і вікном чату. Вікно чату може помилитися. Агент може помилитися, а потім виконати дію на основі цієї помилки.
Чи потрібен GPU для запуску AI-агента?
Ні, якщо ви не розміщуєте ваги моделі на тому самому комп’ютері. Цикл роботи агента складається з HTTP-запитів, обробки JSON і викликів subprocess. Під час очікування відповіді від мережі CPU майже не використовується. Питання про GPU насправді зводиться до питання про рівень LLM.
Тому рішення слід розділити. Якщо текст не може залишати ваш сервер, потрібна пам’ять для зберігання моделі, а для прийнятної швидкості — GPU для її запуску. Якщо вам потрібна лише автоматизація, орендуйте модель з оплатою за токени, а кошти спрямуйте на безперервну доступність і резервні копії. Більшість self-hosted агентів у 2026 році звертаються до hosted model, тому їх дешевше запускати саме так.
Чи можна розгорнути AI-агента на власній інфраструктурі?
Так. Саме агент найдоцільніше розгортати на власній інфраструктурі, оскільки в його циклі виконання зберігаються ваші дані та облікові дані. Невеликий VPS із 2 GB RAM, менеджером служб і вихідним доступом до мережі може запускати повноцінного агента. Оберіть варіант із власною збіркою на VPS, якщо хочете самостійно керувати циклом виконання, або розгорніть один із готових агентів для self-hosting, якщо хочете почати з готового рішення.
Розгорнути асистента на власній інфраструктурі легко: потрібні один контейнер і сертифікат. Розгортання моделі на власній інфраструктурі є дорогою частиною. Саме від нього часто відмовляються, побачивши, як токени повільно обробляються на CPU. Розгортайте ваги на власній інфраструктурі, якщо дані не можуть залишати сервер або якщо обсяг використання робить оплату за токени надто дорогою. В інших випадках дозвольте агенту викликати API, а найважливіші компоненти залиште локальними.
Чи є ChatGPT AI-агентом?
Чат-продукт стає агентом у той момент, коли він може викликати інструмент і діяти на основі отриманого результату, не запитуючи вас заздалегідь. За цим критерієм хостовані асистенти з вебпереглядом, виконанням коду або конекторами є агентами. Для вас різниця полягає в тому, де виконується цей цикл і чиї облікові дані він використовує. У хостованому продукті і цикл, і облікові дані належать постачальнику. На власному сервері вони належать вам, як і відповідальність за все, що цей цикл робить о третій ночі.
Реактивні, планувальні та мультиагентні
У добірках часто перелічують сім типів агентів. Більшість із них є маркетинговими категоріями. Два розрізнення впливають на код, який ви пишете, а одне — на витрати. Реактивний агент викликає інструмент, читає відповідь і відповідає. Планувальний агент спочатку створює план, а потім виконує його крок за кроком. Такий підхід краще працює під час тривалих завдань і потребує більше токенів, оскільки план надсилається повторно на кожному кроці. Мультиагентна конфігурація дає змогу одному агенту запускати інших. Водночас вона збільшує витрати токенів і кількість можливих відмов. Тому вона виправдана лише тоді, коли підзавдання справді незалежні, наприклад під час одночасного пошуку в чотирьох джерелах. Починайте з реактивного підходу. Додавайте планування, коли виконання стає тривалим. До мультиагентного підходу переходьте в останню чергу. Загальну картину наведено в матеріалі що варто вивчити про AI-агентів у 2026 році.
Як визначити, який рівень ви фактично використовуєте
На сервері перевірте, які процеси утримують пам’ять.
free -h
ps -eo rss,comm --sort=-rss | head -5Якщо у верхньому рядку зазначено ollama або llama-server, які використовують кілька гігабайтів RSS (resident set size — обсяг пам’яті, який процес фактично займає), ви розміщуєте модель. Якщо жоден процес не використовує більше кількох сотень мегабайтів, а рахунок за API постійно зростає, ви розміщуєте агента або асистента, а модель орендуєте. Якщо список порожній, оскільки все відбувається у вкладці браузера, ви користуєтеся асистентом. Це цілком нормальний варіант, доки вам не знадобиться програмне забезпечення, яке діє від вашого імені.
Що саме ви хочете запустити?
- Щоб зберегти текст приватним, запустіть модель: розгорніть LLM на власній інфраструктурі за допомогою Ollama, а потім порівняйте середовища виконання в матеріалі Ollama проти vLLM, коли один користувач перетвориться на десять.
- Щоб самостійно керувати циклом роботи та інструментами, створіть агента: створіть власного AI-агента на VPS.
- Щоб отримати готовий результат уже сьогодні ввечері, розгорніть готового агента з добірки self-hosted агентів, які варто запускати.
- Якщо під цим ще немає сервера, почніть із матеріалу що насправді дає VPS.
FAQ
AI-агент — це просто LLM із додатковими кроками?
Додаткові кроки і є продуктом. LLM перетворює текст на текст і більше нічого не робить. Агент доповнює її інструментами, які може викликати, та циклом, що повторює ці виклики. Ці інструменти мають облікові дані, тому результат може змінити файл, базу даних або активний сервіс. Саме тому агенту потрібні постійно увімкнена машина, менеджер сервісів і політика роботи із секретами. Для LLM достатньо пам’яті, у якій зберігаються її ваги під час формування відповіді.
Чи потрібен GPU для запуску AI-агента?
Для агента — ні. Цикл складається з HTTP-запитів, обробки JSON і викликів підпроцесів. Усе це може виконувати будь-який CPU, поки процес очікує на мережу. GPU потрібен лише тоді, коли ви самостійно розміщуєте ваги моделі й хочете отримувати від неї більше кількох токенів за секунду. Агент, який викликає hosted model, без проблем працює на невеликому VPS без GPU.
Скільки RAM потрібно VPS для AI-агента?
Близько 2 GB, якщо агент викликає hosted model, оскільки він зберігає лише runtime, його залежності та невелику локальну базу даних. Якщо ви самостійно розміщуєте ваги, додайте модель до цього обсягу: лише qwen3:8b потребує приблизно 8 GB. Тому конфігурація «все на одному сервері» починається з цього значення і збільшується залежно від вибраної моделі.
Чи можу я самостійно розмістити AI-асистента й зберегти приватність розмов?
Так, але є одна умова, яка визначає все. Self-hosted front end, наприклад Open WebUI, зберігає облікові записи та історію на вашому сервері. Самі розмови залишаються приватними лише тоді, коли модель за ним також працює локально. Якщо підключити той самий front end до hosted API, текст кожного повідомлення все одно залишатиме ваш сервер. У такому разі ви зберігаєте історію, але не приватність.
У чому різниця між AI-агентом і чатботом?
Чатбот відповідає та зупиняється. Агент визначає наступну дію, викликає інструмент, читає результат і знову приймає рішення, доки завдання не буде виконано або не спрацює обмеження. Практичний критерій такий: якщо програмне забезпечення може щось змінити без натискання людиною кнопки між відповіддю та дією, це агент. Йому потрібні відповідна інфраструктура та захисні обмеження.