Prompt injection проти coding agent: загрози й захист
Дізнайтеся, як текст із README, pull request і tool output стає інструкцією для coding agent, які поверхні атаки існують і який захист справді зменшує шкоду.
Що таке prompt injection проти coding agent
Prompt injection проти coding agent має просте визначення: текст, який читає агент, сприймається як інструкція, яку агент виконує. Агент відкриває файл, коментар до pull request, вебсторінку або результат виклику інструмента. Усе це надходить як текст того самого типу, що й ваш власний запит. Якщо зловмисник контролює будь-який фрагмент цього тексту, він може впливати на ваш сеанс.
Таку властивість мають усі сучасні продукти для агентів. Модель отримує одну послідовність токенів. Ваш запит, system prompt, вміст файлів і результати роботи інструментів об’єднуються, після чого модель прогнозує продовження. Для токена не існує ознаки привілеїв. Формат не визначає, яку частину авторизували ви, а яка надійшла з чужого README-файлу.
Ця сторінка описує модель загроз: як текст під контролем зловмисника потрапляє до агента, що працює на сервері, які можливості отримує зловмисник на кожному етапі та які засоби захисту виправдовують витрати. Рекомендації щодо ізоляції в інших наших посібниках мають сенс лише після того, як ви зрозумієте, від чого саме потрібно ізолювати агента.
Чому модель не може відокремити вміст від інструкцій
Навчання допомагає, але не усуває проблему. Сучасні моделі навчені з підозрою ставитися до отриманого тексту й відхиляють багато грубих спроб. Відмова є ймовірністю, а не правилом. Зловмисник може перефразовувати запит, повторювати спроби та приховувати текст у форматі, який ніхто не передбачив. Кількість таких формулювань нічим не обмежена.
Проєкт OWASP GenAI відстежує цю проблему як LLM01:2026 Prompt Injection — перший пункт у його 2026 Top 10 for LLM Applications — і поділяє її на два типи. Пряма ін’єкція — це дані, які користувач або зловмисник із доступом користувача передає безпосередньо моделі та змінює її поведінку. Непряма ін’єкція — це зовнішній вміст, наприклад вебсайт або файл, який змінює поведінку моделі під час обробки. Саме непряма ін’єкція має значення на сервері, оскільки агент читає значно більше тексту, ніж ви вводите.
Перше систематичне дослідження виконали Greshake та його колеги: Not what you've signed up for (2023). Запам’ятайте їхній висновок: коли застосунок передає отриманий текст моделі, яка може викликати інструменти, обробка цього тексту майже еквівалентна довільному виконанню коду.
Умова, за якої читання перетворюється на компрометацію
Саме по собі читання шкідливого тексту не завдає шкоди. Для завдання шкоди потрібен канал виведення даних із машини.
Simon Willison назвав таке поєднання летальною тріадою у червні 2025 року. Агент, який має доступ до приватних даних, взаємодіє з ненадійним вмістом і може передавати дані назовні, можна змусити вивести перші через третій компонент.
Coding agent на вашому VPS має все це відразу. Приватні дані — це ваш вихідний код, файл .env, ключі SSH і історія shell. Ненадійний вміст — це кожен репозиторій, сторінка та результат роботи інструментів, які він читає. Каналом виведення можуть бути git push, curl, npm publish, тіло pull request або посилання, надруковане в терміналі, яке ви відкриєте.
Ви не можете усунути другу умову, оскільки читання ненадійного тексту — це завдання, для якого ви найняли агента. Тому кожен практичний захист має працювати з двома іншими умовами.
Де недовірений текст потрапляє до coding agent на сервері
Репозиторій, у якому працює agent
Кожен файл у checkout є вхідними даними. Коментарі у вихідному коді, README.md, журнали змін, тестові фікстури, vendored code і самі файли інструкцій для agent: CLAUDE.md, AGENTS.md та їхні аналоги. Agent, якого попросили зрозуміти codebase, читає їх, оскільки саме цього від нього очікують.
Тут зловмисник отримує доступ до всіх, хто клонує репозиторій і запускає в ньому agent. Файли інструкцій є найпрямішим шляхом, оскільки їх створено саме для читання як інструкцій. Pull request, що додає чотири корисні рядки до CLAUDE.md і один рядок із перенаправленням agent, може залишитися непоміченим під час швидкого перегляду людиною.
Issues, pull requests і коментарі code review
Будь-який текст, який стороння людина може ввести у ваш tracker, потрапляє до agent одразу після того, як ви просите його виконати triage. У травні 2025 року Invariant Labs опублікувала висновок щодо GitHub MCP саме такого типу. Agent розробника мав доступ до одного публічного та приватних репозиторіїв. Зловмисник створив issue у публічному репозиторії. Коли розробник попросив agent переглянути відкриті issues, agent прочитав вміст приватних репозиторіїв і записав його в pull request у публічному репозиторії.
У цьому звіті описано архітектурну проблему, а не дефект коду MCP server. Agent мав один токен із широкими правами доступу, читав із публічної скриньки та мав дозвіл на запис. У звичайному розумінні нічого не було налаштовано неправильно, тому відповіддю має бути обмеження прав, а не виправлення коду.
Вебсторінки, які завантажує agent
Документація, відповіді на форумі, сторінка vendor, результат пошуку. Будь-який із цих матеріалів може містити текст, написаний для agent, а не для вас. Перетворення HTML на текст дає зловмиснику більше можливостей, оскільки до моделі потрапляє навіть вміст, який браузер ніколи не відображає.
Зловмисник отримує контроль у момент, коли за agent стежать найменше. Ніхто не читає повний текст сторінки, яку agent завантажив під час пошуку інформації.
Вивід інструментів MCP
MCP (model context protocol) — поширений спосіб підключення agent до зовнішніх інструментів. Результати повертаються як текст і безпосередньо потрапляють у context window. Тут є дві поверхні атаки, а не одна. Очевидна поверхня — дані, які повертає інструмент. Інша — власні назва та опис інструменту, які модель читає, щоб вирішити, коли його викликати; server, яким ви не керуєте, може змінити будь-яке з них між викликами.
Зловмисник, який додає текст до виводу одного інструменту, отримує доступ до всіх інших інструментів agent. Так ін’єкція в інструменті з низькою цінністю зрештою керує інструментом із високою цінністю.
CI logs, build output і метадані залежностей
npm install виводить текст із пакетів, які ви не писали. Помилка тесту виводить повідомлення assertion з бібліотеки. Журнал завдання continuous integration (CI) містить тисячі рядків виводу сторонніх компонентів. Якщо попросити agent виправити невдалу збірку, він прочитає все це.
Тут зловмисник отримує доступ до build machine, де зазвичай зберігаються облікові дані для розгортання та registry tokens і за якою зазвичай стежать менше, ніж за laptop.
Що насправді отримує зловмисник
Варто планувати чотири можливі наслідки.
Викрадення облікових даних. Усе, що може прочитати процес агента, перебуває в зоні ризику: змінні середовища, ~/.aws/credentials, ~/.ssh, токен gh, файл конфігурації Docker. Для їхнього передавання назовні не потрібен curl. Коміт у гілку, опис pull request, пакет, опублікований у registry, або DNS-запит до імені, контрольованого зловмисником, — усі ці дії передають дані за межі сервера.
Зміни коду, які ви схвалюєте. Написання коду — завдання агента, тому змусити його додати непомітно неправильний рядок є найпростішим сценарієм. Наприклад, можна додати залежність або виклик журналювання, який передає токен у журнал, що ви надсилаєте в інше місце.
Закріплення в системі. Файл, записаний один раз, продовжує працювати без участі моделі: hook у .git/hooks, скрипт postinstall у package.json, рядок, доданий до файлу запуску оболонки, або додатковий рядок у CLAUDE.md. Наступна команда виконає його.
Переміщення всередині мережі. Агент працює там, де ви його розмістили. Якщо цей сервер має доступ до бази даних через loopback, внутрішнього адміністративного сервісу, metadata service вашого cloud provider або іншого хоста в приватній мережі, такий самий доступ має все, що керує агентом.
Режими автоматичного підтвердження усувають останню перевірку
У режимі Manual, значення якого в конфігурації — default, Claude Code запитує підтвердження перед виконанням команди або редагуванням файлу. Це запитання є перевіркою людиною між кожною описаною вище поверхнею та фактичною дією. Режими, які усувають запитання, усувають і цю перевірку. Починаючи з Claude Code v2.1.283, сеанс більше не починається в режимі Manual: сеанси в інтерактивному терміналі та VS Code запускаються в автоматичному режимі, якщо параметр не вибирає інший режим (перевірено в October 2026).
У документації прямо зазначено щодо bypassPermissions: використовуйте його лише в ізольованих середовищах, наприклад у контейнерах або VM, де Claude Code не може завдати шкоди. Автоматичний режим м’якший: окрема модель-класифікатор перевіряє дії перед виконанням і блокує все, що виходить за межі вашого запиту, спрямоване на нерозпізнану інфраструктуру або, імовірно, зумовлене шкідливим вмістом, який прочитав Claude. Ці перевірки виявляють багато проблем. Однак це все одно оцінювання виходу однієї моделі іншою моделлю, тому сприймайте їх як фільтр, а не як межу безпеки.
Щоб зберегти запит підтвердження, задайте permissions.defaultMode значення "default" (або його псевдонім "manual") у ~/.claude/settings.json або в .claude/settings.json проєкту. Адміністратор може повністю видалити два інші режими. Задайте permissions.disableBypassPermissionsMode або permissions.disableAutoMode значення "disable" у файлі налаштувань і розмістіть цей файл у керованих налаштуваннях, щоб клонований проєкт не міг їх перевизначити. У нашому посібнику автоматичний режим Claude Code і правила дозволів описано, де набуває чинності кожне правило.
Засоби захисту в порядку їхньої користі
Жоден із них не є повним виправленням. Кожен або обмежує те, що зберігає агент, або те, що він може з цим зробити.
- Машина, яку можна знищити й перебудувати, щоб компрометація коштувала вам годину, а не інцидент.
- Облікові дані, відокремлені від ваших, обмежені одним репозиторієм і короткоживучі.
- Відсутність довгоживучих секретів у середовищі, яке успадковують команди агента.
- Обмеження операційної системи для вихідного мережевого трафіку та доступу до файлів, які застосовуються до кожного процесу, запущеного агентом.
- Увімкнені запити на підтвердження для операцій запису та мережевих викликів.
- Hooks як детермінований резервний захист для конкретних дій, які можна назвати.
- Перегляд diff перед злиттям.
Порядок має значення. Пункти 1–4 діють навіть тоді, коли модель повністю контролює зловмисник. Пункти 5–7 залежать від уважності людини, а саме вона зникає першою під час тривалого запуску агента.
Розмістіть агента на машині, яку можна викинути
VPS із checkout і одним токеном з обмеженою областю дії є значно менш цінною ціллю, ніж ноутбук із вашими ключами. Запускайте агента від імені окремого непривілейованого користувача, а не облікового запису, під яким ви входите в систему, і не root. Налаштування описано в наших посібниках про disposable VM для coding agents і про користувачів із мінімальними привілеями на VPS, а запуск Claude Code безпечно на VPS описує щоденну конфігурацію.
Приберіть секрети із середовища
Змінну середовища може прочитати кожен дочірній процес, тобто кожна команда, яку запускає агент. Sandbox Claude Code може скасовувати іменовані змінні перед виконанням кожної команди в sandbox. У Linux спочатку потрібні два пакети:
sudo apt-get install bubblewrap socatВ Ubuntu 24.04 і новіших версіях політика AppArmor за замовчуванням не дає bubblewrap створювати потрібні йому user namespaces. Якщо sysctl kernel.apparmor_restrict_unprivileged_userns повертає 1, додайте короткий профіль AppArmor для bwrap, наведений у документації Claude Code про sandboxing, а потім перезавантажте AppArmor.
Потім у ~/.claude/settings.json:
{
"sandbox": {
"enabled": true,
"network": {
"allowedDomains": ["github.com", "*.npmjs.org"],
"strictAllowlist": true
},
"credentials": {
"envVars": [
{ "name": "GITHUB_TOKEN", "mode": "deny" },
{ "name": "NPM_TOKEN", "mode": "deny" }
]
}
}
}Запис deny скасовує цю змінну перед виконанням кожної команди в sandbox, а allowedDomains перелічує хости, до яких можуть підключатися команди в sandbox. Без strictAllowlist режим дозволів визначає, що робити з хостом поза цим списком: режим Manual запитує підтвердження, а автоматичний режим дає класифікатору змогу відкрити додаткові хости для однієї команди. Натомість strictAllowlist відхиляє кожен хост, якого немає у списку. Для цього потрібен Claude Code v2.1.219 або новіший; параметр діє лише з user або managed settings, тому репозиторій не може його вимкнути (перевірено в October 2026). Для блоку credentials потрібен Claude Code v2.1.187 або новіший, перевірено в August 2026. Виконайте /sandbox у сеансі, щоб побачити, які рівні захисту активні та яких залежностей бракує. Визначити, які секрети взагалі мають бути на цій машині, — це більша частина роботи, і захист секретів від доступу AI-агента допомагає її виконати.
Обмежте вихідний мережевий трафік на рівні операційної системи
Правилу firewall байдуже, яке рішення прийняла модель. Запускайте агента від імені окремого користувача agent, а потім відкидайте трафік, який надсилає цей користувач:
table inet agentcage {
chain output {
type filter hook output priority filter; policy accept;
meta skuid "agent" ct state established,related accept
meta skuid "agent" oif lo accept
meta skuid "agent" counter drop
}
}У результаті користувач agent матиме доступ лише до loopback, тому його трафік проходитиме через proxy, запущений на цій самій машині, а proxy зберігатиме allowlist імен хостів. Якщо https_proxy вказує на цей proxy, клієнт надсилає запит CONNECT, а proxy виконує пошук імені, тому агенту не потрібен власний вихідний DNS (domain name system). Перевірте результат за допомогою sudo nft list ruleset і стежте, як зростає лічильник у правилі drop, коли агент намагається підключитися до нового ресурсу.
Під час зміни правил firewall тримайте відкритим другий SSH-сеанс. Також перевірте, як ваш container runtime працює з цими правилами: Docker створює власні chains, а опубліковані порти Docker обходять ufw описує причину цієї несподіваної поведінки.
Hooks: перевірка, яку модель не може обійти словами
Permission rules і hooks застосовує Claude Code, а не модель. У документації це зазначено прямо: інструкції у вашому prompt або CLAUDE.md визначають, що Claude намагається зробити, але не змінюють того, що Claude Code дозволяє. У цьому й полягає вся цінність такого розмежування. Рядок у CLAUDE.md зі словами "never run curl" — це лише рекомендація, з якою injected paragraph може сперечатися. Hook — це процес, який повертає exit code.
Зареєструйте hook PreToolUse у .claude/settings.json:
{
"hooks": {
"PreToolUse": [
{
"matcher": "Bash",
"hooks": [
{
"type": "command",
"command": "${CLAUDE_PROJECT_DIR}/.claude/hooks/no-egress.sh"
}
]
}
]
}
}Hook отримує виклик інструмента у форматі JSON через standard input. Exit code 2 блокує виклик і показує Claude причину зі standard error. Exit code 0 дає виклику змогу продовжити виконання через звичайний flow дозволів.
#!/usr/bin/env bash
# PreToolUse: stdin holds the tool call, exit 2 blocks it.
cmd=$(jq -r '.tool_input.command // ""')
if printf '%s' "$cmd" | grep -qE '(^|[;&|]|\s)(curl|wget|nc|ncat)(\s|$)'; then
echo "Blocked: this repository does not allow outbound network commands." >&2
exit 2
fi
exit 0Тепер важлива частина. Це denylist для shell string, а denylists для shell strings мають прогалини. python3 -c відкриває socket, не використовуючи слово curl. Ціль make deploy приховує той самий виклик ще на один рівень нижче. Створюйте hooks для помилок, які можете назвати, а межу, на яку ви справді покладаєтеся, реалізуйте в kernel або в мережі.
Правила permission deny мають важливе обмеження зіставлення. Правила deny Read і Edit охоплюють власні file tools Claude та file commands, які він розпізнає в Bash, зокрема cat, head, tail і sed. Вони не охоплюють скрипт Python або Node, який сам відкриває файл. Правила перевіряються в такому порядку: спочатку deny, потім ask, потім allow. Тому правило deny не може містити виняток allowlist.
{
"permissions": {
"deny": [
"Read(.env)",
"Read(./secrets/**)",
"Bash(git push *)"
]
}
}Стежте за даними, що виходять, і переглядайте diff
Запуск агента створює diff і набір мережевих викликів. Обидва потрібно переглянути перед злиттям або розгортанням. Перевірка безпеки self-hosted для diff виявляє інший клас змін, ніж побіжний перегляд людиною, а розуміння того, що coding agent надсилає за межі машини показує нормальний вигляд трафіку, тому незвичний запит помітний.
Що досі не вирішено
Сьогодні немає надійного розмежування між вмістом та інструкціями. Кожен доступний захист або є фільтром із певною частотою помилок, або лише обмежує наслідки. У стеку немає механізму, який позначав би фрагмент тексту як дані, яким за жодних обставин не можна підкорятися.
Фільтри допомагають, але вони також помиляються. Класифікатор, який виявляє більшість спроб ін’єкцій, усе одно має щоразу спрацювати правильно, тоді як зловмиснику достатньо мати рацію один раз. Саме ця асиметрія пояснює, чому опублікований показник успішності захисту є відправною точкою для наступної спроби, а не гарантією.
Найперспективніші дослідження зосереджені на рівні проєктування, а не моделі. CaMeL у роботі Defeating Prompt Injections by Design (Debenedetti та колеги, 2025) спочатку виокремлює потік керування й потік даних із довіреного запиту, щоб недовірені дані не могли змінити поведінку програми, а потім застосовує перевірки дозволів під час виклику інструментів. Власні показники авторів роботи на бенчмарку AgentDojo показують ціну такого підходу.
Дані, на яких побудовано графік
[
{
"label": "Undefended agent",
"tasks_solved_pct": 84
},
{
"label": "CaMeL",
"tasks_solved_pct": 77
}
]Агент без захисту виконав 84 відсотка завдань. CaMeL виконав 77 відсотка із гарантією безпеки. Це опубліковані в роботі показники для одного бенчмарку, а не вимірювання для вашого робочого навантаження. Різниця між ними приблизно показує, скільки сьогодні коштує реальна гарантія.
Поки такий підхід не буде реалізований в інструментах, якими ви користуєтеся щодня, виходьте з того, що агент у певний момент буде скомпрометований, і зробіть цю подію буденною. Саме для цього потрібні одноразова машина, обмежені облікові дані, контрольований вихідний трафік і звичка переглядати diff.
FAQ
Чи можна зупинити prompt injection, наказавши агенту ігнорувати інструкції у файлах?
Ні. Це речення перебуває в тому самому контекстному вікні, що й атака, і має такий самий пріоритет, як текст зловмисника. Документація Claude Code чітко розмежовує ці поняття: інструкції у вашому prompt або CLAUDE.md визначають, що агент намагатиметься зробити, але не змінюють дозволи інструмента. Розглядайте файл інструкцій як опис наміру, а все, на що ви покладаєтеся, задавайте в правилах дозволів, хуку PreToolUse або правилі firewall.
Чи є prompt injection реальною загрозою, якщо агент працює лише з моїм власним репозиторієм?
Так, оскільки ваш репозиторій містить багато тексту, написаного не вами. Файли README залежностей, URL у lockfile, тестові fixtures, vendored code і результат роботи npm install надходять під час звичайного завдання. Усе, що отримується з issue tracker або сайту з документацією, надходить так само. Ризик зростає разом з обсягом тексту, який читає агент, а корисний агент читає багато.
Чи вирішує запуск агента в контейнері цю проблему?
Він обмежує збитки, але лише якщо ви також заберете облікові дані. Контейнер із forwarded SSH agent, cloud credentials у змінних середовища та необмеженим мережевим доступом фактично передає зловмиснику майже все, що має host. Контейнер справді дає вам файлову систему, яку можна видалити, і чисте середовище для застосування правил egress. Поєднайте це з токеном, обмеженим одним репозиторієм.
Яка одна зміна найбільше зменшує ризик?
Приберіть довготривалі облікові дані зі середовища, від якого команди агента успадковують налаштування, а потім задайте для цієї машини політику egress за замовчуванням deny. Разом ці заходи усувають третю умову lethal trifecta: текст усе ще може перехопити керування агентом, але дані, до яких він дістанеться, не матимуть корисного напрямку для передачі. Запити на підтвердження та перевірка diff також допомагають, але залежать від того, чи людина зберігає пильність протягом тривалого запуску. Тому вони мають нижчий пріоритет, ніж ці дві зміни.