SSD Nodes Learn Hosting plans →
가이드 Matt Connor작성자 Matt Connor · 업데이트됨 2026-10-24

코딩 에이전트 프롬프트 인젝션 공격과 방어

파일, PR 댓글, 웹 페이지, 도구 결과가 공격 표면이 되는 이유를 서버 위협 모델로 정리하고 실제 피해를 줄이는 방어책의 우선순위를 비교합니다.

코딩 에이전트에 대한 프롬프트 인젝션이란

코딩 에이전트에 대한 프롬프트 인젝션은 간단히 정의할 수 있다. 에이전트가 읽는 텍스트가 에이전트가 따라야 할 지시로 처리되는 것이다. 에이전트는 파일, pull request 댓글, 웹 페이지 또는 도구 호출 결과를 연다. 이 모든 내용은 사용자가 직접 보낸 요청과 같은 종류의 텍스트로 전달된다. 공격자가 이러한 텍스트를 제어할 수 있다면, 공격자는 사용자의 세션에 내용을 작성하는 셈이다.

현재 제공되는 모든 에이전트 제품에는 이 특성이 있다. 모델은 하나의 토큰 시퀀스를 받는다. 사용자의 요청, system prompt, 파일 내용과 도구 결과가 하나로 결합되고, 모델은 그다음에 올 내용을 예측한다. 토큰에는 권한을 나타내는 비트가 없다. 어느 부분이 사용자가 승인한 내용이고 어느 부분이 낯선 사람의 README 파일에서 온 내용인지 형식만으로는 구분할 수 없다.

이 문서는 위협 모델을 설명한다. 서버에서 실행 중인 에이전트에 공격자가 제어하는 텍스트가 도달하는 지점, 각 지점에서 공격자가 얻는 것, 그리고 어떤 방어책에 투자할 가치가 있는지를 다룬다. 다른 가이드에서 설명하는 격리 조언은 무엇으로부터 에이전트를 격리하는지 알아야 의미가 있다.

모델이 콘텐츠와 지시사항을 구분하지 못하는 이유

학습은 도움이 되지만 문제를 완전히 해결하지는 못합니다. 현재의 모델들은 검색된 텍스트를 의심하도록 학습되었으며, 많은 조잡한 시도를 거부합니다. 하지만 거부는 규칙이 아니라 확률의 문제입니다. 공격자는 문장을 바꾸거나, 재시도하거나, 아무도 예상하지 못한 형식으로 텍스트를 숨길 수 있으며, 시도할 수 있는 문구의 수에는 제한이 없습니다.

OWASP GenAI 프로젝트는 이를 LLM01:2026 프롬프트 인젝션으로 추적하고 있으며, 이는 2026년 LLM 애플리케이션 Top 10의 첫 번째 항목입니다. 이 프로젝트는 이를 두 가지로 분류합니다. 직접 인젝션(Direct injection)은 사용자나 사용자의 권한을 가진 공격자가 모델에 직접 입력하여 모델의 동작을 변경하는 것입니다. 간접 인젝션(Indirect injection)은 웹사이트나 파일과 같은 외부 콘텐츠가 모델에 의해 처리될 때 동작을 변경하는 것입니다. 서버 환경에서는 에이전트가 사용자가 직접 입력하는 것보다 훨씬 많은 양의 텍스트를 읽기 때문에 간접 인젝션이 더 중요합니다.

첫 번째 체계적인 연구는 Greshake와 동료들의 Not what you've signed up for(2023)입니다. 이들의 결론은 반드시 기억해야 할 문장입니다. 애플리케이션이 검색된 텍스트를 도구를 호출할 수 있는 모델에 전달할 때, 해당 텍스트를 처리하는 것은 임의 코드 실행(arbitrary code execution)과 다를 바 없습니다.

읽기가 침해로 이어지는 조건

악성 텍스트를 읽는 것만으로는 손상이 발생하지 않는다. 손상이 발생하려면 시스템 밖으로 나갈 경로가 있어야 한다.

Simon Willison은 2025년 6월에 이 조합을 치명적 삼요소라고 명명했다. 비공개 데이터를 보유하고, 신뢰할 수 없는 콘텐츠에 노출되며, 데이터를 외부로 전송할 수 있는 에이전트는 대화를 통해 첫 번째 요소를 세 번째 경로로 내보내도록 유도될 수 있다.

VPS에서 실행하는 코딩 에이전트는 첫날부터 이 조건을 모두 갖춘다. 비공개 데이터는 소스 코드, .env 파일, SSH 키, 셸 기록이다. 신뢰할 수 없는 콘텐츠는 에이전트가 읽는 모든 저장소, 페이지, 도구 결과다. 외부로 나가는 경로는 git push, curl, npm publish, pull request 본문 또는 터미널에 출력되어 사용자가 클릭하는 링크다.

두 번째 조건은 제거할 수 없다. 신뢰할 수 없는 텍스트를 읽는 것이 에이전트를 사용하는 목적이기 때문이다. 따라서 실제로 적용할 수 있는 모든 방어는 나머지 두 조건을 대상으로 해야 한다.

신뢰할 수 없는 텍스트가 서버의 코딩 에이전트에 도달하는 경로

에이전트가 작업 중인 리포지토리

체크아웃된 모든 파일이 입력값이 됩니다. 소스 코드 주석, README.md, 변경 로그, 테스트 픽스처, 벤더링된 코드, 그리고 에이전트 지침 파일인 CLAUDE.md, AGENTS.md 및 이와 유사한 파일들이 포함됩니다. 코드베이스를 이해하라는 요청을 받은 에이전트는 사용자가 요청한 대로 이 파일들을 모두 읽습니다.

공격자가 여기서 얻는 이점은 해당 리포지토리를 클론하고 에이전트를 연결하는 모든 사람에게 접근할 수 있다는 점입니다. 지침 파일은 그 자체가 지침으로 읽히기 위해 존재하므로 가장 직접적인 경로가 됩니다. CLAUDE.md에 유용한 텍스트 4줄을 추가하면서 에이전트를 리다이렉트하는 텍스트 1줄을 섞어 넣은 풀 리퀘스트는 사람이 검토할 때 무심코 지나치기 쉽습니다.

이슈, 풀 리퀘스트 및 코드 리뷰 댓글

외부인이 트래커에 입력하는 모든 내용은 사용자가 에이전트에게 분류를 요청하는 순간 에이전트에 전달됩니다. 2025년 5월, Invariant Labs는 정확히 이러한 형태의 GitHub MCP 취약점을 발표했습니다. 한 개발자의 에이전트가 공개 리포지토리 하나와 비공개 리포지토리들에 접근 권한을 가지고 있었습니다. 공격자가 공개 리포지토리에 이슈를 등록했습니다. 개발자가 에이전트에게 열린 이슈를 확인하라고 요청하자, 에이전트는 비공개 리포지토리의 내용을 읽어 공개 리포지토리의 풀 리퀘스트에 작성했습니다.

이 보고서는 MCP 서버의 코드 결함보다는 아키텍처 문제를 설명합니다. 에이전트는 광범위한 접근 토큰을 보유하고 있었고, 공개된 수신함을 읽었으며, 쓰기 권한까지 가지고 있었습니다. 일반적인 의미에서 잘못 설정된 것은 없었기에, 이 문제의 해결책은 패치가 아닌 권한 범위 제한입니다.

에이전트가 가져오는 웹 페이지

문서, 포럼 답변, 벤더 페이지, 검색 결과 등이 해당합니다. 이 중 어떤 것이든 사용자가 아닌 에이전트를 위해 작성된 텍스트를 포함할 수 있습니다. HTML을 텍스트로 변환하면 공격자에게 더 많은 공간이 생깁니다. 브라우저에는 표시되지 않는 콘텐츠라도 모델에는 그대로 전달되기 때문입니다.

공격자는 에이전트가 가장 감시받지 않는 순간에 제어권을 획득합니다. 에이전트가 무언가를 검색하는 동안 가져온 페이지의 전체 텍스트를 읽는 사람은 아무도 없습니다.

MCP 도구 출력

MCP(model context protocol)는 에이전트가 외부 도구와 연결되는 일반적인 방식입니다. 결과는 텍스트로 반환되어 컨텍스트 윈도우로 바로 들어갑니다. 여기에는 두 가지 공격 표면이 존재합니다. 하나는 도구가 반환하는 데이터이고, 다른 하나는 모델이 도구 호출 여부를 결정하기 위해 읽는 도구의 이름과 설명입니다. 사용자가 제어하지 않는 서버는 호출 사이에 이 두 가지를 모두 변경할 수 있습니다.

한 도구의 출력에 텍스트를 삽입하는 데 성공한 공격자는 에이전트가 가진 다른 모든 도구에 접근할 수 있게 됩니다. 가치가 낮은 도구에 대한 주입 공격이 결국 가치가 높은 작업을 수행하게 만드는 방식이 바로 이것입니다.

CI 로그, 빌드 출력 및 의존성 메타데이터

npm install는 사용자가 작성하지 않은 패키지의 텍스트를 출력합니다. 테스트가 실패하면 라이브러리의 단언(assertion) 메시지가 출력됩니다. 지속적 통합(CI) 작업 로그는 수천 줄에 달하는 타사 출력물입니다. 실패한 빌드를 수정하라고 에이전트에게 요청하면 에이전트는 이 모든 내용을 읽습니다.

여기서 공격자는 빌드 머신에 대한 제어권을 얻습니다. 빌드 머신은 보통 배포 자격 증명과 레지스트리 토큰을 보유하고 있으며, 개인용 노트북보다 보안 관리가 소홀한 경우가 많습니다.

공격자가 실제로 얻는 것

다음 4가지 결과를 고려해야 한다.

자격 증명 탈취. 에이전트 프로세스가 읽을 수 있는 항목은 모두 대상이 된다. 환경 변수, ~/.aws/credentials, ~/.ssh, gh 토큰, Docker 구성 파일이 포함된다. 이러한 정보를 외부로 전송하는 데 curl는 필요하지 않다. 브랜치에 커밋하거나, pull request 설명에 작성하거나, 패키지를 레지스트리에 게시하거나, 공격자가 제어하는 이름을 DNS에 조회하는 것만으로도 데이터가 서버 외부로 이동한다.

사용자가 승인하는 코드 변경. 에이전트가 하는 일이 코드 작성이므로, 미묘하게 잘못된 한 줄을 작성하게 만드는 것이 가장 쉽게 달성할 수 있는 결과다. 종속성을 추가하거나, 토큰을 다른 곳으로 전송하는 로그에 기록하는 호출을 추가하는 경우가 이에 해당한다.

지속성. 한 번 작성한 파일은 모델이 더 이상 관여하지 않아도 계속 작동한다. .git/hooks의 hook, package.json에 있는 postinstall 스크립트, 셸 시작 파일에 추가한 한 줄, CLAUDE.md에 추가한 줄이 그 예다. 다음 명령이 해당 항목을 실행한다.

네트워크 내부로의 이동. 에이전트는 배치한 위치에서 실행된다. 해당 서버가 loopback의 데이터베이스, 내부 관리 서비스, 클라우드 제공업체의 metadata service 또는 사설 네트워크의 다른 호스트에 연결할 수 있다면, 에이전트를 구동하는 모든 요소도 동일한 대상에 연결할 수 있다.

자동 승인 모드는 최종 확인 단계를 제거합니다

설정값이 default인 수동(Manual) 모드에서 Claude Code는 명령을 실행하거나 파일을 수정하기 전에 사용자에게 확인을 요청합니다. 이 프롬프트는 모든 상위 인터페이스와 실제 작업 사이에서 인간의 검토를 보장하는 장치입니다. 프롬프트를 제거하는 모드는 이 확인 단계를 생략합니다. Claude Code v2.1.283 버전부터는 세션 시작 시 기본값이 수동 모드가 아닙니다. 별도의 설정으로 다른 모드를 지정하지 않는 한, 대화형 터미널과 VS Code 세션은 자동(Auto) 모드로 시작됩니다(2026년 10월 확인 기준).

문서에서는 bypassPermissions에 대해 명확히 경고합니다. Claude Code가 피해를 줄 수 없는 컨테이너나 VM과 같은 격리된 환경에서만 사용하십시오. 자동 모드는 이보다 완화된 형태입니다. 별도의 분류 모델이 작업을 실행하기 전에 검토하며, 요청 범위를 벗어나는 작업, 인식되지 않는 인프라를 대상으로 하는 작업, 또는 Claude가 읽은 악의적인 콘텐츠에 의해 유도된 것으로 보이는 작업을 차단합니다. 이러한 검토 과정은 많은 위험을 걸러냅니다. 하지만 이는 모델의 출력물에 대한 모델의 판단이므로, 이를 완벽한 경계가 아닌 필터로 간주해야 합니다.

프롬프트를 유지하려면 ~/.claude/settings.json 또는 프로젝트의 .claude/settings.json에서 permissions.defaultMode을 "default"(또는 별칭인 "manual")으로 설정하십시오. 관리자는 나머지 두 모드를 완전히 제거할 수 있습니다. 설정 파일에서 permissions.disableBypassPermissionsMode 또는 permissions.disableAutoMode를 "disable"로 설정하고, 해당 파일을 관리형 설정에 배치하면 체크아웃된 프로젝트가 이를 재정의할 수 없습니다. Claude Code 자동 모드 및 권한 규칙에 관한 가이드에서 각 규칙이 적용되는 위치를 확인할 수 있습니다.

방어 수단: 제공하는 가치에 따른 순위

이 중 어느 것도 완벽한 해결책은 아닙니다. 각 수단은 에이전트가 보유한 권한을 제한하거나, 그 권한으로 할 수 있는 작업을 제한할 뿐입니다.

  1. 언제든 삭제하고 다시 구축할 수 있는 머신: 침해 사고가 발생해도 전체 사건으로 번지지 않고 1시간 내에 복구할 수 있습니다.
  2. 본인 계정과 분리된 자격 증명: 단일 저장소로 범위가 제한되며, 수명이 짧습니다.
  3. 에이전트 명령이 상속받는 환경 내에 장기 보관되는 비밀 정보가 없음.
  4. 운영체제 수준의 네트워크 송신 및 파일 접근 제어: 에이전트가 시작하는 모든 프로세스에 적용됩니다.
  5. 쓰기 작업 및 네트워크 호출에 대한 승인 프롬프트 유지.
  6. 명시적으로 정의한 특정 작업에 대한 결정론적 안전장치로서의 훅(Hook).
  7. 병합 전 변경 사항(diff) 검토.

순서가 중요합니다. 1번부터 4번까지는 모델이 공격자에게 완전히 장악된 상태에서도 유효합니다. 5번부터 7번까지는 인간의 주의력에 의존하는데, 에이전트가 장시간 실행되면 인간의 주의력은 필연적으로 흐려지기 때문입니다.

에이전트를 폐기 가능한 머신에서 실행하십시오

체크아웃된 코드와 범위가 제한된 토큰 하나만 보유한 VPS는 개인 키가 들어 있는 노트북보다 훨씬 작은 공격 대상입니다. 에이전트는 로그인 계정이나 root가 아닌, 권한이 없는 별도의 사용자 계정으로 실행하십시오. 코딩 에이전트를 위한 일회용 VM 및 VPS에서의 최소 권한 사용자 가이드에서 설정 방법을 다루며, Claude Code를 VPS에서 안전하게 실행하는 방법에서 일상적인 운영 방식을 설명합니다.

환경에서 비밀 정보를 제거하십시오

환경 변수는 모든 자식 프로세스에서 읽을 수 있으며, 이는 에이전트가 실행하는 모든 명령이 해당 변수에 접근할 수 있음을 의미합니다. Claude Code의 샌드박스는 샌드박스화된 각 명령을 실행하기 전에 지정된 변수를 해제(unset)할 수 있습니다. Linux에서 샌드박스를 사용하려면 먼저 두 가지 패키지가 필요합니다.

sudo apt-get install bubblewrap socat

Ubuntu 24.04 이상에서는 기본 AppArmor 정책이 bubblewrap의 사용자 네임스페이스 생성을 차단합니다. sysctl kernel.apparmor_restrict_unprivileged_userns 명령이 1을 반환하면, Claude Code 샌드박스 문서에서 제공하는 bwrap용 간소화된 AppArmor 프로필을 추가한 뒤 AppArmor를 다시 로드하십시오.

그다음 ~/.claude/settings.json에서 설정합니다.

{
  "sandbox": {
    "enabled": true,
    "network": {
      "allowedDomains": ["github.com", "*.npmjs.org"],
      "strictAllowlist": true
    },
    "credentials": {
      "envVars": [
        { "name": "GITHUB_TOKEN", "mode": "deny" },
        { "name": "NPM_TOKEN", "mode": "deny" }
      ]
    }
  }
}

deny 항목은 샌드박스화된 각 명령이 실행되기 전에 해당 변수를 해제하며, allowedDomains은 샌드박스화된 명령이 접근할 수 있는 호스트 목록을 지정합니다. strictAllowlist가 없으면 권한 모드에 따라 목록 외부 호스트에 대한 처리 방식이 결정됩니다. 수동 모드(Manual mode)는 사용자에게 승인을 요청하며, 자동 모드(Auto mode)는 분류기가 단일 명령을 위해 추가 호스트를 열 수 있도록 허용합니다. 반면 strictAllowlist은 목록에 없는 모든 호스트를 거부합니다. 이 기능은 Claude Code v2.1.219 이상이 필요하며 사용자 또는 관리형 설정에서만 적용되므로, 저장소 단위에서 이를 해제할 수 없습니다(2026년 10월 확인). credentials 블록은 Claude Code v2.1.187 이상이 필요합니다(2026년 8월 확인). 세션에서 /sandbox를 실행하여 활성화된 레이어와 누락된 종속성을 확인하십시오. 해당 머신에 어떤 비밀 정보가 필요한지 결정하는 것이 작업의 절반 이상을 차지하며, AI 에이전트가 비밀 정보에 접근하지 못하도록 차단하기에서 이를 상세히 다룹니다.

운영체제 수준에서 네트워크 송신 차단

방화벽 규칙은 모델의 판단을 고려하지 않습니다. 에이전트를 전용 agent 사용자로 실행한 뒤, 해당 사용자가 보내는 패킷을 차단하십시오.

table inet agentcage {
  chain output {
    type filter hook output priority filter; policy accept;
    meta skuid "agent" ct state established,related accept
    meta skuid "agent" oif lo accept
    meta skuid "agent" counter drop
  }
}

이렇게 하면 agent 사용자는 루프백(loopback)만 사용할 수 있게 됩니다. 따라서 모든 트래픽은 같은 머신에서 실행 중인 프록시를 거쳐야 하며, 프록시가 호스트 이름 허용 목록을 관리합니다. https_proxy이 해당 프록시를 가리키도록 설정하면, 클라이언트는 CONNECT 요청을 보내고 프록시가 이름 조회를 수행하므로 에이전트는 자체적인 아웃바운드 DNS(Domain Name System)가 필요하지 않습니다. sudo nft list ruleset으로 설정을 확인하고, 에이전트가 새로운 대상에 접근하려 할 때 차단 규칙의 카운터가 올라가는지 모니터링하십시오.

방화벽 규칙을 적용하는 동안에는 두 번째 SSH 세션을 열어두십시오. 컨테이너 런타임이 이러한 규칙에 어떤 영향을 주는지도 확인해야 합니다. Docker는 자체 체인을 작성하며, 게시된 Docker 포트는 ufw를 우회함 문서에서 이로 인해 발생하는 예기치 못한 상황을 설명합니다.

훅(Hooks): 모델이 우회할 수 없는 검사

권한 규칙과 훅은 모델이 아닌 Claude Code에 의해 강제됩니다. 문서에 명시된 바와 같이, 프롬프트나 CLAUDE.md의 지침은 Claude가 시도하는 작업의 방향을 결정할 뿐, Claude Code가 허용하는 범위를 변경하지는 않습니다. 이 차이가 핵심 가치입니다. CLAUDE.md에 적힌 "curl을 절대 실행하지 마라"는 문구는 주입된 프롬프트로 반박할 수 있는 제안에 불과합니다. 반면 훅은 종료 코드를 반환하는 프로세스입니다.

.claude/settings.json에 PreToolUse 훅을 등록하십시오.

{
  "hooks": {
    "PreToolUse": [
      {
        "matcher": "Bash",
        "hooks": [
          {
            "type": "command",
            "command": "${CLAUDE_PROJECT_DIR}/.claude/hooks/no-egress.sh"
          }
        ]
      }
    ]
  }
}

훅은 도구 호출을 표준 입력으로 전달받습니다. 종료 코드 2는 호출을 차단하고 표준 오류를 통해 Claude에게 이유를 표시합니다. 종료 코드 0은 일반적인 권한 흐름에 따라 호출을 계속 진행합니다.

#!/usr/bin/env bash
# PreToolUse: stdin holds the tool call, exit 2 blocks it.
cmd=$(jq -r '.tool_input.command // ""')
if printf '%s' "$cmd" | grep -qE '(^|[;&|]|\s)(curl|wget|nc|ncat)(\s|$)'; then
  echo "Blocked: this repository does not allow outbound network commands." >&2
  exit 2
fi
exit 0

이제 솔직한 부분을 말씀드리겠습니다. 이는 셸 문자열에 대한 거부 목록(denylist)이며, 셸 문자열 기반의 거부 목록은 우회될 수 있습니다. python3 -c는 curl이라는 단어를 사용하지 않고도 소켓을 열 수 있습니다. make deploy 대상은 동일한 호출을 한 단계 더 숨길 수 있습니다. 명확하게 정의할 수 있는 실수에 대해서만 훅을 작성하고, 실제로 의존하는 경계는 커널이나 네트워크 수준에서 설정하십시오.

권한 거부 규칙에는 알아두어야 할 일치 제한이 있습니다. Read 및 Edit 거부 규칙은 Claude 자체 파일 도구와 Bash에서 인식하는 파일 명령(예: cat, head, tail, sed)에 적용됩니다. 이 규칙은 파일을 직접 여는 Python이나 Node 스크립트에는 적용되지 않습니다. 규칙은 거부 우선, 그다음 질문, 마지막으로 허용 순으로 평가되므로 거부 규칙에 허용 목록 예외를 적용할 수 없습니다.

{
  "permissions": {
    "deny": [
      "Read(.env)",
      "Read(./secrets/**)",
      "Bash(git push *)"
    ]
  }
}

나가는 트래픽을 감시하고 변경 사항(diff)을 읽으십시오

에이전트가 실행되면 변경 사항(diff)과 일련의 네트워크 호출이 생성됩니다. 병합이나 배포 전에 이 둘을 모두 검토해야 합니다. 자체 호스팅 보안 검토 과정을 통해 변경 사항을 검토하면 사람이 대충 훑어보는 것과는 다른 유형의 변경을 잡아낼 수 있으며, 코딩 에이전트가 외부로 보내는 데이터 파악하기를 통해 정상적인 트래픽 형태를 이해하면 비정상적인 요청을 쉽게 식별할 수 있습니다.

아직 해결되지 않은 문제

현재는 콘텐츠와 지시를 안정적으로 분리할 방법이 없다. 출시된 모든 방어 수단은 실패율이 있는 필터이거나, 실패했을 때의 영향을 제한하는 장치다. 텍스트의 특정 구간을 어떤 경우에도 따라서는 안 되는 데이터로 표시하는 기능은 스택 어디에도 없다.

필터는 실제로 도움이 되지만 실패하기도 한다. 대부분의 인젝션 시도를 탐지하는 분류기라도 매번 정확해야 하지만, 공격자는 한 번만 성공하면 된다. 방어 수단의 공개 성공률이 다음 공격의 출발점일 뿐 보장이 아닌 이유는 이 비대칭성에 있다.

가장 가능성이 큰 연구는 모델 수준보다 설계 수준에서 진행되고 있다. Defeating Prompt Injections by Design의 CaMeL(Debenedetti와 동료들, 2025)은 먼저 신뢰된 요청에서 제어 흐름과 데이터 흐름을 추출한다. 따라서 신뢰할 수 없는 데이터가 프로그램의 동작을 변경할 수 없다. 그런 다음 도구를 호출할 때 capability 검사를 적용한다. 이 논문에 제시된 AgentDojo 벤치마크 수치는 그 대가를 보여 준다.

차트AgentDojo tasks solved, published figures from the CaMeL paper (2025)
이 차트의 데이터
[
  {
    "label": "Undefended agent",
    "tasks_solved_pct": 84
  },
  {
    "label": "CaMeL",
    "tasks_solved_pct": 77
  }
]

방어 기능이 없는 에이전트는 작업의 84%를 해결했다. CaMeL은 보장을 제공하면서 77%를 해결했다. 이 수치는 하나의 벤치마크에서 논문이 공개한 결과일 뿐이며, 사용자의 워크로드를 측정한 결과가 아니다. 두 수치의 차이는 현재 실제 보장을 적용하는 데 드는 비용에 대략 해당한다.

이와 같은 설계가 매일 사용하는 도구에 적용되어 출시될 때까지는 에이전트가 언젠가 침해될 것을 전제로 계획하고, 그 사건이 별일이 되지 않도록 만들어야 한다. 이것이 바로 폐기 가능한 머신, 범위를 제한한 자격 증명, 통제된 아웃바운드 연결, diff를 확인하는 습관이 필요한 이유다.

FAQ

프롬프트 인젝션을 막기 위해 에이전트에게 파일의 지시를 무시하라고 말하면 됩니까?

아니요. 해당 문장은 공격과 동일한 컨텍스트 창에 있는 텍스트이며, 공격자의 텍스트와 동등한 조건에서 경쟁합니다. Claude Code 문서는 이 경계를 명확히 설명합니다. 프롬프트 또는 CLAUDE.md의 지시는 에이전트가 수행하려는 작업의 방향을 정하지만, 도구가 허용하는 작업 자체를 변경하지는 않습니다. 지시 파일은 의도를 나타내는 문장으로 취급하고, 실제로 의존하는 내용은 권한 규칙, PreToolUse hook 또는 방화벽 규칙에 설정합니다.

에이전트가 내 저장소만 다루는 경우에도 프롬프트 인젝션이 실제 위험이 됩니까?

그렇습니다. 저장소에는 사용자가 작성하지 않은 텍스트가 가득하기 때문입니다. 종속성 README 파일, lockfile URL, 테스트 fixture, vendored code, npm install의 출력은 일반적인 작업 중에 모두 유입됩니다. 이슈 트래커나 문서 사이트에서 가져오는 내용도 같은 방식으로 유입됩니다. 에이전트가 읽는 내용이 많을수록 위험은 커집니다. 유용한 에이전트는 많은 내용을 읽습니다.

에이전트를 컨테이너에서 실행하면 이 문제가 해결됩니까?

피해 범위를 줄일 수는 있지만, 자격 증명도 함께 제거한 경우에만 그렇습니다. SSH agent가 전달되고, 환경 변수에 cloud 자격 증명이 있으며, 네트워크에 제한 없이 접근할 수 있는 컨테이너는 공격자에게 호스트가 가진 권한 대부분을 넘겨줍니다. 컨테이너가 실제로 제공하는 이점은 삭제할 수 있는 파일 시스템과 egress 규칙을 적용할 수 있는 깨끗한 환경입니다. 여기에 하나의 저장소로 범위를 제한한 token을 함께 사용합니다.

위험을 가장 크게 줄이는 단일 변경은 무엇입니까?

에이전트의 명령이 상속하는 환경에서 장기간 유효한 자격 증명을 제거한 다음, 해당 시스템에 default-deny egress 정책을 적용합니다. 이 두 가지를 함께 적용하면 치명적인 3요소의 세 번째 조건이 차단됩니다. 텍스트가 여전히 에이전트를 가로챌 수는 있지만, 에이전트가 접근할 수 있는 데이터는 유용한 목적지로 전송되지 못합니다. 승인 프롬프트와 diff 검토도 도움이 됩니다. 그러나 이러한 방법은 장시간 실행되는 작업 동안 사람이 계속 주의를 기울여야 하므로, 앞의 두 변경보다 우선순위가 낮습니다.

이 글이 도움이 되었나요?