SSD Nodes Learn Hosting plans →
가이드 Matt Connor작성자 Matt Connor

SSH Permission denied (publickey) 해결 방법

Permission denied (publickey) 오류는 5가지 원인으로 발생합니다. ssh -v 명령으로 출력되는 로그를 분석하여 정확한 원인을 파악하고, 서버 접속 차단 없이 안전하게 문제를 해결하는 방법을 단계별로 안내합니다.

Permission denied (publickey) 오류의 실제 의미

Permission denied (publickey)는 클라이언트가 하나 이상의 공개 키를 전송했으나 서버가 이를 모두 거부했음을 의미합니다. 네트워크는 정상이며 sshd도 실행 중입니다. 즉, 인증의 마지막 단계에서 거부가 발생한 것입니다. 만약 그 이전 단계에서 세션이 종료된다면 connection refused 또는 connection timed out 문제일 가능성이 높으며, 이는 다른 진단 방법과 테스트가 필요합니다. ssh -v 명령을 사용하면 5가지 원인 중 무엇인지 정확히 알 수 있으므로, 추측으로 해결하려 해서는 안 됩니다.

괄호 안의 내용은 서버가 허용하려는 인증 방식을 나타냅니다. Permission denied (publickey)만 표시된다면 해당 서버에서 비밀번호 로그인이 비활성화되어 있어 대체할 비밀번호 인증 수단이 없다는 뜻입니다. Permission denied (publickey,password)은 비밀번호 인증이 제공되었으나 해당 인증마저 실패했음을 의미합니다.

이 메시지 하나가 5가지의 서로 다른 오류를 포괄하며, 의도적으로 모호하게 설계되었습니다. 만약 서버가 "사용자가 없음" 또는 "해당 키가 설치되지 않음"과 같이 구체적으로 응답한다면, 유효한 계정을 찾는 공격자에게 정보를 제공하는 꼴이 되기 때문입니다. 따라서 무작정 키를 교체하거나 설정 파일을 수정하지 마십시오. 명령어를 한 번 실행하여 출력되는 세 줄의 내용을 읽으면, 5가지 가능성 중 실제 원인을 즉시 파악할 수 있습니다.

ssh -v를 먼저 실행하고 세 줄을 확인하십시오

실패한 명령어를 -v를 추가하여 다시 실행하십시오:

ssh -v deploy@203.0.113.10

간결하지만 실제와 유사한 실행 결과는 다음과 같습니다:

OpenSSH_9.6p1 Ubuntu-3ubuntu13, OpenSSL 3.0.13 30 Jan 2024
debug1: Connecting to 203.0.113.10 [203.0.113.10] port 22.
debug1: Connection established.
debug1: Authenticating to 203.0.113.10:22 as 'deploy'
debug1: Authentications that can continue: publickey
debug1: Next authentication method: publickey
debug1: Will attempt key: /home/you/.ssh/id_ed25519 ED25519 SHA256:0eL/8sBw... agent
debug1: Offering public key: /home/you/.ssh/id_ed25519 ED25519 SHA256:0eL/8sBw... agent
debug1: Authentications that can continue: publickey
debug1: No more authentication methods to try.
deploy@203.0.113.10: Permission denied (publickey).

세 줄의 정보에 필요한 모든 내용이 담겨 있습니다.

Authenticating to 203.0.113.10:22 as 'deploy'은 실제로 사용될 사용자 이름입니다. 의도했던 이름이 아닐 수 있습니다. 명령줄, ~/.ssh/config, 또는 로컬 로그인 이름으로부터 ssh가 결정한 이름입니다.

Authentications that can continue: publickey는 키를 시도하기 전에 서버가 전송한 허용된 인증 방식 목록입니다. 만약 첫 번째 목록에 publickey이 없다면, 서버에서 공개 키 로그인이 비활성화된 것이므로 어떤 키로도 접속할 수 없습니다.

Offering public key: ...는 ssh가 공개 키를 보유하고 있을 때 해당 키를 제공하기 직전에 출력되며, 뒤이어 키 유형과 SHA256 지문이 표시됩니다. 파일에서 읽어온 키는 해당 파일명을 나타냅니다. ssh-agent에만 존재하는 키는 경로 대신 에이전트가 저장한 주석을 보여주며, 줄 끝의 agent은 에이전트가 제공한 키임을 나타냅니다. ssh는 양쪽 끝이 해당 키에 대한 서명 알고리즘을 공유하는지 확인하기 직전에 이 줄을 출력합니다. 따라서 다음 줄이 send_pubkey_test: no mutual signature algorithm이라면, 해당 키는 결국 전송되지 않은 것입니다(원인 5에서 이 경우를 다룹니다). 공개 키를 미리 읽을 수 없는 키는 Offering 줄이 출력되지 않습니다. ssh는 파일명만 포함된 Trying private key: ...를 기록하고, 개인 키를 로드하여 즉시 서명된 요청을 보냅니다. 두 줄 모두 없는 키는 서버로 전혀 전송되지 않은 것입니다.

이제 문제를 두 가지로 나누어 보십시오:

  • 예상하는 키에 대한 Offering public key 또는 Trying private key 줄이 없습니다. 서버가 키를 전혀 확인하지 못했으므로 문제는 로컬 장비에 있습니다.
  • 키가 제공되었으나 Authentications that can continue: publickey가 다시 돌아옵니다. 서버가 키를 받았으나 거부했으므로 문제는 서버에 있습니다.

아래의 원인들은 빈번하게 발생하는 순서대로 나열되어 있습니다.

원인 1: 잘못된 사용자 이름으로 접속 중인 경우

가장 흔한 원인이지만 가장 단순한 문제이기도 합니다. SSH 서버 데몬인 sshd는 계정이 존재하지 않는다는 사실을 알려주지 않습니다. 존재하지 않는 사용자 이름으로 접속을 시도해도 전체 교환 과정을 모두 수행한 뒤 마지막에 동일한 거부 메시지를 출력합니다. 유효한 계정 이름을 노출하는 것은 공격자에게 정보를 제공하는 꼴이 되기 때문입니다. 사용자 이름의 오타는 마치 키가 손상된 것처럼 보입니다.

다른 작업을 수행하기 전에 Authenticating to ... as 줄을 먼저 확인하십시오. 해당 줄에 서버 계정이 아닌 본인 노트북의 로그인 계정이 적혀 있다면, 명령어에서 사용자 이름을 생략한 것입니다.

ssh -v deploy@203.0.113.10
ssh -v root@203.0.113.10

기본 계정은 서비스 제공업체가 빌드한 이미지에 따라 다릅니다. 2026년 8월 기준으로 Ubuntu 클라우드 이미지는 보통 ubuntu 계정을 제공하며, Debian 이미지는 debian 또는 admin를, Rocky Linux와 AlmaLinux는 rocky 및 almalinux을 제공합니다. 많은 VPS 제공업체는 사용자의 키를 root에 직접 설치하기도 합니다. 어떤 계정이 생성되었는지는 제공업체의 제어판에서 확인할 수 있습니다. 서버 외부에서 실행하는 명령어로는 이를 조회할 수 없습니다.

~/.ssh/config 파일 내의 Host 블록 또한 사용자 이름을 설정하며, 이 설정은 로컬 로그인 이름보다 우선합니다.

Host vps-prod
  HostName 203.0.113.10
  User deploy

직접 계정을 생성한 후 해당 계정으로 로그인할 수 없다면, 키가 이미지의 기본 사용자에게만 설치되었고 새로 만든 계정으로는 복사되지 않았을 가능성이 큽니다. 해당 단계는 새 VPS 설정 후 첫 10분 과정의 일부이며, 흔히 누락하기 쉽습니다.

원인 2: 전송하려는 키가 실제 전송되는 키와 다름

기본적으로 ssh는 ssh-agent에 보관된 키와 ~/.ssh 내의 고정된 파일 이름들만 제공합니다. 여기에는 id_rsa, id_ecdsa, id_ed25519, 하드웨어 키 변형인 id_ecdsa_sk 및 id_ed25519_sk, 그리고 하이브리드 포스트 퀀텀 키인 id_mldsa44_ed25519이 포함됩니다. 현재 OpenSSH는 DSA를 전혀 지원하지 않으므로(OpenSSH 10.0에서 2025년 4월 제거됨), 오래된 id_dsa 파일은 시도조차 되지 않습니다. ~/.ssh/vps-prod로 저장된 키는 이름을 지정하기 전까지 ssh에서 인식할 수 없으며, 이것이 상세 출력(verbose output)에 해당 키에 대한 Offering public key 줄이 나타나지 않는 이유입니다.

파일 이름을 지정하고 에이전트 키가 우선권을 갖지 못하게 하십시오.

ssh -i ~/.ssh/vps-prod -o IdentitiesOnly=yes deploy@203.0.113.10

에이전트가 키를 보유하고 있을 때 -i만 사용하는 것으로는 충분하지 않습니다. ssh는 여전히 에이전트의 키를 먼저 제공하고 지정된 파일은 마지막에 제공하기 때문입니다. 10.6 이전 버전의 OpenSSH를 실행하는 서버는 거부된 모든 키를 MaxAuthTries(기본값 6)에 포함하므로 이 점이 중요합니다. 7개의 키를 보유한 에이전트는 올바른 키에 도달하기 전에 제한 횟수를 모두 소진할 수 있습니다. 2026년 10월 6일에 출시된 OpenSSH 10.6은 기존 sshd 옵션인 PubkeyAuthOptions에 max-pk-ok 키워드를 추가했으며, 이는 PubkeyAuthOptions max-pk-ok:6로 작성됩니다. 이를 통해 서버는 기본값인 6개까지의 제공된 키를 확인한 후, 그 이후의 키부터 MaxAuthTries 제한에 포함시킬 수 있습니다. 이는 제한 상한선을 높일 뿐 완전히 제거하지는 않습니다. 제한에 도달하면 메시지가 다음과 같이 변경됩니다.

Received disconnect from 203.0.113.10 port 22:2: Too many authentication failures

대신 이 메시지가 표시된다면, 서버가 올바른 키에 도달하기 전에 세션을 끊은 것입니다. 이는 너무 많은 인증 실패에서 다룹니다. IdentitiesOnly=yes은 시도를 전달한 파일로 제한합니다. ssh-add -l로 에이전트가 보유한 키 목록을 확인하고, 오래된 키가 많이 쌓여 있다면 ssh-add -D로 비우십시오. 그런 다음 다음 로그인 시 플래그를 기억할 필요가 없도록 설정을 기록해 두십시오.

Host vps-prod
  HostName 203.0.113.10
  User deploy
  IdentityFile ~/.ssh/vps-prod
  IdentitiesOnly yes

클라이언트 측의 또 다른 함정이 있습니다. ssh는 같은 시스템의 다른 계정이 읽을 수 있는 개인 키 사용을 거부합니다. ssh는 경고를 출력하고 키 로드를 거부하므로, 해당 키를 사용하여 로그인할 수 없습니다. 하지만 Offering 줄이 없을 것이라고 기대하지 마십시오. 예를 들어 ssh가 이미 .pub 파일 등으로부터 공개 키 정보를 가지고 있다면, 이를 먼저 제공하고 서버가 Server accepts key라고 응답할 수 있습니다. 그 후에야 ssh가 서명을 위해 개인 키를 로드하다가 이 경고를 만나 키 사용을 포기하게 됩니다.

@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@
@         WARNING: UNPROTECTED PRIVATE KEY FILE!          @
@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@
Permissions 0644 for '/home/you/.ssh/vps-prod' are too open.

chmod 600 ~/.ssh/vps-prod으로 이 문제를 해결할 수 있습니다. USB 메모리나 Windows 공유 폴더를 통해 키를 이동할 때 권한 모드가 손실되는 경우가 많습니다. 키의 위치와 명명 규칙은 SSH 키 관리 기초에서 다룹니다.

원인 3: 공개 키가 authorized_keys에 도달하지 않음

ssh -v 명령으로 키가 전송되었음에도 서버가 여전히 접속을 거부한다면, 해당 키가 계정의 authorized_keys 파일에 실제로 존재하는지 확인해야 합니다. SSH로 로그인하여 확인할 수 없으므로 제공업체의 콘솔을 열어 확인하십시오.

sudo ls -l /home/deploy/.ssh/
sudo ssh-keygen -lf /home/deploy/.ssh/authorized_keys

authorized_keys 파일에 대해 ssh-keygen -lf 명령을 실행하면 항목당 하나의 지문(fingerprint)이 출력됩니다.

256 SHA256:0eL/8sBw... you@laptop (ED25519)
3072 SHA256:9Tq2yZk... old-laptop (RSA)

이 지문들을 Offering public key 줄의 지문과 비교하십시오. 만약 키가 Trying private key 줄을 통해 전송되었다면, 해당 줄에는 파일 이름만 명시되므로 일치하는 .pub 파일에 대해 ssh-keygen -lf 명령을 실행하여 지문을 확인하십시오. 목록에 없다면, 본인이 무엇을 수행했다고 기억하든 해당 계정에는 키가 설치되지 않은 것입니다.

다음은 흔히 발생하는 네 가지 오류 유형입니다.

  • .pub 파일 대신 개인 키(private key)를 붙여넣은 경우입니다. 공개 키 줄은 ssh-ed25519, ecdsa-sha2-nistp256 또는 ssh-rsa와 같은 키 유형으로 시작하며, 그 뒤에 긴 base64 문자열과 선택적인 주석이 붙습니다. restrict와 같은 옵션이 키 유형 앞에 올 수도 있습니다. 개인 키는 -----BEGIN OPENSSH PRIVATE KEY-----으로 시작합니다.
  • 붙여넣기 과정에서 줄 바꿈이 발생한 경우입니다. 각 항목은 반드시 한 줄로 작성되어야 하므로, 줄이 바뀐 키는 여러 개의 깨진 항목으로 인식되어 일치하는 키를 찾을 수 없습니다.
  • deploy 계정으로 로그인하는데 키가 /root/.ssh/authorized_keys에 들어간 경우(또는 그 반대)입니다. 이 파일은 계정별로 존재하며 공유되지 않습니다.
  • 제공업체의 "내 키 추가(add my key)" 입력란이 이미지의 기본 사용자에게만 키를 기록하여, 나중에 생성한 계정의 .ssh 디렉터리가 비어 있는 경우입니다.

root 권한으로 콘솔에서 키를 추가하는 안전한 방법은 다음과 같습니다.

sudo install -d -m 700 -o deploy -g deploy /home/deploy/.ssh
sudo tee -a /home/deploy/.ssh/authorized_keys >/dev/null <<'EOF'
ssh-ed25519 AAAAC3NzaC1lZDI1NTE5AAAAIExampleKeyDataHere you@laptop
EOF
sudo chown deploy:deploy /home/deploy/.ssh/authorized_keys
sudo chmod 600 /home/deploy/.ssh/authorized_keys

작업 후 sudo ssh-keygen -lf /home/deploy/.ssh/authorized_keys 명령을 다시 실행하십시오. 이제 새로운 지문이 목록에 나타나야 합니다. 비밀번호로 여전히 로그인이 가능한 머신에서는 ssh-copy-id -i ~/.ssh/vps-prod.pub deploy@203.0.113.10 명령을 사용하면 키를 자동으로 추가해주며, .ssh 및 authorized_keys 디렉터리가 없을 경우 적절한 권한으로 생성해 줍니다. 다만 이미 존재하는 .ssh 디렉터리나 authorized_keys 파일의 권한은 변경하지 않으므로, 원인 4에서 설명한 대로 권한을 확인하십시오.

원인 4: 권한이 너무 개방되어 있을 때 sshd가 authorized_keys를 무시하는 이유

StrictModes yes는 sshd의 기본 설정이다. 이 설정에서는 .ssh 디렉터리, 계정의 홈 디렉터리 또는 해당 파일을 소유자가 아닌 다른 사용자가 쓸 수 있거나 잘못된 계정이 소유한 경우 sshd가 authorized_keys을 읽지 않는다. 이유는 명확하다. 그룹이나 모든 사용자가 홈 디렉터리에 쓸 수 있으면 해당 권한을 가진 계정이 authorized_keys을 교체하고 로그인을 탈취할 수 있다. sshd는 신뢰할 수 없는 경로를 키가 전혀 없는 것처럼 처리한다.

클라이언트에는 일반적인 Permission denied 메시지만 표시된다. 서버 로그에는 실제 원인이 기록된다.

Authentication refused: bad ownership or modes for directory /home/deploy/.ssh

파일 자체가 문제인 경우에는 다음과 같이 기록된다.

Authentication refused: bad ownership or modes for file /home/deploy/.ssh/authorized_keys

sshd가 허용하는 조건은 다음과 같다.

  • 홈 디렉터리: 그룹이 쓸 수 없고 모든 사용자가 쓸 수 없어야 한다. 755, 750 및 700은 모두 통과한다. 775 및 777는 실패한다.
  • ~/.ssh: 동일한 규칙이 적용된다. sshd 매뉴얼은 소유자만 접근할 수 있도록 설정할 것을 권장하며, 모드는 700이다.
  • ~/.ssh/authorized_keys: 동일한 규칙이 적용되며 일반 파일이어야 한다. 일반 파일이 아니면 로그에 해당 경로가 is not a regular file라고 기록된다. 매뉴얼은 소유자에게만 읽기 및 쓰기 권한을 부여할 것을 권장하며, 모드는 600이다.
  • 소유권: 각 항목은 로그인하는 계정 또는 root가 소유해야 한다. 다른 소유자가 소유한 경우 검사를 통과하지 못한다.

소유권은 모드만큼 중요하다. sshd는 로그인 계정으로 authorized_keys을 읽는다. 따라서 sudo nano로 파일을 만들고 소유권을 되돌리는 것을 잊으면 해당 파일은 mode 600으로 root 소유인 상태로 남는다. 소유권 검사는 통과하지만 sshd가 파일을 열 수 없으므로 로그에는 파일을 열 수 없다고 기록된다. 다음 명령으로 두 항목을 한 번에 수정한다.

sudo chown -R deploy:deploy /home/deploy/.ssh
sudo chmod 700 /home/deploy/.ssh
sudo chmod 600 /home/deploy/.ssh/authorized_keys
sudo chmod go-w /home/deploy
ls -ld /home/deploy /home/deploy/.ssh

마지막 명령은 결과를 표시한다. 홈 디렉터리는 drwxr-xr-x 또는 그보다 제한적인 권한이어야 하고, .ssh은 drwx------여야 한다. 이러한 문자열이 아직 익숙하지 않다면 실행 중인 서버에서 모드를 변경하기 전에 drwxr-xr-x와 같은 권한 문자열 읽는 방법을 확인한다.

Rocky Linux와 AlmaLinux에서는 SELinux(security-enhanced Linux)도 원인 후보에 포함해야 한다. 비정상적인 경로로 만든 .ssh 디렉터리는 잘못된 파일 레이블을 가질 수 있다. 그러면 모드가 올바르게 보여도 sshd의 읽기 접근이 거부된다. sudo restorecon -Rv /home/deploy/.ssh은 레이블을 복원하고, sudo ausearch -m avc -ts recent는 거부한 구성 요소가 SELinux인지 보여준다.

원인 5: sshd가 접속을 거부하도록 설정되어 있다

현재 Ubuntu 또는 Debian 시스템에서는 /etc/ssh/sshd_config만 읽어서는 충분하지 않다. 이 파일은 Include /etc/ssh/sshd_config.d/*.conf로 시작하며, OpenSSH는 각 설정에서 처음 발견한 값을 사용한다. 따라서 50-cloud-init.conf 같은 drop-in 파일은 주 설정 파일의 나머지 부분보다 먼저 읽히며, 아래쪽에서 수정한 전역 설정을 덮어쓴다. 예외는 Match 블록이다. sshd_config 매뉴얼에 따르면 이 블록 내부의 설정은 전역 섹션에서 설정한 값을 덮어쓴다. 따라서 일치하는 Match 블록은 주 파일의 끝에 있더라도 해당 블록과 일치하는 연결에 대해서는 drop-in보다 우선한다. drop-in 파일 자체는 사전순으로 읽힌다. 따라서 00-something.conf라는 파일이 50-cloud-init.conf보다 먼저 읽히며, 값을 먼저 설정한 파일의 값이 사용된다. 이 때문에 수정한 내용이 올바르게 보여도 아무런 변화가 없을 수 있다.

sshd가 이러한 모든 파일에서 생성하는 유효 설정을 출력하도록 요청한다.

sudo sshd -T | grep -Ei 'pubkeyauth|authorizedkeysfile|permitrootlogin|allowusers|allowgroups|denyusers'

sshd -T은 현재 디스크에 저장된 파일을 읽어 새 테스트 프로세스를 시작한다. 이미 실행 중인 sshd에 설정을 요청하는 것이 아니다. 따라서 restart로 아직 적용하지 않은 수정 내용도 실행 중인 서버가 사용하기 전에 여기서 확인할 수 있다.

정상적인 결과는 다음과 같다.

permitrootlogin prohibit-password
pubkeyauthentication yes
authorizedkeysfile .ssh/authorized_keys .ssh/authorized_keys2

출력에서 다음 항목을 확인한다.

  • pubkeyauthentication no. 어떤 키도 허용되지 않는다. 이는 ssh -v에도 첫 번째 Authentications that can continue: 목록이 비어 있고 publickey이 없는 형태로 나타난다.
  • authorizedkeysfile가 다른 경로를 가리킨다. 예를 들어 /etc/ssh/authorized_keys/%u이다. 이 경우 홈 디렉터리에 있는 파일은 완전히 무시되며, 원인 4의 권한 규칙이 새 경로에 적용된다.
  • allowusers 또는 allowgroups가 설정되어 있다. 목록에 없는 계정은 정확히 이 오류와 함께 설명 없이 거부된다. denyusers과 denygroups은 반대로 동일하게 동작한다.
  • root로 로그인하려는 동안 permitrootlogin no이 설정되어 있다. prohibit-password가 유용한 중간 설정이다. root는 키를 사용할 수 있지만 암호는 사용할 수 없다.

Match 블록은 일반적인 sshd -T 출력에 나타나지 않는다. 이 블록의 결과는 접속하는 사용자가 누구인지에 따라 달라지기 때문이다. 특정 연결 하나에 대해 확인하려면 다음 명령을 사용한다.

sudo sshd -T -C user=deploy,host=vps.example.com,addr=198.51.100.7

오래된 키에 영향을 주는 설정이 하나 더 있다. OpenSSH 8.8은 기본적으로 SHA-1 서명(ssh-rsa)을 더 이상 허용하지 않는다. 따라서 한쪽을 업그레이드한 뒤, 다른 쪽이 RSA와 SHA-256을 사용할 수 없을 정도로 오래된 경우 수년간 작동하던 RSA 키가 작동하지 않을 수 있다. 최신 클라이언트가 이러한 오래된 서버에 연결하면 원인을 명확하게 표시한다.

debug1: send_pubkey_test: no mutual signature algorithm

대개 키 자체에는 문제가 없다. OpenSSH 8.8 릴리스 노트에 따르면 ssh-rsa 키를 교체할 필요는 없다. 양쪽이 지원하는 경우 RSA/SHA-256 또는 RSA/SHA-512로 전환하기 때문이다. 따라서 오래된 쪽을 업그레이드하는 것이 지속적인 해결 방법이다. 업그레이드할 수 없다면 새 키도 사용할 수 있다. 단, 오래된 쪽이 OpenSSH 6.5 이상을 실행해야 한다. OpenSSH 6.5는 Ed25519를 추가한 릴리스다. RSA와 SHA-256 지원은 7.2에서 추가되었다. ssh-keygen -t ed25519 -C "deploy@vps-prod"을 사용한 다음, 위에서 설명한 대로 .pub 파일을 설치한다. 6.5보다 오래된 쪽은 Ed25519와 RSA와 SHA-256을 모두 지원하지 않는다. 따라서 새 Ed25519 키를 사용해도 도움이 되지 않는다. 업그레이드한 쪽에서 PubkeyAcceptedAlgorithms +ssh-rsa를 설정하면 오늘 바로 접속할 수 있다. 이 설정은 클라이언트의 ~/.ssh/config에 있는 Host 블록 또는 서버의 sshd 설정에 넣는다. 다만 이는 서버에 접속하기 위한 방법으로만 사용해야 하며, 작업을 완료한 것으로 간주해서는 안 된다. 검토할 가치가 있는 나머지 서버 측 설정은 VPS에서 SSH 서버 강화에 설명되어 있다.

개인 키가 설치된 공개 키와 일치하는지 확인하는 방법

이 오류와 관련된 추측의 대부분은 두 파일이 한 쌍인지 알 수 없다는 점에서 발생합니다. 다음 명령 하나로 이를 확인할 수 있습니다.

ssh-keygen -y -f ~/.ssh/vps-prod

이 명령은 개인 키에서 도출된 공개 키를 출력합니다. 이 명령은 옆에 있는 .pub 파일을 읽지 않으므로, 오래된 .pub 파일이 주장하는 내용이 아니라 개인 키의 실제 내용을 알려줍니다. 키에 암호(passphrase)가 설정되어 있다면 명령 실행 시 암호를 요구하며, 이는 사용자가 여전히 암호를 알고 있음을 증명합니다.

ssh-keygen -lf ~/.ssh/vps-prod.pub
ssh-add -l

첫 번째 명령은 공개 키 파일의 지문을 출력합니다. 두 번째 명령은 현재 에이전트가 보유한 지문을 출력합니다. 이제 네 가지 관점의 문자열을 비교해 보십시오. ssh -v의 Offering public key 라인에 있는 지문, .pub 파일의 지문, 서버의 authorized_keys에 있는 ssh-keygen -lf의 지문, 그리고 서버 로그에 기록된 지문을 확인하십시오. 일치하지 않는 지점이 발생한다면 해당 부분의 설정이 잘못된 것입니다.

로그인에 실패하는 동안 서버 로그 확인

클라이언트에는 의도적으로 유용한 정보가 전달되지 않는다. 실제 원인은 서버가 로그에 기록한다. 콘솔 세션에서 로그 추적을 시작한 다음, 노트북에서 실패하는 ssh 명령을 실행한다.

sudo journalctl -u ssh -f

표준 Ubuntu 24.04 서버 cloud image에는 기본적으로 rsyslog가 설치된다(패키지 manifest에는 3 November 2026 기준으로 rsyslog가 포함되어 있다). 따라서 같은 기록이 해당 환경의 /var/log/auth.log에도 저장된다. Ubuntu 24.04 minimal cloud image에는 rsyslog가 포함되지 않으므로, 기본적으로 auth.log이 없고 journal을 확인해야 한다. Rocky Linux와 AlmaLinux에서는 unit 이름이 sshd이며, 같은 기록이 /var/log/secure에도 저장된다.

sshd configuration에서 LogLevel VERBOSE을 설정하고 서비스를 reload한다. 그러면 모든 시도에 서버가 실제로 받은 fingerprint가 기록된다.

Failed publickey for deploy from 198.51.100.7 port 49812 ssh2: ED25519 SHA256:0eL/8sBw...

이 줄을 보면 문제가 어느 쪽에 있는지 알 수 있다. 알고 있는 fingerprint라면 키가 서버에 도착했지만 서버가 거부한 것이다. 원인 3, 4, 5를 확인한다. 모르는 fingerprint라면 클라이언트가 의도하지 않은 키를 보낸 것이다. 원인 2로 돌아간다.

로그가 여전히 명확하지 않다면 다른 포트에서 debug mode로 두 번째 sshd를 실행한다. 이 프로세스는 foreground에서 실행되고, 연결 하나를 처리한 뒤, 판단 과정을 출력하고 종료된다.

sudo /usr/sbin/sshd -ddd -p 2222

같은 서버의 콘솔 세션에서 loopback address를 사용해 연결한다.

ssh -p 2222 -i ~/.ssh/vps-prod -o IdentitiesOnly=yes deploy@127.0.0.1

127.0.0.1을 통해 연결하면 사용자와 서버 사이의 네트워크를 테스트에서 제외할 수 있다. Loopback traffic도 kernel의 packet filter를 통과한다. 그러나 Ubuntu의 기본 ufw 규칙은 lo interface에서 모든 트래픽을 허용한다. 따라서 누군가 기본 규칙을 삭제하지 않았다면 port 2222에 별도의 firewall rule이 필요하지 않다. Debug output에는 열어 본 파일, 비교한 fingerprint, 정확한 거부 사유가 표시된다. 여기에는 Authentication refused: bad ownership or modes for directory /home/deploy과 같은 줄도 포함된다. 답을 확인하면 Ctrl+C를 누른다. port 22의 실제 sshd는 전체 과정에서 변경되지 않는다.

접속이 차단되는 상황 방지

서버 설정을 수정하는 모든 단계에는 SSH에 의존하지 않는 접속 방법이 필요하다. SSH가 정상적으로 작동할 때 설정해야 하며, SSH가 중단된 뒤에 설정해서는 안 된다.

  1. serial 또는 VNC(virtual network computing)를 통한 공급자의 콘솔을 열고, 해당 콘솔에서 로그인할 수 있는지 확인한다.
  2. sudo 권한이 있는 계정의 정상적인 로컬 비밀번호를 알고 있는지 확인한다. 없다면 먼저 공급자 콘솔에서 root 비밀번호를 재설정한다.
  3. 현재 SSH 세션을 열어 둔다. 열린 세션은 systemctl restart ssh 이후에도 유지되므로 새 설정이 잘못되었을 때 다시 접속할 수 있는 방법이 된다.
  4. 재시작하기 전에 구문을 확인한다. sudo sshd -t은 파일이 유효하면 아무것도 출력하지 않고, 유효하지 않으면 파일명과 줄 번호를 출력한다.
  5. 첫 번째 터미널을 닫기 전에 두 번째 터미널을 열고 새로 로그인한다. 잘못된 설정은 새 로그인을 차단하지만 기존 로그인은 그대로 유지한다. 따라서 현재 접속 중인 세션만으로는 변경이 적용되었는지 확인할 수 없다.

Debian과 Ubuntu에서는 sudo systemctl restart ssh로 재시작하고, Rocky Linux와 AlmaLinux에서는 sudo systemctl restart sshd로 재시작한다. Ubuntu 24.04에서는 systemd generator를 통해 포트와 주소를 sshd_config에서 가져오는 socket unit이 sshd를 시작한다. 따라서 Port 또는 ListenAddress을 변경한 경우에도 변경 사항을 적용하려면 먼저 sudo systemctl daemon-reload을 실행한 다음 sudo systemctl restart ssh.socket을 실행해야 한다.

FAQ

다른 서버에서는 잘 작동하는 키인데 왜 Permission denied (publickey) 오류가 발생합니까?

키 자체는 문제가 없으나 주변 설정에 문제가 있기 때문입니다. ssh -v을 실행하여 키에 해당하는 Offering public key 또는 Trying private key 줄을 찾으십시오. 두 항목 모두에 키가 없다면 ssh가 키를 전송하지 않은 것입니다. 파일이 ~/.ssh에 기본 이름으로 존재하지 않거나 에이전트에 로드되지 않은 상태이므로 -i /path/to/key -o IdentitiesOnly=yes를 추가하십시오. 키가 목록에 있는데도 서버가 거부한다면, 해당 키가 계정의 authorized_keys에 등록되지 않았거나, 키 파일 경로에 그룹 쓰기 권한이 있거나, sshd 설정이 해당 사용자를 차단하고 있는 경우입니다. 서버 로그를 확인하면 이 경우들을 구분할 수 있습니다.

SSH가 실제로 어떤 키를 전송하는지 어떻게 확인합니까?

ssh -v host은 이미 보유하고 있는 공개 키 각각에 대해 키 유형과 SHA256 지문(fingerprint)을 포함한 debug1: Offering public key: 줄을 출력합니다. 파일에서 읽어온 키는 파일 이름을 표시하고, 에이전트에만 있는 키는 에이전트 주석을 표시하며, 줄 끝의 agent은 에이전트가 제공한 키임을 나타냅니다. 다음 줄이 send_pubkey_test: no mutual signature algorithm라면 해당 키는 결국 전송되지 않은 것입니다. ssh가 공개 키를 미리 읽을 수 없는 경우 Offering 줄은 출력되지 않습니다. 대신 ssh는 파일 이름과 함께 Trying private key:을 출력하고, 개인 키를 로드하여 서명된 요청을 직접 보냅니다. ssh-add -l는 에이전트가 보유한 지문 목록을 보여줍니다. ssh-keygen -lf ~/.ssh/id_ed25519.pub은 단일 키 파일의 지문을 출력하며, ssh-keygen -y -f ~/.ssh/id_ed25519는 개인 키에서 파생된 공개 키를 출력합니다. 로그인이 성공하려면 전송한 키의 지문이 서버의 authorized_keys을 대상으로 실행한 ssh-keygen -lf 결과에도 나타나야 합니다.

sshd가 왜 제 authorized_keys 파일을 무시합니까?

StrictModes이 기본적으로 활성화되어 있기 때문입니다. 파일, .ssh 디렉터리 또는 홈 디렉터리가 그룹이나 다른 사용자에게 쓰기 권한이 있거나, 본인 또는 root가 아닌 다른 계정 소유로 되어 있으면 발생합니다. sshd는 타인이 변경할 수 있는 경로는 신뢰하지 않으므로 키가 없는 것처럼 동작합니다. 이 검사는 세 경로 모두 그룹이나 다른 사용자에게 쓰기 권한이 없어야 하고, 각 경로가 로그인 계정이나 root 소유여야 하며, authorized_keys가 일반 파일이어야 함을 요구합니다. 따라서 단순히 쓰기 권한만 제거하는 것으로는 충분하지 않을 수 있습니다. 홈 디렉터리에 755 이하의 권한을 설정하고, .ssh에 700, authorized_keys에 600 권한을 부여하며, 모두 로그인 계정 소유로 설정하는 것이 안전합니다. LogLevel VERBOSE를 사용하면 서버가 Authentication refused: bad ownership or modes for directory /home/deploy/.ssh을 기록합니다.

서버 업그레이드 직후 키가 작동하지 않습니다. 무엇이 변경되었습니까?

RSA 키라면 SHA-1 변경 사항 때문일 가능성이 가장 높습니다. OpenSSH 8.8부터는 ssh-rsa SHA-1 서명이 기본적으로 비활성화되었으므로, 상대방이 해당 방식만 지원하는 경우 RSA 키가 거부됩니다. 최신 클라이언트는 debug1: send_pubkey_test: no mutual signature algorithm을 표시합니다. 양쪽 끝에서 모두 지원한다면 RSA 키는 SHA-256이나 SHA-512를 사용하므로, 이전 버전을 업그레이드할 수 있다면 키를 교체할 필요가 없습니다. 업그레이드가 불가능하고 상대방이 OpenSSH 6.5 이상을 실행 중이라면, ssh-keygen -t ed25519로 최신 키를 생성하여 .pub 파일을 설치하십시오. 6.5 미만 버전은 Ed25519나 SHA-256을 사용하는 RSA를 모두 지원하지 않으므로 새 키로도 해결되지 않습니다. 즉시 접속이 필요하다면 업그레이드된 측에서 PubkeyAcceptedAlgorithms +ssh-rsa을 설정하여 이전 서명을 다시 활성화할 수 있으나, 영구적인 해결책을 적용한 후에는 해당 줄을 제거해야 합니다.

sshd_config를 편집한 후 로그인이 전혀 되지 않습니다. 어떻게 복구합니까?

SSH를 거치지 않는 제공업체의 콘솔을 사용하십시오. 로컬 비밀번호로 로그인한 뒤 sudo sshd -t를 실행하여 구문 오류와 해당 줄 번호를 확인하고, 변경 사항을 되돌린 후 서비스를 재시작하십시오. 그 후 sudo sshd -T을 실행하여 현재 파일들이 생성하는 유효 값을 확인하십시오. /etc/ssh/sshd_config.d/의 파일이 기본 설정을 덮어쓰고 있을 수 있기 때문입니다. 이 명령은 실행 중인 sshd에 묻는 대신 파일을 새로 읽어오므로, 추가 편집 후에는 반드시 서비스를 재시작한 다음 로그인을 테스트하십시오. 로컬 비밀번호가 없다면 콘솔에서 root 비밀번호를 먼저 재설정한 뒤 파일을 복구하십시오.

이 글이 도움이 되었나요?