SSD Nodes Learn Hosting plans →
가이드 Matt Connor작성자 Matt Connor · 업데이트됨 2026-10-30

자체 호스팅 앱에서 메일 보내는 방법

메일 서버를 직접 운영하지 않고 자체 호스팅 앱에서 메일을 발송하는 방법을 설명합니다. 호스트 단일 SMTP 릴레이 설정, SPF·DKIM·DMARC 구성과 차단된 port 25 해결법을 다룹니다.

자체 호스팅 애플리케이션에서 메일 발송이 필요한 이유

자체 호스팅 애플리케이션에서 메일을 보내기 위해 반드시 메일 서버가 필요한 것은 아닙니다. 필요한 것은 릴레이입니다. 호스트에 한 번만 설정해 두면 서버 내 모든 애플리케이션이 발신 메일을 전달할 수 있는 인증된 SMTP 계정 하나면 충분합니다. 메일함을 직접 운영하는 것은 어려운 문제이며, 이는 메일 발송과는 별개의 사안입니다.

메일을 수신한다는 것은 인터넷 전체로부터 port 25를 통해 연결을 허용하고, 스팸을 필터링하며, 메일함을 저장 및 백업하고, 서버가 존재하는 동안 IP 평판을 유지하는 것을 의미합니다. 이 작업은 실제로 훨씬 더 어려워졌습니다. 반면 메일을 발송한다는 것은 비밀번호 재설정, 가입 확인, "백업 실패" 알림, 포럼 답글 알림 등을 보내는 것입니다. 이러한 메일은 짧고, 양이 적으며, 한 번에 하나씩 발송됩니다. 릴레이는 이러한 메일을 처리하며, 설정하는 데는 오후 한나절이면 충분합니다.

본인이 해결하려는 문제가 둘 중 무엇인지 결정하십시오. 직접 메일함을 운영할 가치가 있는지는 실질적인 질문이며 그에 대한 답도 명확합니다. 대부분의 사람에게 그 답은 '아니오'입니다. 만약 답이 '예'라면, VPS에서 Mailcow 메일 서버를 전체 운영하는 것이 정석적인 방법입니다. 나머지 절반인 '발송'은 거의 모든 사람이 필요로 하지만, 정작 계획하는 사람은 거의 없는 영역입니다.

먼저 두 가지 용어를 정의합니다. SMTP(simple mail transfer protocol)는 이 과정의 모든 단계에서 사용하는 프로토콜입니다. 릴레이는 smarthost라고도 불리며, 인증된 메일을 받아 자신의 주소와 평판을 사용하여 목적지로 전달하는 서버를 의미합니다.

VPS가 port 25에서 메일을 전송하지 못하는 이유

많은 VPS 제공업체는 기본적으로 아웃바운드 TCP port 25를 차단한다. port 25는 메일 서버가 서로 연결할 때 사용하는 포트이므로, 아웃바운드 port 25가 열린 침해된 VPS는 모든 수신 메일 서버에 스팸을 직접 전송할 수 있다. 패킷을 삭제하는 방화벽은 연결이 멈춘 뒤 시간 초과되는 증상을 만들지만, 라우팅 문제나 연결할 수 없는 서버도 같은 증상을 보인다.

서버에서 다음 명령을 실행해 테스트한다.

sudo apt update && sudo apt install -y netcat-openbsd
nc -vz -w 5 gmail-smtp-in.l.google.com 25
nc -vz -w 5 smtp.relay.example 587

smtp.relay.example를 relay의 실제 호스트 이름으로 바꾼다. 첫 번째 명령은 시간 초과되지만 두 번째 명령은 연결된다면 port 25에 연결할 수 없고 relay의 port 587에는 연결할 수 있는 상태다. 차단 여부를 확인하려면 제공업체의 정책을 검토한다. port-587 테스트도 실패할 수 있다. 일부 제공업체는 계정 검토 후 port 25 제한을 해제한다.

차단 자체가 relay를 사용해야 하는 주된 이유는 아니다. port 25가 열려 있어도 새 VPS 주소에서 직접 보낸 메일은 스팸으로 분류되거나 즉시 거부되는 경우가 많다. 해당 주소에는 발신 이력이 없고, 수신 서버가 호스팅 공간으로 취급하는 주소 대역에 속하기 때문이다. Google의 발신자 지침에서는 발신 IP에 유효한 정방향 DNS와 역방향 DNS가 설정되어 있어야 한다. relay를 사용하면 이미 발신 이력이 있는 주소를 이용할 수 있다.

VPS 제공업체가 submission 포트를 허용한다면 이를 사용하면 된다. port 587은 STARTTLS를 전달한다. 이 방식에서는 세션이 평문으로 시작한 뒤 암호화 연결로 전환된다. port 465는 암시적 TLS(transport layer security)를 사용한다. 이 방식에서는 첫 번째 바이트부터 세션이 암호화된다. 두 포트 모두 인증된 클라이언트가 사용하도록 설계되었지만, 모든 환경에서 열려 있는 것은 아니다. DigitalOcean은 기본적으로 Droplets에서 port 25, 465, 587을 차단한다. relay가 지원하는 포트와 제공업체의 정책을 확인한다. 587이 차단된 경우 SendGrid는 대안으로 STARTTLS를 사용하는 port 2525를 지원한다.

릴레이와 발신 하위 도메인 선택

트랜잭션 메일 제공업체는 많지만 모두 같은 작업을 수행합니다. 다음 4가지를 기준으로 비교합니다.

  • SMTP AUTH를 지원하는 587 또는 465 제출 포트. 또는 VPS 네트워크에서 허용하는 2525 같은 대체 포트
  • 제공업체의 도메인만 사용하는 것이 아니라, 자체 도메인과 자체 selector로 DKIM 서명
  • 대시보드 또는 webhook으로 확인할 수 있는 반송 및 불만 데이터
  • 발송량에 맞는 요금제. 2026년 8월 기준으로 여러 제공업체가 여전히 매월 수천 건의 메시지를 무료로 제공합니다. 이러한 조건은 자주 바뀌므로 블로그 게시물이 아니라 현재 가격 페이지를 확인합니다.

애플리케이션 메일은 하위 도메인에서 발송합니다. example.com 대신 notify.example.com와 같은 방식을 사용합니다. 수신 서버는 도메인별로 평판을 평가하므로 애플리케이션에서 발생한 발송 문제를 청구서와 팀 메일에 사용하는 도메인과 분리할 수 있습니다. 다만 한계는 분명합니다. 일부 수신 서버는 하위 도메인의 신호를 조직 도메인까지 합산합니다. 따라서 하위 도메인은 피해를 줄일 뿐, 피해를 완전히 차단하지는 않습니다.

모든 자체 호스팅 애플리케이션에서 릴레이를 한 번만 구성하기

각 애플리케이션의 설정 페이지를 열고 SMTP 호스트, 사용자 이름, 비밀번호를 입력하는 방법이 가장 간단해 보인다. Nextcloud, 포럼, Grafana, Vaultwarden, uptime monitor에는 모두 이런 양식이 있다. 이렇게 구성하면 자격 증명이 6곳, 6가지 형식으로 저장된다. 그중 일부는 설정이 아니라 데이터로 백업하는 데이터베이스 안에 들어간다. 비밀번호를 변경하면 5곳을 수정하게 된다. 나머지 1곳은 메일 전송을 중단한다. 대부분의 애플리케이션은 SMTP 오류를 서버 측에 기록하면서도 사용자에게는 성공 페이지를 표시하므로, 이 중단은 조용히 발생한다.

대신 호스트에서 한 번만 구성하고 애플리케이션은 로컬로 제출하게 한다. 이 작업에는 2가지 도구가 적합하며, 둘 중 무엇을 선택할지는 큐잉 필요 여부에 달려 있다.

msmtp은 데몬이 없는 sendmail 호환 클라이언트다. 연결하고, 전송하고, 종료한다. 큐를 사용하지 않으므로 릴레이에 연결할 수 없으면 메시지가 손실되고 호출한 애플리케이션은 0이 아닌 종료 상태를 받는다.

satellite로 구성한 Postfix는 실제 큐를 사용하는 완전한 mail transfer agent다. 메시지를 즉시 수락하고, 실패하면 며칠 동안 재시도하며, 릴레이 자격 증명을 root만 읽을 수 있는 파일에 보관한다. 릴레이 장애 중 알림이 손실되면 안 되거나 여러 애플리케이션이 서로 다른 시스템 사용자로 실행될 때 사용한다.

msmtp, 간단한 방법

sudo apt update
sudo apt install -y msmtp msmtp-mta ca-certificates

msmtp-mta은 /usr/sbin/sendmail 심볼릭 링크를 설치한다. 따라서 sendmail을 호출하는 프로그램은 msmtp가 설치되어 있는지 몰라도 msmtp에 도달한다.

/etc/msmtprc을 작성한다.

defaults
auth            on
tls             on
tls_trust_file  /etc/ssl/certs/ca-certificates.crt
syslog          on

account         relay
host            smtp.relay.example
port            587
from            apps@notify.example.com
allow_from_override off
set_from_header on
user            <relay username>
password        <relay password>

account default : relay

set_from_header on은 항상 From 헤더를 설정하고 기존 헤더를 덮어쓴다. 따라서 애플리케이션이 생성한 주소를 from의 주소로 바꾼다. allow_from_override off는 애플리케이션의 -f 옵션이 해당 envelope sender를 덮어쓰지 못하게 한다. set_from_header on이 없으면 기존 From 헤더가 검증된 sender와 달라도 그대로 유지된다. syslog on은 로그를 syslog로 보내므로 journalctl -t msmtp로 확인할 수 있다. 공유 logfile 경로를 사용할 수도 있지만, 메일을 보내는 모든 사용자에게 쓰기 권한이 필요하다. 다중 사용자 서버에서는 문제가 되기 쉽다.

권한은 직접 설정한다. msmtp는 사용자별 설정 파일(~/.msmtprc)의 권한을 검사하며, contains secrets and therefore must have no more than user read/write permissions 권한으로는 실행을 거부한다. 그러나 /etc/msmtprc에 대해서는 아무것도 검사하지 않는다. 해당 파일을 읽을 수 있으면 단순히 로드한다.

sudo chown root:root /etc/msmtprc
sudo chmod 600 /etc/msmtprc
printf 'Subject: relay test\n\nsent from the host\n' | sudo sendmail -v you@example.com

-v은 전체 SMTP 대화를 출력하므로 릴레이의 각 응답을 확인할 수 있다. 전송이 정상적으로 완료되면 릴레이가 메시지를 수락했다는 250 응답으로 끝난다. authentication failed 행은 사용자 이름이나 비밀번호가 잘못되었거나, 릴레이가 계정 비밀번호 대신 API key를 요구한다는 뜻이다.

여기서 문제가 생긴다. 많은 사용자가 결국 Postfix를 선택하는 이유도 이것이다. 모드가 600이고 소유자가 root이면 root만 전송할 수 있다. www-data으로 실행되는 애플리케이션은 파일을 읽을 수 없으므로 msmtp는 해당 파일을 건너뛴다. 그러면 애플리케이션은 기본 계정을 찾을 수 없다는 오류와 함께 실패한다. 해결 방법은 그룹을 사용하는 것이다.

sudo chgrp mail /etc/msmtprc
sudo chmod 640 /etc/msmtprc
sudo usermod -aG mail www-data

이 설정의 의미는 분명하다. mail 그룹의 모든 구성원은 릴레이 비밀번호를 읽고 해당 서버에서 도메인 주소로 메일을 보낼 수 있다. 혼자 관리하는 VPS라면 허용할 수 있다. 직접 작성하지 않은 여러 애플리케이션이 서로 다른 사용자로 실행되는 환경에서는 허용하면 안 된다. 이 경우 애플리케이션이 자격 증명을 전혀 보지 못하게 하는 Postfix가 더 적합하다.

Postfix를 satellite로 구성하기

sudo debconf-set-selections <<'EOF'
postfix postfix/main_mailer_type select Satellite system
postfix postfix/mailname string notify.example.com
postfix postfix/relayhost string [smtp.relay.example]:587
EOF
sudo DEBIAN_FRONTEND=noninteractive apt install -y postfix libsasl2-modules

libsasl2-modules은 선택 사항이 아니다. 이 패키지가 없으면 PLAIN 및 LOGIN 메커니즘 라이브러리가 설치되지 않으므로 Postfix는 warning: SASL authentication failure: No worthy mechs found를 기록한다. Debian에서는 이 패키지가 해당 라이브러리를 amd64 기준 /usr/lib/x86_64-linux-gnu/sasl2/libplain.so 및 liblogin.so인 multiarch 경로에 설치한다. /usr/lib/sasl2 아래에는 설치하지 않는다.

postconf -e으로 나머지를 설정한다. 이 명령은 /etc/postfix/main.cf을 직접 수정한다.

sudo postconf -e 'relayhost = [smtp.relay.example]:587'
sudo postconf -e 'smtp_sasl_auth_enable = yes'
sudo postconf -e 'smtp_sasl_password_maps = hash:/etc/postfix/sasl_passwd'
sudo postconf -e 'smtp_sasl_security_options = noanonymous'
sudo postconf -e 'smtp_tls_security_level = encrypt'
sudo postconf -e 'smtp_tls_CAfile = /etc/ssl/certs/ca-certificates.crt'
sudo postconf -e 'inet_interfaces = loopback-only'

릴레이 호스트 이름을 대괄호로 감싸면 Postfix가 해당 이름의 MX 레코드를 조회하지 않고 이름에 직접 연결한다. 일부 릴레이 호스트 이름은 다른 서버를 가리키는 MX 레코드를 게시한다. 대괄호가 없으면 메일이 해당 레코드를 따라 잘못된 서버로 전달될 수 있다.

smtp_tls_security_level = encrypt은 TLS를 필수로 설정하므로 메시지가 평문으로 전송되지 않는다. 하지만 인증서의 유효성을 검증하지는 않는다. Postfix 공식 문서도 이 점을 명확히 설명한다. 해당 수준에서는 서버 인증서를 신뢰할 수 없거나 인증서의 이름이 올바르지 않아도 전송이 계속된다. 인증서를 검증하려면 verify 또는 secure을 사용하고 smtp_tls_CAfile을 설정된 상태로 유지한다.

자격 증명은 root만 읽을 수 있는 파일 하나에 저장한다.

echo '[smtp.relay.example]:587 relay-username:relay-password' | sudo tee /etc/postfix/sasl_passwd
sudo chmod 600 /etc/postfix/sasl_passwd
sudo postmap hash:/etc/postfix/sasl_passwd
sudo systemctl restart postfix

postmap은 Postfix가 실제로 읽는 인덱싱된 사본을 생성한다. 나중에 텍스트 파일을 수정하고 postmap을 실행하지 않으면 Postfix는 이전 데이터베이스를 계속 사용한다. 로그에도 이 사실이 표시되지 않는다. 기본 map type은 Postfix 버전과 빌드에 따라 달라진다. 각 빌드는 자체 기본값을 고정하며, postconf -h default_database_type이 현재 기본값을 출력한다. Postfix 3.11에는 Berkeley DB hash: 및 btree: 테이블에서 마이그레이션하기 위한 도구가 추가되었다. 일부 Linux 배포판이 Berkeley DB를 제거하고 있기 때문이다. hash:이 현재 빌드에서 동작한다고 가정하기 전에 postconf -m로 사용 가능한 map type을 확인한다. 기본값이 더 이상 hash이 아닌 경우에는 매개변수와 postmap 인자에서 hash: 대신 cdb: 또는 lmdb:을 사용한다. 단, 현재 빌드가 지원하는 type이어야 한다. 두 줄 모두에 type을 지정해야 설정이 서로 일치한다.

애플리케이션은 계속 메일을 root@hostname으로 지정한다. sender를 다시 작성한다.

echo '/.+/    apps@notify.example.com' | sudo tee /etc/postfix/sender_canonical
sudo postconf -e 'sender_canonical_classes = envelope_sender, header_sender'
sudo postconf -e 'sender_canonical_maps = regexp:/etc/postfix/sender_canonical'
sudo systemctl reload postfix

regexp: 테이블은 직접 읽으므로 postmap이 필요하지 않다. 이제 모든 메시지는 동일한 envelope sender와 동일한 From 헤더로 전송된다. 릴레이가 요구하는 형식이다. 대신 모든 답장이 한곳으로 도착한다. 답장을 받을 사람이 있는 애플리케이션에서는 Reply-To 헤더를 설정한다.

테스트 메시지를 보내고 로그를 확인한다.

printf 'Subject: postfix relay test\n\nsent through the queue\n' | sendmail you@example.com
sudo tail -n 20 /var/log/mail.log

전달된 메시지는 status=sent와 릴레이 자체 응답을 대괄호 안에 기록한다. 그 밖의 내용은 원인을 나타낸다. Connection timed out과 함께 기록된 status=deferred은 Postfix가 대상 주소와 포트에 연결하지 못했다는 뜻이다. 제출 포트에서도 차단, 라우팅 문제 또는 서버에 연결할 수 없는 상태가 원인이 될 수 있다. 포트 25를 탓하기 전에 로그에 기록된 대상과 포트를 확인한다. Host or domain name not found. Name service error for name=smtp.relay.example type=A은 릴레이 호스트 이름이 잘못되었거나 해당 서버의 DNS가 고장 났다는 뜻이다. mailq은 전송 대기 중인 항목을 표시하고 sudo postqueue -f은 지금 재시도한다.

Docker 컨테이너에서 호스트 릴레이에 접근하기

컨테이너는 호스트의 sendmail를 호출할 수 없습니다. 해당 바이너리가 이미지 내부에 존재하지 않고 큐도 공유되지 않기 때문입니다. 대신 컨테이너에 네트워크 대상을 지정하십시오. Postfix는 Docker 브리지 주소에서 수신 대기할 수 있습니다.

ip -4 addr show docker0
sudo postconf -e 'inet_interfaces = 127.0.0.1, 172.17.0.1'
sudo postconf -e 'mynetworks = 127.0.0.0/8 172.17.0.0/16'
sudo systemctl restart postfix

Compose 프로젝트는 서로 다른 서브넷에 자체 네트워크를 생성하므로, 이 명령어를 그대로 복사하지 말고 첫 번째 명령어를 통해 자신의 브리지 주소를 확인하십시오. docker network inspect <name>가 해당 주소를 출력합니다. 여기서는 reload 대신 restart을 사용하십시오. Postfix 문서에 따르면 inet_interfaces을 변경한 후에는 반드시 서비스를 중지했다가 다시 시작해야 하며, reload 명령으로는 변경 사항이 적용되지 않습니다. 각 애플리케이션은 SMTP 호스트 172.17.0.1, 포트 25를 사용하며, 해당 트래픽이 호스트를 벗어나지 않으므로 인증이나 TLS는 필요하지 않습니다. 서비스가 Compose 네트워크에 위치한 경우, VPS에서 Docker Compose 실행하기에서 해당 서브넷의 출처를 확인할 수 있습니다.

이 단계는 위험을 초래할 수 있습니다. 공용 주소에서 넓은 범위의 mynetworks으로 수신 대기하는 Postfix는 오픈 릴레이가 됩니다. 외부인이 귀하의 릴레이 계정을 통해 메일을 발송하면 제공업체가 계정을 정지시키며, 귀하 도메인의 평판이 수개월 동안 손상될 수 있습니다. 변경 사항을 적용할 때마다 양쪽 모두를 확인하십시오.

ss -tlnp | grep ':25'

출력에는 루프백 주소와 브리지 주소만 표시되어야 합니다. 다른 머신에서 실행하는 nc -vz your.server.ip 25은 반드시 실패해야 합니다.

발신 도메인의 SPF, DKIM 및 DMARC

첫 번째 실제 발송 전에 세 레코드를 모두 게시합니다. 모두 무료이고 DNS 레코드이며, 수신 서버가 가장 먼저 확인하는 항목입니다.

SPF(sender policy framework)는 envelope sender에 도메인을 사용할 수 있는 주체를 나열합니다. 발신 하위 도메인에 게시합니다.

notify.example.com.  IN  TXT  "v=spf1 include:_spf.relay.example -all"

include: 값은 릴레이의 자체 설정 페이지에서 복사합니다. 확인되지 않는 include를 사용하면 pass가 아니라 영구 오류가 발생하기 때문입니다. SPF 평가에서 DNS 조회를 수행하는 메커니즘과 수정자는 최대 10개까지 허용됩니다. 이 한도를 초과하면 permerror가 반환되므로 include 수를 적게 유지합니다. 이름마다 v=spf1 레코드를 정확히 하나만 게시합니다. 2개를 게시해도 permerror입니다.

DKIM(domainkeys identified mail)은 릴레이가 보유한 private key로 각 메시지에 서명하며, 수신 서버는 DNS에서 일치하는 public key를 가져옵니다. 릴레이는 게시할 selector와 TXT 레코드 또는 CNAME을 제공합니다.

sel1._domainkey.notify.example.com.  IN  CNAME  sel1.dkim.relay.example.

DKIM은 SPF보다 중요합니다. 서명된 콘텐츠가 변경되지 않으면 전달 과정에서도 DKIM이 유지되기 때문입니다. mailing list 또는 .forward 규칙이 메시지를 전달하면 메시지는 전달 서버의 IP 주소에서 발송된 것으로 도착합니다. 따라서 SPF는 실패하지만 변경되지 않은 서명은 여전히 검증됩니다. 서명된 헤더나 본문을 수정하는 mailing list는 해당 서명을 무효화합니다.

DMARC(domain-based message authentication, reporting and conformance)는 두 검사 중 어느 것도 일치하지 않을 때 수신 서버가 수행할 작업을 지정하고, 결과를 보고하도록 요청합니다. 조직 도메인에 게시합니다.

_dmarc.example.com.  IN  TXT  "v=DMARC1; p=none; rua=mailto:dmarc@example.com; adkim=r; aspf=r"

p=none에서 시작하고 2주 동안 보고서를 확인합니다. p=none은(는) 전달에 아무런 영향을 주지 않습니다. 보고만 활성화하므로, 도메인으로 발송하도록 설정된 것을 잊은 시스템을 찾을 수 있습니다. 그런 다음 p=quarantine(으)로 변경하고, 이후 p=reject(으)로 변경합니다. 첫날부터 p=reject을(를) 게시하면 고객이 청구서를 받지 못한 뒤에야 청구 시스템이 해당 도메인으로 발송하고 있었다는 사실을 알게 될 수 있습니다.

DNS 패널에 표시되는 내용이 아니라 외부에서 확인되는 내용을 확인합니다.

dig +short TXT notify.example.com
dig +short TXT sel1._domainkey.notify.example.com
dig +short TXT _dmarc.example.com

출력 결과가 없으면 레코드가 아직 전파되지 않았거나 이름이 잘못된 것입니다. 5분 전에 수정한 레코드도 이전 TTL(time to live) 기간만큼 캐시에 잘못된 상태로 남을 수 있습니다. 따라서 결론을 내리기 전에 TTL을 확인합니다.

From과 Return-Path를 일치시키기

모든 메시지에는 두 개의 발신자 주소가 포함되며, 이들은 서로 다른 방식으로 검증됩니다. 봉투(envelope) 발신자는 SMTP MAIL FROM 명령에서 지정되며, 전달된 메시지에서는 Return-Path로 나타납니다. 헤더의 From은 수신자가 확인하는 주소입니다.

SPF는 봉투 발신자의 도메인과 연결된 IP 주소를 대조합니다. DKIM은 서명한 도메인을 d=로 보고합니다. DMARC는 이 두 도메인 중 적어도 하나가 헤더의 From 도메인과 일치할 때만 통과합니다. 완화된 일치(relaxed alignment, adkim=r, aspf=r, 기본값) 설정에서는 서브도메인도 인정되므로, notify.example.com의 봉투 발신자는 example.com의 헤더 From과 일치하는 것으로 간주됩니다. 엄격한 일치(strict alignment) 설정에서는 일치하지 않습니다.

실무적인 규칙은 간단합니다. 헤더의 From과 봉투 발신자를 동일한 도메인으로 설정하면 이 문제는 발생하지 않습니다. 이것이 바로 msmtp에서 set_from_header on가 수행하는 역할이며, Postfix에서 sender_canonical_maps가 수행하는 역할입니다.

전달된 메시지에서 판정 결과를 확인하십시오. Gmail의 경우 "원본 보기(Show original)"를 선택하면 수신자가 기록한 헤더가 출력됩니다.

Authentication-Results: mx.google.com;
       dkim=pass header.i=@notify.example.com;
       spf=pass (google.com: domain of apps@notify.example.com designates 198.51.100.25 as permitted sender) smtp.mailfrom=apps@notify.example.com;
       dmarc=pass (p=NONE sp=NONE dis=NONE) header.from=example.com

위 예시에서는 세 가지 검사 항목이 모두 통과되었습니다. 다른 결과가 나타난다면 실패한 검사 항목과 대개 그 이유가 명시되는데, 이는 이 주제와 관련하여 가장 빠르게 디버깅할 수 있는 정보입니다.

대량 발송량이 늘기 전에 반송과 불만을 확인한다

반송은 수신 서버가 메시지를 거부하는 것이다. 영구 반송은 영구적인 실패이며, Gmail에서는 이를 550 5.1.1 The email account that you tried to reach does not exist이라고 표현한다. 일시적 반송은 일시적인 실패다. 전체 사서함이나 greylisting 때문에 발생하는 4xx 코드이며, 릴레이가 자동으로 재시도한다.

릴레이는 영구 반송률을 측정한다. 존재하지 않는 주소로 계속 메일을 보내는 계정은 일시 중지한다. 이러한 패턴이 구매한 목록과 같기 때문이다. 수신자 불만은 더 중요하다. 불만은 사용자가 스팸 버튼을 누르는 것이다. Google의 발신자 가이드(2026년 10월 확인)는 Postmaster Tools에 표시되는 스팸률을 0.30% 미만으로 유지하도록 요청하며, 0.10% 미만을 권장한다.

발송량이 늘기 전에 다음 4가지를 준비해야 한다.

  • webhook 또는 릴레이의 suppression list를 매주 확인하는 절차를 마련해 반송을 확인할 수 있어야 한다.
  • 실제로 누군가 읽는 사서함인 From 주소를 사용하고, 회신을 받을 위치에 Reply-To을 설정해야 한다.
  • 어떤 주소든 등록하기 전에 확인 절차를 거쳐야 한다. 그래야 주소 소유자가 직접 입력하지 않은 주소로 메일을 보내지 않는다.
  • 메일 발송을 트리거하는 모든 form에 rate limit을 설정해야 한다.

마지막 2가지는 self-hosted 앱에서 가장 먼저 문제가 발생하는 부분이다. 보호되지 않은 signup form에서는 누구나 다른 사람의 주소를 입력할 수 있다. 그러면 서버가 확인 메일을 보내고, 그 수신자가 해당 메일을 스팸으로 표시할 수 있다. signup form에서 구독 폭탄 공격 차단하기는 악용 방지 작업인 동시에 메일 전달성 관리 작업이다.

대량 메일은 이 경로로 보내지 않는다. 뉴스레터에는 목록 관리와 수신 거부 헤더가 필요하다. transactional mail에는 이러한 요소가 필요하지 않다. 따라서 뉴스레터는 자체 subdomain에서 자체 평판을 사용하도록 self-hosted Listmonk 인스턴스를 통해 별도로 운영한다. self-hosted forum의 알림 메일은 그 중간에 해당한다. 형식은 transactional mail에 가깝지만 발송량은 대량 메일에 가깝다. 일반적으로 설정이 제대로 작동하는지 가장 먼저 확인하게 해 주는 메일이기도 하다.

참고로 Gmail은 24시간 이내에 개인 Gmail 계정으로 약 5,000개 이상의 메시지를 보내는 발신자를 대량 발신자로 분류한다. 같은 기본 도메인에서 보낸 메시지를 계산하며, subdomain도 포함한다. 이 기준에 한 번 도달하면 대량 발신자 상태는 영구적으로 유지된다. 대량 발신자 규칙에서는 SPF, DKIM, DMARC와 marketing 및 promotional mail에 대한 one-click unsubscribe를 요구한다. 대부분의 self-hosted 앱은 이 기준에 도달하지 않는다. 개인 Gmail 계정으로 보내는 모든 발신자는 SPF 또는 DKIM을 사용해야 한다.

신뢰하기 전에 테스트하십시오

swaks는 이를 위한 도구입니다. 이 도구는 SMTP 프로토콜을 사용하여 전체 대화 과정을 출력하므로 어느 단계에서 실패했는지 확인할 수 있습니다.

sudo apt install -y swaks
swaks --to you@example.com --from apps@notify.example.com --server smtp.relay.example --port 587 --tls --auth-user '<relay username>' --auth-password '<relay password>'

위 명령은 릴레이에 대해 직접 자격 증명을 테스트합니다. 애플리케이션이 실제로 사용하는 경로를 테스트하려면 호스트 릴레이를 대상으로 지정하십시오.

swaks --to you@example.com --from apps@notify.example.com --server 127.0.0.1

그런 다음 서버에서 실제 메일을 보내 종단 간 결과를 확인하십시오. 설정 파일만으로는 아무것도 증명할 수 없으므로 직접 실행해 보아야 합니다.

  • mail-tester.com과 같은 점수 측정 서비스로 메일을 보내십시오. 이 서비스는 SPF, DKIM, DMARC 및 메시지 내용을 읽고 점수의 근거를 알려줍니다.
  • 사용자가 실제로 사용하는 두 곳의 메일 제공업체 각각에 메일함을 만들어 메일을 보내고, 원본 메시지에서 Authentication-Results를 확인하십시오.
  • 정렬 결과가 명확하지 않을 때는 learndmarc.com을 통해 메시지 처리 과정을 확인하십시오.
  • 애플리케이션이 From 헤더를 설정하므로, 명령줄뿐만 아니라 애플리케이션 자체에서 전송을 트리거하십시오.

마지막으로 솔직한 경고를 하나 드립니다. 세 가지 레코드를 모두 올바르게 설정한 신규 도메인이라도 스팸으로 분류될 수 있습니다. 도메인에 이력이 없고 수신 측에서는 지난주에 생성된 도메인을 경계하기 때문입니다. 처음에는 적은 양의 메일을 보내고, 사람들이 기대하는 메일을 발송하십시오. 평판은 그 과정에서 쌓이는 것이며, 어떤 설정으로도 이 단계를 건너뛸 수는 없습니다.

FAQ

VPS에서 아웃바운드 포트 25가 차단되는 이유는 무엇입니까?

많은 제공업체는 기본적으로 아웃바운드 TCP 포트 25를 차단합니다. 해당 포트가 열린 침해된 서버가 수신 메일 서버로 스팸을 직접 전송할 수 있기 때문입니다. 패킷을 폐기하는 방화벽은 연결을 멈춘 것처럼 보이게 한 뒤 시간 초과를 발생시키지만, 시간 초과만으로 제공업체의 차단을 입증할 수는 없습니다. 실제 릴레이 호스트 이름으로 예시 릴레이 호스트 이름을 바꾸어 nc -vz -w 5 gmail-smtp-in.l.google.com 25와 nc -vz -w 5 smtp.relay.example 587를 비교하고, 제공업체의 정책을 확인합니다. 두 테스트 모두 실패할 수 있습니다. VPS 제공업체가 허용한다면 submission 포트 587 또는 465의 릴레이를 통해 전송합니다. DigitalOcean은 Droplet에서 기본적으로 이 두 포트와 25를 모두 차단합니다. 따라서 STARTTLS를 사용하는 SendGrid의 포트 2525처럼 릴레이가 지원하는 대안을 테스트할 수도 있습니다.

앱 알림을 몇 개만 보내는 경우에도 SPF, DKIM, DMARC가 필요합니까?

필요합니다. 전송량이 적어도 달라지지 않습니다. Google의 요구 사항은 전송량에 따라 다릅니다. 개인 Gmail 계정으로 보내는 모든 발신자에게는 SPF 또는 DKIM이 필요하고, 대량 발신자에게는 SPF, DKIM 및 DMARC가 필요합니다. SPF와 DKIM이 없으면 메일이 인증되지 않습니다. Google의 현재 발신자 지침은 모든 발신자에게 이 중 하나 이상을 요구합니다. DMARC가 없으면 보고서를 받을 수 없습니다. 그러면 사용자가 비밀번호 재설정 링크를 받지 못했다고 말하는 것이 문제를 확인하는 첫 신호가 됩니다. 세 항목 모두 DNS 레코드이며 비용이 들지 않습니다. 게시하는 데는 약 10분이 걸립니다.

릴레이 클라이언트로 msmtp와 Postfix 중 무엇을 사용해야 합니까?

한 사람이 시스템을 관리하고 릴레이 장애 중 메시지 하나가 손실되어도 괜찮다면 msmtp를 사용합니다. msmtp는 데몬 없이 단일 설정 파일만 사용합니다. 또한 메시지를 큐에 저장하지 않으므로 릴레이에 연결할 수 없으면 메시지가 사라집니다. 며칠 동안 재시도하는 큐가 필요하거나 여러 앱이 서로 다른 시스템 사용자로 실행된다면 Postfix를 satellite로 사용합니다. Postfix는 릴레이 비밀번호를 root만 읽을 수 있는 파일에 저장하므로 앱이 비밀번호를 읽지 않습니다. 반면 msmtp는 메시지를 보내는 모든 사용자가 설정 파일을 읽을 수 있어야 합니다.

앱의 메일이 root에서 보낸 것으로 처리되어 거부되는 이유는 무엇입니까?

Cron 작업과 많은 앱은 로컬 사용자와 호스트 이름으로 발신자를 구성하므로 root@srv1.localdomain과 같은 주소가 만들어집니다. 이 주소는 릴레이에서 인증한 주소가 아니므로 릴레이가 발신자 주소를 표시하는 553 또는 554 응답과 함께 메시지를 거부합니다. 각 앱에서 따로 수정하지 말고 호스트 수준에서 수정합니다. from 주소와 allow_from_override off를 /etc/msmtprc에 지정하면서 set_from_header on을 설정하거나, Postfix에서 sender_canonical_classes = envelope_sender, header_sender와 함께 sender_canonical_maps를 설정합니다. 답장을 특정 담당자가 받아야 한다면 각 앱에서 Reply-To을 설정합니다.

앱 메일에 별도의 서브도메인을 사용하면 기본 도메인을 실제로 보호할 수 있습니까?

부분적으로 보호할 수 있으며, 그렇게 할 가치는 있습니다. 수신 서버는 도메인별로 평판을 추적하므로 notify.example.com에 대한 불만은 대부분 notify.example.com에 남고 기본 도메인의 메일 전송에는 영향이 적습니다. 다만 한계도 분명합니다. 일부 수신 서버는 서브도메인의 신호를 조직 도메인으로 합산합니다. 또한 조직 수준에서 게시한 DMARC 정책은 sp=를 별도로 설정하지 않는 한 서브도메인에도 적용됩니다. 서브도메인은 피해를 제한하는 수단으로 사용해야 하며, 완전한 보호를 보장하는 방법으로 보아서는 안 됩니다.

이 글이 도움이 되었나요?