본문으로 건너뛰기
← Systems Notebook / SEC
DNS와 이름 노출SECURITY NOTES

HTTPS인데도 접속한 사이트 이름이 보이는 이유는?

회사 방화벽을 지나는 패킷에서 사이트 이름은 어디까지 보일까요? 외부 DNS resolver와 직접 TLS 연결을 기준으로 DoT·DoH·ECH의 보호 범위를 살펴봅니다.

홍범개념 설명 · 움직이는 예제

회사 네트워크에 연결한 노트북으로 외부 웹 서비스인 https://portal.orbit.example/reports에 접속한다고 가정하겠습니다. 주소창에는 HTTPS가 표시되고 화면에는 로그인한 사용자의 보고서가 나타납니다. 회사 방화벽에서 통과 패킷을 확인하는 네트워크·보안 담당자는 접속한 사이트 이름까지 알 수 있을까요?

HTTPS는 브라우저와 사이트 사이의 HTTP 요청과 응답을 암호화합니다. TLS 1.3 규격이 설명하는 보호도 통신 양 끝 사이의 기밀성과 무결성입니다. 그런데 보고서를 요청하려면 먼저 사이트의 주소를 찾고 연결을 준비해야 합니다. 사이트 이름은 이 과정에서도 쓰입니다.

이 예의 노트북은 회사가 사용을 허용한 외부 DNS 서버에 사이트 주소를 새로 조회합니다. 웹 프록시나 TLS 복호화 장비를 거치지 않고, 외부 서비스와 직접 TCP 위에서 TLS 1.3 연결을 맺어 서버 인증을 마친다고 가정합니다. 담당자가 단말이나 서버에 저장된 정보를 열어보는 상황은 제외하고, 방화벽을 통과하는 패킷에서 무엇을 읽을 수 있는지 따라가겠습니다.

페이지를 요청하기 전에 사이트의 주소를 묻습니다

브라우저가 열려는 주소에는 portal.orbit.example이라는 이름과 /reports라는 경로가 있습니다. 이름은 접속할 사이트를 가리키고 경로는 그 사이트에서 요청할 대상을 가리킵니다. 인터넷으로 데이터를 보내려면 먼저 이름에 대응하는 IP 주소를 알아야 합니다.

노트북은 외부 DNS 서버에 portal.orbit.example의 IP 주소를 물어봅니다. 이것이 DNS 질의이고, 대신 답을 찾아 주는 서버를 재귀 DNS resolver라고 합니다. 이 질의에는 조회할 이름만 넣고 보고서 경로인 /reports나 로그인 쿠키, 보고서 본문은 보내지 않습니다. DNS 개인정보 보호 문서는 질의에 담긴 이름과 질의를 보낸 쪽의 주소를 중요한 개인정보로 다룹니다.

DNS 질의를 평문으로 보내면 방화벽을 통과하는 패킷에서 portal.orbit.example이라는 이름을 읽을 수 있습니다. 뒤이어 보고서를 HTTPS로 받아도 앞서 전송한 DNS 질의가 거꾸로 암호화되지는 않습니다. 다만 이름을 조회했다는 사실만으로 그 페이지를 끝까지 읽었다고 단정할 수는 없습니다. DNS 질의로 확인할 수 있는 것은 어떤 이름의 주소를 물었는지까지입니다.

/reports 대신 /settings를 열어도 같은 사이트라면 DNS 질의명은 그대로입니다. 이 이름만으로는 어느 페이지를 요청했는지 알 수 없습니다.

DNS를 암호화하면 누가 이름을 볼 수 있을까요?

같은 질의를 암호화해서 보내면 사내 방화벽을 지나는 동안 질의명이 가려집니다. 노트북과 외부 resolver 사이에 TLS 연결을 만들고 그 안으로 DNS 메시지를 보내는 방식이 DoT, DNS over TLS입니다. DNS 질의를 HTTPS 요청에 담아 resolver로 보내는 방식은 DoH, DNS over HTTPS입니다. 전달 방식은 달라도 두 방식 모두 DNS 요청을 보내는 쪽과 resolver 사이를 보호합니다. DoT 규격과 DoH 규격이 각각 이 전달 방식을 정의합니다.

이 예처럼 외부 resolver에 DNS 질의를 인증된 암호화 연결로 보내면 담당자는 방화벽을 지나는 패킷에서 질의명을 바로 읽을 수 없습니다. 어느 resolver의 IP 주소와 통신하는지는 여전히 보입니다. 암호화 연결이 차단되거나 실패해 다른 방식으로 다시 보내는 경우는 이번 비교에서 다루지 않습니다.

resolver는 암호화된 질의를 받는 서버이므로 내용을 읽고 답합니다. 암호화된 DNS를 사용해도 resolver는 portal.orbit.example을 조회했다는 사실을 압니다. 노트북과 맺은 암호화 연결은 resolver에서 끝나므로, resolver가 다른 DNS 서버와 통신할 때는 별도의 연결을 사용합니다.

회사에서 운영하는 DNS 서버를 사용한다면 그 서버가 질의를 읽고 처리합니다. 단말과 회사 DNS 사이를 암호화해도, 질의를 받는 회사 DNS로부터 이름을 숨길 수는 없습니다. 따라서 이 예에서 방화벽의 관찰 범위가 줄어든다는 설명을 회사 전체가 이름을 알 수 없다는 뜻으로 넓혀서는 안 됩니다.

DNS 질의는 외부 resolver까지 암호화합니다

단계 설명과 조건별 결과
  1. 노트북은 portal.orbit.example의 IP 주소를 묻는 DNS 질의를 준비합니다. HTTP 경로와 쿠키는 이 질의에 없습니다.
  2. TLS 연결 안에 DNS 질의를 넣습니다. 이 예에서는 외부 resolver 인증을 마친 연결로 질의를 보냅니다.
  3. 질의를 TLS 연결 안에 둔 채 사내 방화벽으로 전달합니다. 담당자의 패킷 관찰 결과는 통과한 다음 단계에서 확인합니다.
  4. 방화벽을 통과했습니다. 담당자는 패킷에서 질의명을 읽지 못했고 그 관찰 결과를 유지하며 외부 resolver로 전달합니다.
  5. 외부 resolver는 TLS 연결의 수신자이므로 암호화를 풀고 portal.orbit.example 질의에 답합니다. 이 보호 연결은 외부 resolver에서 끝납니다.

DoT — 외부 resolver는 TLS 연결의 수신자이므로 암호화를 풀고 portal.orbit.example 질의에 답합니다. 이 보호 연결은 외부 resolver에서 끝납니다.

DoH — 외부 resolver는 HTTPS 요청의 수신자이므로 암호화를 풀고 portal.orbit.example 질의에 답합니다. 이 보호 연결은 외부 resolver에서 끝납니다.

평문 DNS — 외부 resolver가 평문 질의명 portal.orbit.example을 읽고 주소를 답합니다. 방화벽에서 패킷을 본 담당자와 외부 resolver 모두 질의를 읽을 수 있었습니다.

DNS를 암호화해도 TLS 연결을 시작할 때 이름이 드러날 수 있습니다

이제 노트북은 portal.orbit.example의 IP 주소를 알게 되었습니다. 그 주소로 연결한 뒤에는 어느 사이트와 HTTPS 통신을 하려는지 서버에 알려야 할 수 있습니다. 하나의 IP 주소에서 여러 사이트를 제공한다면, IP 주소만으로는 사용자가 어느 이름으로 접속했는지 구분하기 어렵기 때문입니다.

브라우저는 TLS 연결을 시작할 때 보내는 ClientHello에 사이트 이름을 넣을 수 있는데, 이 이름 정보가 SNI, Server Name Indication입니다. 서버는 이를 이용해 해당 사이트의 인증서와 설정을 선택할 수 있습니다. SNI 규격은 같은 네트워크 주소에서 여러 서버 이름을 지원하는 상황을 그 용도로 설명합니다.

ECH를 사용하지 않는 일반적인 TLS 1.3 연결에서는 이 첫 ClientHello가 평문으로 전송됩니다. SNI에 portal.orbit.example을 넣었다면 경로상의 관찰자도 그 이름을 읽을 수 있습니다. 이후 HTTP 요청과 보고서 본문을 암호화해도 처음 보낸 이름까지 숨겨지지는 않습니다.

DNS에서는 가려졌던 portal.orbit.example이 바로 다음 ClientHello에서는 보일 수 있는 셈입니다. 이어지는 비교의 DNS만 암호화 조건이 이 경우입니다.

ECH로 ClientHello 안의 실제 사이트 이름을 보호합니다

ClientHello에서 드러나는 이름을 보호하는 방법이 ECH, Encrypted Client Hello입니다. 실제 접속 이름을 포함한 ClientHello의 내용을 암호화해 서버에 전달합니다. ECH를 지원하는 브라우저와 서버가 이 방식을 성공적으로 사용하면, 경로상의 관찰자는 그 안의 실제 SNI 이름을 직접 읽을 수 없습니다. ECH 규격은 기존 ClientHello의 이름 노출과 이를 보호하는 목적을 함께 설명합니다.

서버에 연결하려면 여전히 IP 주소가 필요합니다. 바깥 ClientHello에는 연결을 받아 줄 공개 이름도 남을 수 있습니다. ECH는 실제로 방문하는 이름을 감추는 데 집중하며 연결 자체를 보이지 않게 만들지는 않습니다.

암호화된 DNS와 ECH는 각각 다른 단계에서 이름을 보호합니다. DNS만 암호화하면 뒤따르는 SNI가 이름을 드러낼 수 있습니다. ECH만 사용하고 DNS 질의를 평문으로 보내면 앞선 주소 조회에서 같은 이름이 드러날 수 있습니다. 이 예에서는 두 방식을 함께 사용해야 담당자가 방화벽을 지나는 DNS 질의와 ClientHello에서 이름을 직접 읽지 못합니다.

DNS 질의와 ClientHello를 따로 보호합니다

단계 설명과 조건별 결과
  1. portal.orbit.example에 접속합니다. 웹 프록시 없이 외부 서비스와 직접 TLS 연결을 맺습니다. DNS 질의와 TLS ClientHello는 각각 이름을 담는 별개 메시지입니다.
  2. 노트북이 인증된 암호화 연결로 외부 resolver에 DNS 질의를 보냅니다. 방화벽 담당자는 패킷에서 질의명을 읽지 못하지만 외부 resolver는 읽습니다.
  3. 브라우저가 외부 서비스에 별개의 TLS 시작 메시지를 보냅니다. 앞서 DNS에서 얻은 관찰 정보는 지워지지 않습니다.
  4. 이 조건에서는 브라우저와 외부 서비스가 ECH를 사용합니다. 실제 이름 portal.orbit.example은 암호화된 안쪽 ClientHello에 있고, 바깥에는 공개 이름 public.orbit.example과 목적지 IP가 남습니다.
  5. 방화벽에서 읽은 DNS와 공개 ClientHello 정보를 유지하며 메시지를 외부 서비스로 전달합니다. ECH 안쪽 실제 이름은 아직 암호문입니다.
  6. 외부 서비스는 실제 이름을 읽어 연결을 처리합니다. 방화벽 담당자의 패킷 관찰에는 DNS 질의명과 실제 SNI 모두 없지만, 공개 이름·목적지 IP·통신 흔적은 남습니다.

DNS 암호화 + ECH — 외부 서비스는 실제 이름을 읽어 연결을 처리합니다. 방화벽 담당자의 패킷 관찰에는 DNS 질의명과 실제 SNI 모두 없지만, 공개 이름·목적지 IP·통신 흔적은 남습니다.

DNS만 암호화 — 이 연결에서는 평문 SNI에서 실제 이름이 드러납니다. HTTP 본문은 별도로 HTTPS가 보호합니다.

ECH만 사용 — 이 연결에서는 평문 DNS에서 실제 이름이 드러납니다. HTTP 본문은 별도로 HTTPS가 보호합니다.

둘 다 없음 — 이 연결에서는 DNS와 SNI 양쪽에서 실제 이름이 드러납니다. HTTP 본문은 별도로 HTTPS가 보호합니다.

이름을 읽지 못해도 IP 주소는 남습니다

DNS와 ClientHello의 이름을 모두 보호한 뒤에도 노트북은 사이트가 있는 IP 주소로 데이터를 보내야 합니다. 담당자는 사내 방화벽에서 그 목적지 주소와 통신 시각, 오가는 데이터의 크기 같은 정보를 관찰할 수 있습니다. 관찰할 수 있는 정보가 모두 로그에 저장되는 것은 아니며, 실제 기록 항목과 보관 기간은 장비 설정과 운영 정책에 따라 달라집니다.

그 주소를 특정 서비스만 쓴다면 방문 대상을 추정하는 단서가 될 수 있습니다. 여러 사이트가 함께 쓰는 주소라면 주소 하나로 정확한 사이트를 구분하기는 어렵습니다. 어느 쪽이든 암호화된 이름을 읽은 것은 아니며, 남아 있는 단서로 방문 대상을 추정한 것입니다. ECH의 개인정보 보호 설명도 DNS와 서버 IP 주소 때문에 ECH만으로 모든 노출이 해결되지는 않는다고 짚습니다.

이름이 가려져도 목적지 IP는 남습니다

단계 설명과 조건별 결과
  1. 이름을 보호합니다 DNS 암호화와 ECH로 실제 이름을 직접 읽지 못하도록 했습니다. 연결의 목적지 IP 203.0.113.24는 여전히 보입니다.
  2. 주소에 연결된 후보를 봅니다 이 예에서는 portal, mail, shop 세 외부 서비스가 같은 IP를 사용합니다. IP만으로는 어느 이름에 접속했는지 하나로 정할 수 없습니다.
  3. 추정과 해독을 구분합니다 세 후보가 남습니다. IP를 관찰했다고 암호화된 실제 이름을 복호화한 것은 아닙니다. 통신 시각과 크기 같은 다른 흔적도 남습니다.

여러 서비스가 쓰는 IP — 세 후보가 남습니다. IP를 관찰했다고 암호화된 실제 이름을 복호화한 것은 아닙니다. 통신 시각과 크기 같은 다른 흔적도 남습니다.

한 서비스가 쓰는 IP — 후보가 하나로 좁아져도 암호문에서 이름을 읽은 것은 아닙니다. 해당 IP를 어느 서비스가 쓰는지 알고 있기 때문에 추정할 수 있습니다.

처음 질문으로 돌아가면, HTTPS 표시만으로 회사 방화벽을 지나는 패킷에서 사이트 이름까지 가려졌다고 볼 수는 없습니다. 주소 조회에는 암호화된 DNS가, ClientHello에는 ECH가 적용됐는지 확인해야 합니다. 이 예의 외부 DNS 조회와 외부 서비스로의 직접 TLS 연결에서 두 단계의 이름을 모두 보호해도, 목적지 IP와 통신 흔적을 통한 추정 가능성은 남습니다.

다만 지금까지의 설명은 프록시 없이 직접 연결하는 환경을 기준으로 한 것입니다. 웹 프록시를 쓰는 회사에서는 이름을 전달하는 지점이 하나 더 생길 수 있습니다. 프록시에 연결할 사이트 이름을 전달했다면, 프록시는 HTTPS 본문을 복호화하지 않아도 그 이름을 압니다. Squid의 HTTPS 설명도 연결을 중계하는 터널과 HTTPS 내용을 복호화하는 기능을 구분합니다. TLS 복호화까지 이루어지는 환경에서는 요청 경로와 본문도 검사할 수 있으므로, 이 글에서 가정한 직접 연결과 구분해야 합니다.

그림과 애니메이션은 본문의 조건을 단순화한 설명용 예시입니다.