메뉴 여닫기
환경 설정 메뉴 여닫기
개인 메뉴 여닫기
로그인하지 않음
만약 지금 편집한다면 당신의 IP 주소가 공개될 수 있습니다.

💬 같이 떠들 사람? 노바위키 디스코드


종단간 암호화(終端間暗號化, End-to-End Encryption, E2EE)는 통신을 시작하는 송신자와 최종 수신자만이 메시지의 내용을 해독할 수 있도록 설계된 암호화 기술이다.

일반적으로 송신자의 기기에서 메시지를 암호화하고, 수신자의 기기에서 이를 복호화하는 방식으로 작동한다.

특히 메시지를 중간에서 전달하는 서버나 인터넷 서비스 제공자가 통신 내용을 읽을 수 없도록 설계한다는 점이 가장 중요한 특징이다.

대표적인 사용 사례로는 시그널, 왓츠앱, 아이메시지, 카카오톡의 비밀채팅, 텔레그램의 비밀 대화 등이 있다.

또한 일부 화상회의 서비스와 파일 공유 서비스, 클라우드 저장 서비스에서도 종단간 암호화 기술을 활용한다.

쉽게 말하면 편지를 보내는 사람이 자물쇠를 잠그고, 받는 사람만 열쇠를 가지고 있는 것이다. 우체국 직원은 편지를 배달할 수 있지만 내용을 읽을 수 없다.

이러한 구조에서는 통신 서비스를 운영하는 기업도 정상적인 암호화 절차를 우회하지 않는 한 대화 내용을 해독할 수 없다.

특히 서버에 저장된 메시지가 유출되더라도 암호화에 사용된 키가 안전하게 보호되고 있다면 공격자가 메시지의 내용을 읽기 어렵다.

그러나 종단간 암호화가 모든 보안 문제를 해결하는 것은 아니다.

상대방의 휴대전화가 해킹되거나, 대화 상대가 직접 메시지를 외부에 공개하거나, 암호화되지 않은 백업이 유출되는 경우에는 대화 내용이 노출될 수 있다.

또한 종단간 암호화는 일반적으로 메시지의 내용을 보호하는 기술이지, 누가 누구와 언제 연락했는지에 관한 모든 정보를 반드시 숨기는 기술은 아니다.

메신저 회사 사장도 내 대화를 못 읽게 만들 수는 있지만, 대화 상대가 스크린샷을 찍어서 인터넷에 올리는 것까지 막아 주지는 못한다.

종단간 암호화는 현대 정보보안과 개인정보 보호의 중요한 기술로 평가되지만, 범죄 수사와 불법 콘텐츠 대응 및 서비스 운영의 어려움에 관한 논쟁도 존재한다.

개요

종단간 암호화에서 종단(End Point)은 통신에 참여하는 최종 사용자나 해당 사용자가 사용하는 기기를 의미한다.

예를 들어 A가 B에게 메시지를 보내는 상황을 생각할 수 있다.

일반적인 인터넷 메신저에서는 A의 스마트폰에서 작성한 메시지가 인터넷을 통해 메신저 회사의 서버로 전송된다.

이후 서버는 해당 메시지를 B의 스마트폰으로 전달한다.

그런데 이 과정에서 메시지가 어떤 방식으로 암호화되는지에 따라 서버가 내용을 읽을 수 있는지가 달라진다.

단순한 전송구간 암호화에서는 스마트폰과 서버 사이의 통신이 암호화되어 있더라도 서버는 필요한 경우 메시지를 복호화할 수 있다.

반면 종단간 암호화에서는 메시지의 암호화와 복호화가 최종 통신 참여자의 기기에서 이루어지도록 설계한다.

따라서 서버는 메시지를 전달할 수 있지만 내용을 해독할 수 없다.

택배회사에 물건을 맡겼는데 택배기사가 주소는 볼 수 있어도 박스 안의 내용물은 볼 수 없는 것과 비슷하다.

그러나 이 비유에도 한계는 있다.

실제로 택배 상자를 뜯으면 내용물을 볼 수 있지만, 제대로 구현된 종단간 암호화에서는 암호화된 데이터를 확보하는 것만으로 내용을 알아내기 어렵기 때문이다.

또한 실제로 보호되는 정보의 범위는 사용되는 서비스와 암호화 프로토콜에 따라 달라진다.

주요 특징

항목 내용
한국어 명칭 종단간 암호화
영문 명칭 End-to-End Encryption
약칭 E2EE
기술 분야 암호학, 정보보안, 통신보안
주요 목적 송신자와 수신자 사이의 통신 내용 보호
암호화 위치 송신자의 기기 또는 신뢰되는 최종 단말
복호화 위치 수신자의 기기 또는 신뢰되는 최종 단말
서버의 역할 암호화된 메시지 전달, 연결 및 계정 관리 등
주요 기술 공개키 암호, 대칭키 암호, 키 교환, 디지털 서명 등
대표 프로토콜 Signal Protocol, MLS, PQ3 등
대표 서비스 시그널, 왓츠앱, 아이메시지 등
주요 장점 통신 내용의 기밀성 강화, 서버 유출에 대한 보호
주요 한계 단말기 해킹, 대화 상대의 유출, 메타데이터 노출 가능성

종단간 암호화는 반드시 하나의 특정 암호화 알고리즘을 의미하지 않는다.

여러 암호화 알고리즘과 키 교환 방식, 인증 프로토콜 등을 조합해 구현할 수 있는 보안 구조를 가리킨다.

따라서 종단간 암호화를 사용한다고 주장하는 서비스라도 실제로 사용하는 기술과 보안 수준은 다를 수 있다.

작동 원리

기본적인 통신 구조

A가 B에게 다음과 같은 메시지를 보낸다고 가정하자.

오늘 저녁에 치킨 먹자.

일반적인 종단간 암호화 서비스에서는 다음과 같은 과정이 이루어진다.

  1. A가 자신의 스마트폰에 메시지를 작성한다.
  2. A의 스마트폰이 암호화 키를 이용해 메시지를 암호화한다.
  3. 암호화된 메시지가 메신저 회사의 서버로 전송된다.
  4. 서버는 암호화된 메시지를 B의 스마트폰으로 전달한다.
  5. B의 스마트폰이 적절한 복호화 키를 이용해 메시지를 해독한다.
  6. B는 원래 메시지인 '오늘 저녁에 치킨 먹자'를 읽는다.

이 과정에서 서버는 메시지의 원문을 해독할 수 없도록 설계된다.

예를 들어 서버가 다음과 같은 데이터를 받았다고 가정해 보자.

원본 메시지:
오늘 저녁에 치킨 먹자.

암호화된 메시지:
7f3a9c21e4b0...

위의 암호화된 문자열은 이해를 돕기 위한 예시이며 실제 암호화 결과는 아니다.

중요한 것은 서버가 원문 메시지를 해독할 수 있는 키를 가지고 있지 않다는 사실이다.

메신저 회사 서버에는 치킨을 먹자는 내용이 아니라 알아들을 수 없는 데이터만 지나가는 것이다.

다만 수신자가 메시지를 읽을 수 있도록 복호화된 뒤에는 일반적인 텍스트나 이미지로 표시된다.

따라서 수신자의 기기를 직접 확보하거나 침해한 공격자까지 종단간 암호화만으로 막을 수 있는 것은 아니다.

공개키와 개인키

종단간 암호화를 구현하는 데에는 공개키 암호 기술이 널리 활용된다.

공개키 암호에서는 서로 관련된 두 종류의 키를 사용한다.

  • 공개키(Public Key): 다른 사람에게 공개할 수 있는 키
  • 개인키(Private Key): 소유자가 비밀로 보관해야 하는 키

대표적으로 공개키를 이용해 암호화한 정보는 대응하는 개인키를 이용해 복호화할 수 있는 공개키 암호 방식이 존재한다.

그러나 실제 메신저는 모든 메시지를 공개키 암호로 직접 암호화하는 것보다, 공개키 기반의 키 교환으로 공유 비밀을 만든 뒤 대칭키 암호를 사용하는 방식을 많이 활용한다.

이러한 구조는 보안성과 처리 효율을 함께 확보하기 위한 것이다.

공개키는 사람들에게 나눠줘도 되지만 개인키는 남에게 보여주면 안 되는 것이다. 이름부터 상당히 직관적이다.

다만 공개키가 공개되어도 된다는 사실과 그 공개키가 정말로 대화 상대의 것이라는 사실은 별개의 문제다.

따라서 상대방의 공개키가 올바른지 확인하는 인증 절차도 중요하다.

대칭키 암호

대칭키 암호는 암호화와 복호화 과정에 동일하거나 밀접하게 관련된 비밀키를 사용하는 방식이다.

대표적인 알고리즘으로는 AES와 ChaCha20 등이 있다.

대칭키 암호는 일반적으로 공개키 암호보다 대용량 데이터를 효율적으로 처리할 수 있다.

따라서 실제 메시지의 본문과 첨부파일을 암호화하는 데 널리 사용된다.

그러나 송신자와 수신자가 안전하게 비밀키를 공유해야 한다는 문제가 존재한다.

이러한 문제를 해결하기 위해 공개키 기반의 키 교환 기술이 사용된다.

키 교환

키 교환은 서로 떨어져 있는 두 기기가 안전하게 공유 비밀을 만드는 과정이다.

특히 디피-헬먼 계열의 키 교환은 현대 암호화 통신에서 중요한 역할을 한다.

두 사람은 공개적으로 교환해도 되는 정보를 이용해 공유 비밀을 계산할 수 있다.

그러나 적절한 보안 조건이 충족된다면 중간에서 통신을 관찰한 사람은 같은 공유 비밀을 계산하기 어렵다.

이러한 방식은 종단간 암호화 메신저에서 통신을 시작하는 데 활용된다.

다만 키 교환만으로 대화 상대의 신원이 자동으로 보장되지는 않는다.

따라서 공개키 인증과 상대방 확인 등의 절차가 추가로 필요할 수 있다.

서버의 역할

종단간 암호화가 적용된 메신저에서도 서버는 중요한 역할을 담당한다.

대표적으로 다음과 같은 일을 수행한다.

  • 사용자의 계정과 기기 등록 관리
  • 수신자에게 메시지 전달
  • 오프라인 사용자에게 전달할 암호화된 메시지 임시 보관
  • 공개키 또는 키 교환에 필요한 정보 전달
  • 메시지 전달 상태 관리
  • 푸시 알림 및 연결 관리

중요한 점은 서버가 메시지를 전달할 수 있다는 사실과 메시지의 원문을 읽을 수 있다는 사실이 다르다는 것이다.

우체국 직원은 편지를 배달할 수 있지만 편지 내용을 반드시 알아야 하는 것은 아니다.

특히 서버는 적절한 암호화 구조가 적용되어 있다면 메시지의 원문을 알지 못하면서도 전달 기능을 수행할 수 있다.

그러나 송수신 계정과 메시지 전달 시간 등 일부 정보는 서비스 운영을 위해 처리될 수 있다.

전송구간 암호화와의 차이

HTTPS와 TLS

HTTPS는 웹브라우저와 웹서버 사이의 통신을 보호하기 위해 널리 사용되는 기술이다.

대표적으로 TLS라는 보안 프로토콜을 이용한다.

사용자가 인터넷 쇼핑몰이나 은행 웹사이트에 접속하면 브라우저와 서버 사이의 통신이 암호화된다.

따라서 중간에서 통신을 가로채려는 공격자가 데이터를 쉽게 읽지 못하도록 한다.

그러나 HTTPS는 일반적으로 사용자의 브라우저와 웹서비스 서버 사이의 통신을 보호한다.

웹서비스 서버가 정상적인 통신의 종착점이므로 서버는 서비스 제공에 필요한 데이터를 복호화할 수 있다.

예를 들어 인터넷 쇼핑몰은 사용자가 어떤 상품을 주문했는지 알아야 주문을 처리할 수 있다.

따라서 HTTPS가 적용된 웹사이트라고 해서 운영자가 사용자 데이터를 전혀 읽을 수 없다는 뜻은 아니다.

주소창에 자물쇠가 있다고 사이트 운영자까지 내 정보를 못 본다는 뜻은 아니다.

일반적인 전송구간 암호화

전송구간 암호화(Encryption in Transit)는 데이터가 네트워크를 통해 이동하는 동안 제3자의 접근을 막는 기술이다.

그러나 통신 중간의 서버가 암호화의 종착점이라면 해당 서버에서는 데이터를 복호화할 수 있다.

예를 들어 다음과 같은 구조가 가능하다.

사용자 A
   ↓ TLS 암호화
메신저 서버
   ↓ TLS 암호화
사용자 B

이 경우 서버는 A와 통신할 때 사용한 암호화를 해제한 뒤 B에게 다시 암호화해 전달할 수 있다.

따라서 서버는 메시지의 내용을 읽을 수 있다.

반면 종단간 암호화에서는 다음과 같은 구조가 사용된다.

사용자 A
   ↓ 종단간 암호화된 메시지
메신저 서버
   ↓ 암호화된 상태로 전달
사용자 B
   ↓ 복호화
원본 메시지 표시

물론 실제 메신저에서는 종단간 암호화와 TLS를 함께 사용할 수 있다.

이 경우 메시지 본문은 종단간 암호화로 보호되고, 기기와 서버 사이의 네트워크 연결 역시 TLS로 보호된다.

두 기술은 경쟁관계가 아니라 서로 보완하는 관계다.[1]

비교

구분 전송구간 암호화 종단간 암호화
보호 범위 지정된 네트워크 연결 최종 통신 참여자 사이의 내용
중간 서버 통신의 종착점이면 복호화 가능 정상적인 설계에서는 메시지 원문 복호화 불가
대표 기술 TLS, HTTPS Signal Protocol 등
주요 목적 통신 경로 보호 통신 내용의 기밀성 보호
단말기 해킹 별도 대책 필요 별도 대책 필요
백업 보호 별도 대책 필요 별도 대책 필요

특히 종단간 암호화가 적용되었다는 사실만으로 기기에 저장된 모든 데이터와 백업까지 반드시 종단간 암호화되는 것은 아니다.

주요 암호화 프로토콜

Signal Protocol

Signal Protocol은 종단간 암호화 메신저에서 널리 사용되는 암호화 프로토콜이다.

초기의 TextSecure 프로젝트와 Open Whisper Systems의 연구를 통해 발전했다.

특히 목시 말린스파이크와 여러 개발자들의 작업으로 알려져 있다.

Signal Protocol은 공개키 기반의 키 교환과 대칭키 암호, 지속적인 키 갱신 등의 기술을 결합한다.

대표적인 특징은 다음과 같다.

  • 송신자와 수신자 사이의 암호화된 통신
  • 메시지마다 새로운 암호화 키를 생성할 수 있는 구조
  • 이전 통신 내용에 대한 보호
  • 일정 조건에서 보안 침해 이후의 회복
  • 오프라인 상태의 수신자에게 메시지를 보낼 수 있는 구조

이러한 기술은 시그널뿐 아니라 다른 메신저 서비스에도 영향을 주었다.

특히 왓츠앱은 Signal Protocol을 기반으로 종단간 암호화를 구현했다.

Double Ratchet

더블 래칫(Double Ratchet)은 Signal Protocol의 중요한 기술 가운데 하나다.

래칫(Ratchet)은 한 방향으로만 회전하는 톱니바퀴 장치를 뜻한다.

암호학에서는 비밀키를 계속 갱신하면서 이전 상태로 쉽게 되돌릴 수 없도록 하는 구조를 설명하는 데 사용된다.

Double Ratchet에서는 메시지를 주고받으면서 암호화 키를 지속적으로 갱신한다.

이를 통해 특정 시점의 키가 노출되더라도 이전 메시지까지 모두 해독되는 위험을 줄일 수 있다.

또한 새로운 키 교환을 통해 미래 메시지의 기밀성을 회복하는 것도 목표로 한다.

메시지를 보낼 때마다 자물쇠를 계속 바꿔서, 오늘 자물쇠 열쇠가 유출됐다고 어제 편지까지 전부 읽히지 않도록 만드는 것이다.

물론 실제 보안 수준은 사용되는 구현과 키 삭제, 기기의 안전성 등에 따라 달라진다.

전방향 안전성

Forward Secrecy

전방향 안전성 또는 순방향 비밀성이라고도 한다.

어느 시점에 장기 비밀키나 현재의 특정 키가 노출되더라도 과거의 통신 내용을 보호하는 성질을 의미한다.

예를 들어 공격자가 오늘 사용자의 일부 암호화 키를 확보했다고 가정하자.

전방향 안전성이 적절하게 제공되는 프로토콜에서는 그 키만으로 과거의 모든 메시지를 해독할 수 없도록 설계한다.

그러나 과거 메시지가 이미 평문으로 기기에 저장되어 있거나 다른 방식으로 유출되었다면 이러한 보호가 무의미해질 수 있다.

오늘 집 열쇠를 도둑맞았다고 해서 과거에 주고받았던 편지까지 자동으로 복원할 수 있는 것은 아니라는 이야기다.

침해 후 보안 회복

Post-Compromise Security

침해 후 보안 회복은 특정 시점에 통신의 비밀키가 노출되었더라도 이후 적절한 키 갱신을 통해 미래 통신의 기밀성을 회복하려는 보안 성질이다.

일부 래칫 기반 프로토콜에서 제공하는 중요한 기능이다.

그러나 공격자가 사용자의 기기를 계속 장악하고 있다면 보안 회복이 보장되지 않는다.

공격자가 기기에서 새로운 메시지와 키를 계속 훔칠 수 있기 때문이다.

한번 도둑이 열쇠를 훔쳐 갔더라도 나중에 자물쇠를 바꾸면 안전해질 수 있다. 그런데 도둑이 아직 집 안에 살고 있으면 자물쇠를 바꿔 봐야 소용이 없다.

MLS

Messaging Layer Security

MLS는 여러 사람이 참여하는 그룹 메시지의 종단간 암호화를 효율적으로 구현하기 위한 프로토콜이다.

2023년 7월 IETF의 RFC 9420으로 표준화되었다.

특히 수백 명 또는 수천 명이 참여하는 그룹에서 암호화 키를 효율적으로 관리하는 것을 목표로 한다.

그룹에 새로운 사람이 들어오거나 기존 사람이 나갈 때 관련 키를 갱신하는 기능도 중요하다.

또한 전방향 안전성과 침해 후 보안 회복 등의 성질을 제공하도록 설계되었다.

그러나 MLS를 사용한다는 사실만으로 해당 메신저의 모든 기능과 서버가 자동으로 안전해지는 것은 아니다.

실제 서비스에서는 사용자 인증과 키 관리, 단말기 보안 및 운영체제의 구현까지 고려해야 한다.[2]

주요 서비스

시그널

시그널(Signal)은 개인정보 보호와 종단간 암호화를 주요 특징으로 하는 메신저다.

일반적인 메시지와 음성통화, 영상통화에 종단간 암호화를 기본적으로 적용한다.

특히 Signal Protocol을 개발하고 발전시킨 프로젝트와 직접적으로 연결되어 있다.

시그널은 메시지 본문의 암호화뿐 아니라 서비스 제공자가 보유하는 이용자 정보를 최소화하려는 설계로도 알려져 있다.

예를 들어 Sealed Sender라는 기술을 통해 메시지를 보낸 사람에 관한 일부 메타데이터를 서버에 덜 노출하도록 설계했다.

그러나 시그널 역시 인터넷 연결을 위해 필요한 모든 정보를 완전히 숨길 수 있는 것은 아니다.

또한 메시지를 받는 상대방의 기기와 계정이 안전해야 한다는 조건은 다른 메신저와 같다.

메신저 회사도 대화를 못 읽게 만들겠다는 철학을 서비스의 핵심으로 삼은 메신저다.

왓츠앱

왓츠앱(WhatsApp)은 메타가 운영하는 메신저 서비스다.

2016년 4월 Signal Protocol을 활용한 종단간 암호화를 일반적인 메시지와 통화에 기본 적용하는 작업을 완료했다고 발표했다.

이를 통해 일반 개인 대화와 그룹 대화, 음성통화 및 여러 첨부파일을 종단간 암호화로 보호한다.

그러나 왓츠앱의 메시지 내용이 종단간 암호화된다는 사실과 서비스가 처리하는 모든 정보가 비공개라는 사실은 다르다.

특히 계정과 연락처, 서비스 이용정보 등은 별도의 개인정보 처리 정책에 따라 관리될 수 있다.

또한 대화 백업은 메시지 전송과 다른 보안 문제다.

왓츠앱은 2021년부터 별도의 종단간 암호화 백업 기능을 제공했다.

2025년에는 패스키를 이용해 암호화 백업을 보호하는 기능도 발표했다.[3][4]

대화는 아무도 못 읽게 암호화했는데 백업을 평범하게 저장하면, 정작 백업 때문에 대화가 노출될 수 있는 것이다.

따라서 중요한 대화를 보호하려면 백업 설정도 확인할 필요가 있다.

텔레그램

텔레그램(Telegram)은 클라우드 동기화와 여러 기기에서의 사용을 강조하는 메신저다.

특히 일반적인 클라우드 대화와 비밀 대화(Secret Chat)를 구분한다.

중요한 사실은 텔레그램의 일반 대화가 모두 종단간 암호화되는 것은 아니라는 점이다.

텔레그램의 일반적인 클라우드 대화는 사용자와 텔레그램 서버 사이의 암호화 및 서버 측 저장 구조를 이용한다.

반면 비밀 대화는 대화에 참여한 기기 사이의 종단간 암호화를 사용한다.

비밀 대화는 일반적인 클라우드 대화와 달리 모든 기기에 자동으로 동기화되지 않는다.

또한 텔레그램의 공식 설명에 따르면 비밀 대화는 기기에 연결되어 있고, 일반 클라우드 대화와 다른 방식으로 보호된다.

이는 대화의 복원 편의성과 종단간 암호화 사이에서 서로 다른 설계 선택을 제공하는 방식이다.[5]

보안이 좋다고 해서 텔레그램을 설치했는데, 정작 종단간 암호화를 사용하려면 일반 대화가 아니라 비밀 대화를 선택해야 하는 것이다.

따라서 텔레그램을 사용하는 것만으로 모든 대화 내용이 서비스 운영자에게 복호화 불가능한 상태라고 생각해서는 안 된다.

카카오톡

카카오가 운영하는 대한민국의 대표적인 메신저다.

카카오톡에는 비밀채팅이라는 기능이 존재한다.

이 기능은 종단간 암호화를 이용해 대화 내용을 보호한다.

카카오의 공식 안내에 따르면 비밀채팅의 복호화 키는 이용자의 단말기에 저장되며, 카카오톡 서버에 있는 정보만으로는 암호화된 대화 내용을 확인할 수 없도록 설계되어 있다.[6]

그러나 카카오톡의 모든 채팅방이 비밀채팅과 동일한 종단간 암호화 구조를 적용한다고 생각해서는 안 된다.

특히 일반채팅과 비밀채팅은 별도의 기능으로 구분된다.

또한 비밀채팅에는 일반채팅과 다른 기능 제한이 존재할 수 있다.

카카오톡에 비밀채팅 기능이 있다는 사실과 내가 평소에 하는 모든 카카오톡 대화가 종단간 암호화된다는 사실은 전혀 다른 문제다.

따라서 이용자는 자신이 사용하는 채팅방의 보안 설정과 지원 기능을 확인해야 한다.

아이메시지

아이메시지(iMessage)는 애플의 메시지 서비스다.

아이폰과 아이패드, 맥 등의 애플 기기 사이에서 사용된다.

아이메시지는 메시지의 종단간 암호화를 지원한다.

특히 애플은 2024년 PQ3라는 새로운 암호화 프로토콜을 발표했다.

PQ3는 기존의 암호화 기술과 양자내성 암호 기술을 결합하여 향후 양자컴퓨터에 대한 방어력을 강화하는 것을 목표로 한다.

또한 메시지를 계속 주고받는 과정에서 암호화 키를 갱신하여 이전 메시지와 미래 메시지를 보호하도록 설계되어 있다.

그러나 아이메시지의 종단간 암호화와 아이클라우드 백업의 암호화는 별개의 문제다.

특히 아이클라우드의 표준 데이터 보호 설정에서는 백업과 메시지 복구에 필요한 키의 저장 방식 때문에 추가적인 보안 고려사항이 존재한다.

애플은 고급 데이터 보호(Advanced Data Protection)를 통해 아이클라우드 백업 등 여러 데이터 유형에 종단간 암호화를 적용할 수 있도록 지원한다.[7][8]

아이메시지는 메시지를 안전하게 보내는 데 신경을 쓰고 있지만, 사용자가 백업까지 어떻게 설정했는지는 또 다른 문제라는 것이다.

RCS

RCS(Rich Communication Services)는 기존 SMS와 MMS의 기능을 확장하기 위해 개발된 메시징 규격이다.

사진과 동영상 전송, 읽음 확인, 그룹 메시지 등 여러 기능을 제공한다.

특히 구글 메시지에서는 지원되는 사용자 사이의 RCS 대화에 종단간 암호화를 적용해 왔다.

그러나 과거에는 안드로이드와 아이폰 사이의 RCS 대화에 동일한 종단간 암호화 기능이 제공되지 않는 문제가 있었다.

2026년 5월 애플과 구글은 안드로이드와 아이폰 사이의 RCS 종단간 암호화 기능을 베타로 도입하기 시작했다.

특히 지원되는 통신사와 기기, 운영체제 및 메시지 앱이 필요하다.

따라서 2026년 기준 모든 RCS 메시지가 반드시 종단간 암호화된다고 볼 수는 없다.

특히 실제 대화 화면에서 암호화 활성화 여부를 확인하는 것이 중요하다.[9]

안드로이드와 아이폰이 서로 문자메시지를 보내는 데에는 오래전부터 성공했지만, 서로 안전하게 암호화된 RCS를 주고받는 데에는 훨씬 오랜 시간이 걸린 것이다.

SMS

SMS는 기존 이동통신망을 이용하는 문자메시지 서비스다.

일반적인 SMS는 현대적인 의미의 종단간 암호화를 기본적으로 제공하지 않는다.

특히 이동통신사와 통신망의 구조에 따라 메시지가 처리되는 과정에서 별도의 보안 문제가 발생할 수 있다.

따라서 민감한 내용을 주고받을 때에는 종단간 암호화가 제공되는 메신저를 사용하는 편이 적절할 수 있다.

다만 SMS라고 해서 모든 통신 구간에서 언제나 아무런 암호화도 사용하지 않는다는 뜻은 아니다.

이동통신망 자체의 암호화와 메시지의 종단간 암호화는 서로 다른 문제다.

줌

줌(Zoom)은 화상회의와 원격회의 서비스를 제공한다.

일반적인 회의에서는 전송구간 암호화를 비롯한 여러 보안기능을 제공한다.

또한 지원되는 환경에서 종단간 암호화 회의를 사용할 수 있다.

그러나 모든 줌 회의가 기본적으로 종단간 암호화를 사용하는 것은 아니다.

특히 종단간 암호화를 활성화하면 클라우드 녹화와 일부 AI 기능, 실시간 자막 및 여러 회의 기능이 제한될 수 있다.

이는 서버가 회의의 음성과 영상을 직접 처리해야 하는 기능과 종단간 암호화의 설계가 충돌할 수 있기 때문이다.[10]

회의 내용을 회사 서버도 못 보게 막아 놓으면, 그 서버가 회의 내용을 듣고 자동으로 회의록을 만들어 주는 기능도 사용하기 어려워지는 것이다.

서비스별 비교

서비스 종단간 암호화 적용 특징
시그널 일반 대화와 통화에 기본 적용 Signal Protocol
왓츠앱 일반 개인·그룹 대화와 통화에 기본 적용 백업 암호화는 별도 확인 필요
아이메시지 아이메시지 대화에 적용 PQ3, 아이클라우드 백업 설정 주의
카카오톡 비밀채팅에 적용 일반채팅과 구분
텔레그램 비밀 대화에 적용 일반 클라우드 대화와 구분
구글 메시지 지원되는 RCS 대화에 적용 기기·앱·상대방 지원 여부에 따라 다름
SMS 기본적으로 미지원 일반 이동통신 문자메시지
줌 지원되는 회의에서 활성화 가능 일부 회의 기능 제한

서비스의 암호화 지원 범위는 기능 업데이트와 운영체제, 상대방의 사용환경에 따라 달라질 수 있다.

특히 보안이 중요한 대화에서는 서비스의 이름만 보고 판단하기보다 실제 대화에 종단간 암호화가 적용되어 있는지 확인해야 한다.

보안상의 장점

서버가 해킹되어도 메시지를 보호할 수 있다

종단간 암호화의 가장 중요한 장점 가운데 하나다.

일반적인 서비스에서는 서버에 저장된 데이터가 유출되면 메시지 내용도 함께 노출될 수 있다.

그러나 적절하게 구현된 종단간 암호화에서는 서버가 원문을 복호화할 키를 가지고 있지 않다.

따라서 서버에 저장된 암호문이 유출되더라도 공격자가 이를 해독하기 어렵다.

물론 서버가 계정정보와 전달 관련 메타데이터를 보유하고 있다면 그러한 정보는 별도로 노출될 수 있다.

또한 서버가 사용자의 공개키를 악의적으로 바꾸는 등의 공격을 시도하지 못하도록 인증과 검증 절차가 필요하다.

서비스 운영자를 반드시 신뢰하지 않아도 된다

종단간 암호화의 중요한 목적 가운데 하나는 서버 운영자에게 메시지의 원문을 맡기지 않는 것이다.

일반적인 서비스에서는 사용자가 자신의 정보를 서비스 운영자에게 제공하고 운영자가 이를 안전하게 보관한다고 믿어야 한다.

반면 종단간 암호화에서는 암호화 키가 올바르게 관리된다는 전제 아래 운영자가 메시지 내용을 직접 읽을 수 없도록 설계할 수 있다.

이를 통해 사용자와 서비스 운영자 사이에서 필요한 신뢰의 범위를 줄일 수 있다.

메신저 회사가 착한 회사라서 내 대화를 안 읽는 것이 아니라, 애초에 읽기 어렵게 만들어 놓겠다는 것이다.

그러나 서비스 운영자에 대한 모든 신뢰가 사라지는 것은 아니다.

특히 앱의 업데이트와 공개키 배포, 소프트웨어 구현 및 계정 관리 등이 여전히 중요하다.

공공장소의 네트워크에서도 내용 보호

종단간 암호화가 적절하게 적용된 메신저에서는 공공 와이파이를 사용하더라도 메시지 본문의 기밀성을 보호할 수 있다.

특히 중간에서 네트워크 트래픽을 관찰하는 공격자가 암호화 키 없이 원문을 읽기 어렵다.

그러나 공공 와이파이의 다른 보안 위험이 모두 사라지는 것은 아니다.

악성 네트워크나 피싱 사이트, 취약한 앱 및 단말기 공격 등은 별도로 주의해야 한다.

한계

상대방이 유출하면 끝이다

종단간 암호화의 가장 근본적인 한계다.

종단간 암호화는 메시지를 보내는 사람과 받는 사람만 내용을 읽을 수 있도록 설계한다.

그런데 받는 사람이 내용을 읽을 수 있다는 사실은 그 내용을 다른 사람에게 전달할 수도 있다는 의미다.

특히 대화 상대는 메시지를 캡처하거나 직접 기록할 수 있다.

일부 앱은 스크린샷을 제한하는 기능을 제공하기도 하지만 다른 기기로 화면을 촬영하는 행동까지 완벽하게 막을 수는 없다.

메신저 회사는 대화를 못 읽는데 정작 대화 상대가 스크린샷을 찍어서 단체방에 뿌리면 암호화가 아무 소용이 없어진다.

따라서 중요한 정보를 보호하려면 통신기술뿐 아니라 대화 상대에 대한 신뢰도 중요하다.

휴대전화가 해킹되면 소용없다

종단간 암호화는 통신 중간에 존재하는 공격자로부터 메시지를 보호하도록 설계된다.

그러나 송신자나 수신자의 기기 자체가 해킹된다면 문제가 달라진다.

예를 들어 공격자가 악성 프로그램을 이용해 스마트폰의 화면이나 입력 내용을 확인할 수 있다고 가정하자.

이 경우 메시지가 암호화되기 전이나 복호화된 뒤에 내용을 가로챌 수 있다.

또한 공격자가 기기에 저장된 대화 기록을 확보할 수도 있다.

편지에 아무리 튼튼한 자물쇠를 걸어 놔도 도둑이 집 안에 들어와 편지를 읽고 있으면 소용없는 것이다.

따라서 단말기의 보안 업데이트와 잠금 설정, 악성 앱 차단 등도 중요하다.

백업이 취약할 수 있다

사용자가 종단간 암호화된 메신저를 사용하더라도 대화 백업은 별도의 방식으로 저장될 수 있다.

예를 들어 일부 서비스에서는 대화 기록을 클라우드에 백업하면서 서비스 제공자나 클라우드 사업자가 복구를 지원할 수 있도록 설계한다.

이 경우 백업의 암호화 키 관리 방식에 따라 원본 메시지의 기밀성이 달라질 수 있다.

반면 백업 자체에 종단간 암호화를 적용하면 서비스 제공자도 내용을 해독하기 어렵게 만들 수 있다.

그러나 이러한 경우에는 사용자가 복구 키를 잃어버렸을 때 데이터를 복원하지 못할 위험이 커질 수 있다.

대화를 아무도 못 읽게 만들어 놨는데 휴대전화를 바꾸려면 예전 대화를 그대로 복구하고 싶다고 한다. 보안과 편의성이 서로 싸우기 시작하는 순간이다.

메타데이터는 남을 수 있다

종단간 암호화는 일반적으로 메시지의 내용을 보호하는 데 초점을 맞춘다.

그러나 메시지가 언제 전송되었는지, 어느 계정이 다른 계정에 메시지를 보냈는지 등의 정보는 별도로 처리될 수 있다.

이를 메타데이터라고 한다.

대표적인 메타데이터의 예시는 다음과 같다.

  • 송신자와 수신자 관련 정보
  • 메시지의 전송 시각
  • 통신 횟수
  • 사용자의 접속 기록
  • 기기의 IP 주소
  • 서비스 접속 환경

다만 어떤 메타데이터가 실제로 수집되고 보관되는지는 서비스에 따라 다르다.

시그널처럼 메타데이터의 수집을 최소화하려는 기술을 도입한 서비스도 존재한다.

또한 일부 메타데이터는 별도의 암호화나 설계를 통해 보호할 수 있다.

대화 내용은 아무도 못 읽지만 누가 누구와 언제 연락했는지는 별도의 기록으로 남을 수 있다는 것이다.

특히 메타데이터를 장기간 분석하면 통신 당사자 사이의 관계나 활동 패턴을 추정할 수 있는 경우도 있다.

대화 상대의 신원을 확인해야 한다

종단간 암호화가 적용되어 있어도 대화 상대가 실제로 누구인지는 별도로 확인해야 할 수 있다.

예를 들어 공격자가 다른 사람의 계정을 탈취했다고 가정하자.

이 경우 사용자는 실제 친구라고 생각하고 메시지를 보내지만, 상대방의 계정을 사용하고 있는 사람은 공격자일 수 있다.

또한 공개키를 바꿔치기하는 중간자 공격을 막기 위한 검증 절차도 중요하다.

일부 메신저는 안전번호나 보안코드, QR 코드 등을 제공한다.

사용자는 이러한 정보를 비교해 상대방의 암호화 키가 일치하는지 확인할 수 있다.

특히 시그널의 안전번호 기능은 민감한 대화에서 상대방과의 암호화 연결을 검증하기 위한 수단이다.[11]

통신을 아무리 암호화해도 내가 친구라고 생각하는 사람이 사실은 친구 계정을 탈취한 사기꾼이면 별 소용이 없는 것이다.

편리한 기능이 제한될 수 있다

종단간 암호화는 서버가 메시지를 읽지 못하도록 설계한다.

그러나 일부 서비스 기능은 서버가 메시지 내용을 직접 분석해야 제공하기 쉽다.

예를 들어 다음과 같은 기능이 영향을 받을 수 있다.

  • 서버에서 대화 내용 검색
  • 서버 기반 자동 번역
  • 클라우드 회의 녹화
  • 서버에서 처리하는 AI 요약
  • 메시지 내용에 기반한 일부 자동 분류 기능

물론 이러한 기능들이 종단간 암호화와 절대로 양립할 수 없다는 의미는 아니다.

사용자 기기에서 직접 처리하거나 별도의 보안 설계를 적용하면 기능을 제공할 수도 있다.

그러나 서버에서 원문을 처리하는 일반적인 구조보다 구현이 복잡해질 수 있다.

회사의 서버도 메시지를 못 읽게 해 놓고 그 회사 AI에게 내 대화를 읽고 요약해 달라고 하면 기술적으로 새로운 고민이 생기는 것이다.

범죄 수사와의 관계

수사기관도 내용을 읽을 수 없는가?

적절하게 구현된 종단간 암호화에서는 서비스 제공자가 메시지를 복호화할 키를 가지고 있지 않을 수 있다.

따라서 수사기관이 서버에 저장된 메시지를 요청하더라도 서비스 제공자가 원문을 제공하지 못하는 상황이 발생할 수 있다.

그러나 이것이 수사기관이 어떠한 정보도 확보할 수 없다는 뜻은 아니다.

특히 계정정보와 접속 기록, 메타데이터 등은 서비스의 보유 정책과 법률에 따라 제공될 수 있다.

또한 수사기관이 적법한 절차를 통해 통신 당사자의 기기를 확보하거나 기기에 저장된 대화 내용을 분석할 수 있는 경우도 있다.

이때 실제 접근 가능 여부는 기기의 잠금과 암호화 상태, 법적 권한 등에 따라 달라진다.

메신저 회사가 대화를 못 읽으니 서버에서 달라고 해도 못 줄 수는 있지만, 그렇다고 대화 상대의 휴대전화까지 사라지는 것은 아니다.

암호화와 범죄

종단간 암호화는 일반 시민의 개인정보를 보호하는 데 중요한 역할을 한다.

특히 금융정보와 개인적인 대화, 의료정보 및 기업의 영업비밀 등을 안전하게 전달하는 데 도움이 된다.

또한 언론인과 인권운동가, 정치적 탄압을 받을 위험이 있는 사람들에게도 중요한 기술이다.

그러나 범죄자 역시 같은 기술을 사용할 수 있다.

이 때문에 종단간 암호화가 수사를 방해한다는 비판이 제기되어 왔다.

특히 아동 성착취물 유통과 조직범죄, 사기 등에 대한 대응 과정에서 수사기관이 암호화된 통신을 확인하기 어렵다는 문제가 논의된다.

반면 강한 암호화를 약화시키면 일반 시민과 기업, 공공기관의 통신 역시 공격에 취약해질 수 있다는 반론도 존재한다.

따라서 이 문제는 개인정보 보호와 범죄 예방, 공공안전 사이에서 지속적으로 논쟁되는 주제다.

백도어 논쟁

일부 정부와 수사기관에서는 법적으로 허가된 상황에서 암호화된 통신에 접근할 수 있는 방안을 요구하기도 한다.

예를 들어 서비스 제공자가 특별한 복호화 기능이나 접근 수단을 보유하도록 하는 방법이다.

그러나 이러한 기능을 도입하면 공격자도 이를 악용하려 할 수 있다.

또한 누가 어떤 상황에서 접근할 수 있는지, 접근 권한을 어떻게 보호할 것인지 등 여러 문제가 발생한다.

암호학자와 정보보안 연구자 가운데는 이러한 특별 접근 기능이 전체 보안 체계를 약화시킬 수 있다고 비판하는 사람들이 많다.

반면 수사기관의 입장에서는 적법한 수사영장이 있어도 필요한 증거를 확보하기 어렵다는 현실적인 문제를 제기한다.

정부는 범죄자 메시지만 읽고 싶다고 하지만, 암호화 프로그램은 대화 상대가 착한 사람인지 나쁜 사람인지 알아서 판단하는 기술이 아니다.

이러한 논쟁은 단순히 암호화 기술 자체의 문제가 아니라 국가의 권한과 시민의 개인정보 보호에 관한 문제이기도 하다.

양자컴퓨터와 종단간 암호화

양자컴퓨터의 위협

현대의 많은 공개키 암호 기술은 특정한 수학 문제를 일반적인 컴퓨터로 해결하기 어렵다는 점에 기반한다.

그러나 충분히 강력한 양자컴퓨터가 개발되면 일부 공개키 암호 알고리즘이 위협받을 가능성이 있다.

특히 쇼어 알고리즘은 특정한 공개키 암호 체계의 안전성에 중요한 영향을 미칠 수 있다.

이 때문에 양자컴퓨터 시대에 대비한 새로운 암호화 기술이 연구되고 있다.

이를 양자내성 암호(Post-Quantum Cryptography)라고 부른다.

다만 양자컴퓨터가 개발되면 모든 암호화가 즉시 무력화된다는 뜻은 아니다.

영향을 받는 알고리즘과 필요한 컴퓨터의 성능, 보안 강도에 따라 상황은 달라진다.

지금 수집해서 나중에 해독한다

Harvest Now, Decrypt Later

양자컴퓨터와 관련된 중요한 보안 문제다.

공격자가 현재는 해독할 수 없는 암호화된 메시지를 대량으로 수집해 보관할 수 있다.

그리고 미래에 충분히 강력한 컴퓨터나 새로운 공격 기술을 확보하면 과거의 메시지를 해독하려 할 수 있다.

이러한 위험은 장기간 기밀성을 유지해야 하는 정보에서 특히 중요하다.

예를 들어 국가기밀이나 기업의 장기적인 영업비밀은 수십 년이 지난 뒤에도 민감할 수 있다.

따라서 현재의 암호화가 안전하다는 사실만으로 장기적인 기밀성이 반드시 보장되는 것은 아니다.

지금은 암호를 못 풀어도 일단 메시지를 모아 놓고, 20년 뒤 기술이 좋아지면 읽어 보겠다는 것이다. 상당히 장기적인 존버 전략이다.

시그널의 PQXDH

시그널은 2023년 PQXDH(Post-Quantum Extended Diffie-Hellman)라는 키 교환 프로토콜을 발표했다.

PQXDH는 기존의 공개키 암호 기술과 양자내성 키 교환 기술을 결합한 방식이다.

특히 미래에 양자컴퓨터가 등장하더라도 과거의 암호화된 메시지를 보호하는 능력을 강화하려는 목적을 가지고 있다.

그러나 PQXDH의 초기 설계에서는 일부 인증 기능이 기존 암호학적 가정에 의존한다.

따라서 모든 보안 속성이 완전히 양자내성이라는 식으로 단순화하면 부정확하다.[12]

Triple Ratchet

2025년 10월 시그널은 Sparse Post-Quantum Ratchet(SPQR)라는 새로운 기술을 발표했다.

이는 장기간 이어지는 통신에서도 양자내성 보안을 유지하기 위한 기술이다.

시그널은 기존 Double Ratchet과 SPQR을 결합하는 구조를 Triple Ratchet이라고 설명했다.

이를 통해 기존의 보안 속성과 양자내성 암호의 장점을 결합하는 것을 목표로 한다.

특히 전방향 안전성과 침해 후 보안 회복을 양자컴퓨터의 위협까지 고려하여 강화하려는 것이다.[13]

암호화 기술도 이제는 오늘의 해커뿐 아니라 미래의 양자컴퓨터까지 걱정하면서 자물쇠를 바꾸고 있는 것이다.

애플의 PQ3

애플은 2024년 아이메시지에 PQ3라는 프로토콜을 발표했다.

PQ3 역시 기존 암호화 기술과 양자내성 암호 기술을 결합한다.

특히 장기간 이어지는 대화에서 키를 갱신하며 과거와 미래 메시지의 기밀성을 보호하도록 설계되어 있다.

그러나 양자내성 암호화가 적용되었다는 사실만으로 단말기의 악성코드나 계정 탈취, 백업 유출과 같은 문제까지 해결되는 것은 아니다.

암호학적 보호와 실제 제품의 전체 보안은 서로 구분해야 한다.

역사

초기 암호화 통신

암호화는 고대부터 군사와 외교, 정치적인 목적으로 사용되어 왔다.

그러나 현대적인 종단간 암호화는 컴퓨터와 디지털 통신의 발전을 통해 실용화되었다.

특히 공개키 암호와 대칭키 암호, 안전한 키 교환 기술이 발전하면서 통신 당사자들이 직접 암호화된 데이터를 주고받을 수 있게 되었다.

1970년대 공개키 암호 기술의 발전은 이러한 변화에서 중요한 역할을 했다.

PGP

1991년 필 짐머만은 PGP(Pretty Good Privacy)를 발표했다.

PGP는 이메일과 파일 등을 암호화하는 데 사용되는 소프트웨어다.

특히 공개키 암호를 이용해 사용자 사이의 안전한 정보 교환을 지원했다.

PGP는 현대적인 종단간 암호화 메신저와 동일한 기술은 아니지만, 일반 사용자가 직접 강력한 암호화를 사용하는 문화를 확산시키는 데 중요한 역할을 했다.

특히 이메일 서비스 제공자에게 모든 메시지 내용을 맡기지 않고 사용자가 직접 암호화하는 방식의 가능성을 보여주었다.

모바일 메신저의 발전

2000년대 후반과 2010년대 초반 스마트폰이 대중화되면서 모바일 메신저 이용자가 급증했다.

특히 왓츠앱과 카카오톡, 텔레그램 등이 널리 사용되기 시작했다.

그러나 초기 모바일 메신저의 암호화와 보안 수준은 서비스마다 달랐다.

일부 서비스는 전송구간의 암호화에 집중했으며, 이후 종단간 암호화 기능을 확대했다.

Signal Protocol의 확산

2010년대 Signal Protocol이 발전하면서 종단간 암호화 메신저의 구현 방식에도 중요한 변화가 발생했다.

특히 오프라인 상태의 사용자에게 메시지를 전달하는 기능과 지속적인 키 갱신을 함께 지원했다.

2016년에는 왓츠앱이 일반적인 대화와 통화에 종단간 암호화를 기본 적용하는 작업을 완료했다고 발표했다.

이후 여러 메신저가 종단간 암호화를 기본 제공하거나 선택적으로 사용할 수 있도록 지원했다.

2020년대의 변화

2020년대에는 그룹 통신과 클라우드 백업, 양자내성 암호화 등이 중요한 과제로 부상했다.

특히 2023년 MLS가 IETF 표준으로 발표되었다.

또한 2024년 애플의 PQ3와 2025년 시그널의 SPQR 등 새로운 양자내성 암호화 기술이 소개되었다.

2026년에는 안드로이드와 아이폰 사이의 RCS 종단간 암호화 지원도 베타로 확대되기 시작했다.

이는 종단간 암호화가 일부 보안 전문 메신저만의 기능에서 일반적인 통신 서비스의 핵심 기능으로 확장되고 있음을 보여준다.

주요 연혁

연도 내용
1970년대 공개키 암호와 현대적인 키 교환 기술 발전
1991년 PGP 발표
2010년대 초반 모바일 메신저의 종단간 암호화 기술 확산
2014년 카카오톡 비밀채팅 도입 발표
2016년 왓츠앱이 일반적인 메시지와 통화의 종단간 암호화 기본 적용 완료 발표
2018년 시그널의 Sealed Sender 기술 발표
2021년 왓츠앱의 종단간 암호화 백업 기능 도입
2023년 MLS, RFC 9420으로 표준화
2023년 메타, 메신저 개인 대화의 기본 종단간 암호화 확대 발표
2023년 시그널 PQXDH 발표
2024년 애플, 아이메시지 PQ3 발표
2025년 시그널, SPQR과 Triple Ratchet 기술 발표
2026년 애플·구글, 안드로이드와 아이폰 사이의 RCS 종단간 암호화 베타 도입 시작

에피소드

1. 메신저 회사도 내 대화를 못 읽는다

종단간 암호화의 가장 중요한 특징이다.

일반적인 서버 기반 서비스에서는 운영자가 필요한 기술적 접근권한을 가지고 있다면 저장된 데이터를 읽을 수 있는 경우가 있다.

그러나 종단간 암호화에서는 서비스 제공자가 메시지 원문을 복호화할 수 없도록 설계한다.

이러한 구조는 개인정보 보호에 중요한 장점이 있다.

회사에 돈을 내고 서비스를 이용하는데 그 회사조차 서비스를 이용하는 사람들의 대화를 못 읽게 만들어 놓은 것이다.

다만 실제로 서비스 운영자가 어떤 정보에 접근할 수 있는지는 사용하는 기능과 구현 방식에 따라 달라진다.

2. 상대방이 배신하면 끝이다

종단간 암호화된 메신저는 외부의 도청으로부터 대화 내용을 보호할 수 있다.

그러나 메시지를 받은 사람은 내용을 읽을 수 있다.

따라서 그 사람이 메시지를 다른 사람에게 공개하면 기술적으로 막기 어렵다.

특히 스크린샷이나 화면 녹화, 다른 기기로 촬영하는 등의 방법이 존재한다.

해커와 정보기관을 막겠다고 암호화를 했는데 대화 상대가 직접 단체방에 뿌리면 그 모든 노력이 허사가 될 수 있다.

이는 암호화 기술의 실패라기보다 암호화가 해결하려는 문제의 범위가 다르기 때문이다.

3. 경찰도 못 읽는데 휴대전화를 압수하면?

적절한 종단간 암호화 서비스에서는 회사가 서버에서 대화 원문을 제공하지 못할 수 있다.

그러나 대화 참여자의 휴대전화에는 복호화된 메시지가 저장되어 있을 수 있다.

따라서 단말기를 확보하거나 계정에 접근할 수 있다면 별도의 방법으로 대화 내용을 확인할 가능성이 존재한다.

물론 실제 수사 과정에는 관련 법률과 영장, 기기의 보안 상태 등 여러 조건이 적용된다.

서버에서는 암호를 못 푸는데 정작 사용자 휴대전화에는 대화 내용이 멀쩡하게 보일 수도 있는 것이다.

4. 텔레그램이라고 전부 종단간 암호화가 아니다

텔레그램은 개인정보 보호를 강조하는 메신저로 알려져 있다.

그러나 일반적인 클라우드 대화와 비밀 대화는 서로 다른 암호화 구조를 사용한다.

특히 종단간 암호화는 비밀 대화에서 적용된다.

따라서 텔레그램으로 메시지를 보냈다는 사실만으로 종단간 암호화가 적용되었다고 생각해서는 안 된다.

보안 때문에 텔레그램을 쓰는데 정작 비밀 대화는 사용하지 않는다면 자신이 기대한 방식의 보안과 실제 보안이 다를 수 있는 것이다.

5. 카카오톡에도 비밀채팅이 있다

카카오톡은 대한민국에서 매우 널리 사용되는 메신저다.

많은 사람들은 카카오톡이 단순한 일반 채팅만 제공한다고 생각할 수 있다.

그러나 카카오톡에는 종단간 암호화를 지원하는 비밀채팅 기능이 존재한다.

다만 일반채팅과 비밀채팅은 구분되는 기능이다.

한국 사람들이 하루 종일 사용하는 카카오톡에도 종단간 암호화 기능이 있는데, 비밀채팅을 실제로 사용해 본 사람은 생각보다 많지 않을 수도 있다.

실제 이용률은 별도의 조사 없이 단정할 수 없다.

6. HTTPS 자물쇠와는 다르다

인터넷 브라우저에서 HTTPS로 연결된 웹사이트는 전송구간의 통신을 암호화한다.

그러나 웹사이트 운영 서버는 서비스 제공을 위해 전달받은 정보를 복호화할 수 있다.

반면 종단간 암호화 메신저에서는 중간 서버가 메시지 원문을 복호화할 수 없도록 설계한다.

주소창에 자물쇠가 있다고 인터넷 쇼핑몰 운영자가 내가 산 물건을 모르는 것은 아니다. 그러면 배송도 못 해 준다.

따라서 HTTPS와 종단간 암호화를 같은 개념으로 이해해서는 안 된다.

7. 암호화된 메시지를 백업하면서 암호화를 잊는다

종단간 암호화는 메시지 전송 과정을 보호한다.

그런데 사용자가 대화 기록을 클라우드에 백업하면 새로운 보안 문제가 발생할 수 있다.

특히 백업이 별도의 암호화로 보호되지 않는다면 대화 내용이 다른 경로로 노출될 가능성이 존재한다.

이러한 문제 때문에 일부 서비스는 종단간 암호화 백업 기능을 별도로 제공한다.

메시지를 아무도 못 읽게 암호화해 놓고 백업은 누구나 읽을 수 있는 상태로 저장하면 본말이 전도되는 것이다.

8. 보안이 강하면 비밀번호를 잃어버렸을 때도 위험하다

종단간 암호화는 서비스 제공자가 데이터를 복호화할 수 없도록 설계할 수 있다.

그러나 사용자가 복구 키를 잃어버렸을 때에도 문제가 발생한다.

서비스 제공자에게 복구 키가 없다면 사용자에게 데이터를 복원해 줄 수 없을 수 있기 때문이다.

이는 개인정보 보호와 복원 편의성 사이에서 발생하는 중요한 문제다.

회사도 내 정보를 못 읽게 만들어 달라고 했는데, 나중에 열쇠를 잃어버리고 회사에 전화해서 어떻게 좀 열어 달라고 하면 회사도 난감해지는 것이다.

9. 메타데이터는 거짓말을 하지 않는다

종단간 암호화에서는 대화의 내용이 보호될 수 있다.

그러나 누가 누구와 언제 연락했는지에 관한 일부 정보는 별도로 남을 수 있다.

특히 이러한 정보가 오랫동안 수집되면 사람 사이의 관계나 활동 패턴을 추정할 수 있다.

예를 들어 특정 사용자들이 매일 같은 시간에 연락한다는 사실만으로도 일정한 관계를 추측할 수 있다.

물론 이것만으로 실제 대화 내용이나 관계의 성격을 확정할 수 있는 것은 아니다.

무슨 이야기를 했는지는 모르지만 새벽 3시에 매일 같은 사람과 연락한다는 사실은 별도의 정보를 제공할 수 있는 것이다.

10. 메시지가 사라진다고 스크린샷도 사라지는 것은 아니다

일부 메신저는 일정 시간이 지나면 메시지가 자동으로 삭제되는 기능을 제공한다.

그러나 이러한 기능은 종단간 암호화와 별개의 기능이다.

또한 메시지가 사라지기 전에 상대방이 복사하거나 촬영했다면 별도의 기록이 남을 수 있다.

따라서 자동 삭제 기능이 제공된다는 이유만으로 대화가 절대로 외부에 공개되지 않는다고 믿어서는 안 된다.

10초 뒤에 사라지는 메시지를 보냈는데 상대방이 1초 만에 스크린샷을 찍으면 나머지 9초는 별 의미가 없어질 수 있는 것이다.

11. 암호화를 강화하면 AI가 불편해진다

일부 서비스에서는 AI가 대화 내용을 요약하거나 분석하는 기능을 제공한다.

그러나 종단간 암호화된 대화는 서버가 내용을 직접 읽을 수 없도록 설계되어 있다.

따라서 서버에서 대화 내용을 처리하는 AI 기능을 제공하려면 별도의 기술과 사용자 동의가 필요할 수 있다.

이 문제를 해결하기 위해 기기 내부에서 AI를 실행하거나 새로운 개인정보 보호 기술을 활용하는 방법이 연구되고 있다.

AI에게 내 대화를 절대로 보여주지 말라고 했다가, 나중에는 AI에게 내 대화를 요약해 달라고 부탁하는 시대가 된 것이다.

12. 암호화가 너무 좋아도 범죄는 문제다

종단간 암호화는 시민의 개인정보와 기업의 기밀정보를 보호하는 데 도움이 된다.

그러나 범죄자 역시 이를 사용할 수 있다.

이 때문에 수사기관에서는 암호화된 통신에 대한 적법한 접근의 필요성을 주장하기도 한다.

반면 강한 암호화에 특별 접근 기능을 도입하면 전체 시스템이 취약해질 수 있다는 비판도 존재한다.

범죄자만 암호화를 못 쓰게 만들면 좋겠지만 암호화 프로그램에는 사용자가 범죄자인지 아닌지 알아보는 도덕성 검사 기능이 없다.

따라서 이 문제는 기술뿐 아니라 법률과 정책, 시민의 권리에 관한 논쟁으로 이어진다.

13. 암호화가 좋다고 사기꾼이 사라지지는 않는다

종단간 암호화는 메시지의 내용을 외부에서 훔쳐보지 못하도록 보호한다.

그러나 메시지를 보내는 사람이 사기꾼이라면 상황은 달라진다.

예를 들어 사기꾼이 피해자에게 직접 메시지를 보내 돈을 요구하는 경우에는 암호화가 사기 행위를 막아 주지 못한다.

오히려 피해자는 안전한 메신저를 사용하고 있다는 이유로 상대방까지 믿어도 된다고 착각할 수 있다.

메시지는 안전하게 전달되었지만 그 메시지의 내용이 사기라면 안전하게 전달된 사기일 뿐이다.

14. 종단간 암호화는 불륜 방지 기술이 아니다

일부 사람들은 종단간 암호화를 사용하면 자신의 대화가 절대로 공개되지 않을 것이라고 생각할 수 있다.

그러나 실제로는 상대방이 직접 메시지를 보여주거나 휴대전화가 노출되는 경우가 있다.

또한 계정이 탈취되거나 다른 기기에 대화 내용이 남아 있을 수도 있다.

따라서 종단간 암호화는 통신 경로에 대한 보안이지 인간관계에서의 비밀 유지를 보장하는 기술이 아니다.

배우자에게 안 들키려고 종단간 암호화를 사용해도 정작 대화 상대가 캡처해서 보내면 아무 소용이 없다.

15. 양자컴퓨터까지 걱정하기 시작했다

현대의 종단간 암호화 기술은 이미 상당한 수준으로 발전했다.

그러나 개발자들은 미래의 양자컴퓨터가 일부 암호화 기술을 위협할 수 있다는 문제를 연구하고 있다.

이에 따라 시그널은 PQXDH와 SPQR 등의 기술을 개발했다.

애플 역시 아이메시지에 PQ3를 도입했다.

오늘날의 해커도 암호를 못 풀게 만들었더니 이제는 미래의 양자컴퓨터가 와서 풀어 버리는 상황까지 대비하고 있는 것이다.

16. 메시지는 암호화했는데 휴대전화 화면은 그대로다

종단간 암호화에서는 전송되는 데이터가 암호화된다.

그러나 사용자가 메시지를 읽을 때에는 화면에 원문이 표시된다.

따라서 다른 사람이 옆에서 화면을 바라보면 대화 내용을 볼 수 있다.

특히 공공장소에서 화면을 훔쳐보는 행위는 종단간 암호화로 막을 수 없다.

미국 정보기관도 해독하기 어려운 암호화된 메시지를 지하철 옆자리에 앉은 사람이 그냥 눈으로 읽을 수 있는 것이다.

이 역시 통신의 보안과 실제 사용자 환경의 보안이 다르다는 점을 보여준다.

17. 암호화된다고 익명인 것은 아니다

종단간 암호화는 통신 내용의 기밀성을 보호한다.

그러나 이용자가 누구인지에 관한 정보까지 반드시 숨기는 기술은 아니다.

예를 들어 전화번호나 계정정보를 이용해 가입하는 서비스에서는 별도의 개인정보가 존재할 수 있다.

또한 IP 주소와 기기정보 등도 서비스의 구조에 따라 처리될 수 있다.

따라서 종단간 암호화와 익명성은 구분해야 한다.

대화 내용은 아무도 못 읽는데 누가 그 대화를 하고 있는지는 이미 알고 있을 수 있는 것이다.

18. 모든 메신저가 같은 자물쇠를 쓰는 것은 아니다

여러 메신저가 종단간 암호화를 제공하지만 반드시 같은 기술을 사용하는 것은 아니다.

시그널은 Signal Protocol을 중심으로 발전했다.

애플은 아이메시지에 PQ3를 도입했다.

텔레그램의 비밀 대화는 별도의 MTProto 관련 기술을 사용한다.

따라서 종단간 암호화라는 이름이 같아도 실제 보안 구조와 기능은 다를 수 있다.

다 똑같이 자물쇠를 달았다고 하지만 어떤 회사는 자물쇠를 계속 바꾸고, 어떤 회사는 열쇠 보관 방식이 다르고, 어떤 회사는 특별한 방에서만 자물쇠를 잠그는 것이다.

평가

종단간 암호화는 현대 정보보안에서 가장 중요한 기술적 개념 가운데 하나다.

특히 통신 서비스를 운영하는 서버가 메시지 내용을 해독하지 못하도록 설계하여 사용자의 개인정보와 통신의 기밀성을 강화한다.

이는 기존의 전송구간 암호화만으로는 해결하기 어려웠던 문제를 개선하는 방식이다.

또한 언론인과 인권운동가, 기업 및 일반 시민들이 민감한 정보를 안전하게 전달하는 데 도움이 된다.

그러나 종단간 암호화가 적용되었다는 사실만으로 모든 보안 문제가 해결되는 것은 아니다.

특히 단말기의 해킹과 계정 탈취, 대화 상대의 유출, 백업 및 메타데이터 문제 등은 별도로 고려해야 한다.

또한 강한 암호화는 범죄 수사와 불법 콘텐츠 대응 과정에서 현실적인 어려움을 일으킬 수 있다.

따라서 종단간 암호화는 개인정보 보호와 공공안전 사이의 논쟁에서도 중요한 위치를 차지한다.

기술적으로는 Signal Protocol과 MLS, 양자내성 암호화 등의 발전을 통해 보안성과 효율성을 계속 개선하고 있다.

특히 2020년대에는 그룹 대화와 클라우드 백업, 여러 기기 사이의 동기화 및 양자컴퓨터에 대한 대응이 중요한 과제가 되었다.

결국 종단간 암호화는 서버 운영자에게도 내 대화를 보여주지 않겠다는 기술이지만, 정작 그 대화를 받는 사람이 믿을 만한 사람인지까지 판단해 주는 기술은 아니다.

여담

  • 종단간 암호화는 End-to-End Encryption의 한국어 명칭이다.
  • E2EE라는 약칭이 널리 사용된다.
  • 메시지의 송신자와 수신자만 내용을 해독할 수 있도록 설계한다.
  • 종단간 암호화가 적용되면 서비스 제공자도 정상적인 방식으로는 대화 원문을 해독할 수 없게 만들 수 있다.
  • 종단간 암호화는 하나의 단일한 암호화 알고리즘을 뜻하지 않는다.
  • 공개키 암호와 대칭키 암호, 키 교환 등의 기술을 조합해 구현한다.
  • HTTPS와 종단간 암호화는 서로 다른 개념이다.
  • HTTPS는 일반적으로 브라우저와 서버 사이의 연결을 보호한다.
  • 종단간 암호화는 최종 통신 참여자 사이의 메시지 내용을 보호한다.
  • 주소창에 자물쇠가 있다고 모든 데이터가 종단간 암호화된 것은 아니다.
  • 시그널은 일반적인 메시지와 통화에 종단간 암호화를 기본 적용한다.
  • 왓츠앱은 2016년에 일반 대화와 통화의 기본 종단간 암호화 적용을 완료했다고 발표했다.
  • 텔레그램은 일반 클라우드 대화와 비밀 대화를 구분한다.
  • 텔레그램의 모든 대화가 기본적으로 종단간 암호화되는 것은 아니다.
  • 카카오톡은 비밀채팅에 종단간 암호화를 적용한다.
  • 아이메시지는 종단간 암호화를 지원한다.
  • 애플은 2024년 PQ3라는 양자내성 암호화 프로토콜을 발표했다.
  • 구글 메시지는 지원되는 RCS 대화에 종단간 암호화를 제공한다.
  • 2026년에는 아이폰과 안드로이드 사이의 RCS 종단간 암호화가 베타로 도입되기 시작했다.
  • 일반 SMS는 종단간 암호화를 기본 제공하지 않는다.
  • 일부 줌 회의에서는 종단간 암호화를 활성화할 수 있다.
  • 종단간 암호화 회의에서는 서버 기반의 일부 기능이 제한될 수 있다.
  • 서버가 대화 내용을 읽지 못한다면 서버가 직접 대화를 분석해야 하는 기능도 제공하기 어려워질 수 있다.
  • 종단간 암호화와 클라우드 백업의 암호화는 별개의 문제다.
  • 일부 메신저는 백업에도 종단간 암호화를 적용할 수 있다.
  • 백업 복구 키를 잃어버리면 데이터를 복원하기 어려울 수 있다.
  • 종단간 암호화는 메시지 내용의 기밀성을 보호하는 데 초점을 맞춘다.
  • 메타데이터는 별도로 수집되거나 보관될 수 있다.
  • 누가 누구와 연락했는지에 관한 정보까지 반드시 모두 숨기는 것은 아니다.
  • 시그널은 Sealed Sender 등의 기술을 통해 메타데이터 노출을 줄이려 했다.
  • 종단간 암호화를 사용해도 상대방이 대화를 캡처할 수 있다.
  • 자동 삭제 메시지가 반드시 외부 유출을 막아 주는 것은 아니다.
  • 통신 당사자의 기기가 해킹되면 복호화된 대화 내용이 노출될 수 있다.
  • 공개키의 진위를 확인하는 절차도 중요하다.
  • 일부 메신저는 안전번호와 QR 코드 등을 이용해 상대방의 키를 검증한다.
  • 암호화된 메시지를 주고받는 상대가 진짜 친구인지까지 자동으로 보장되는 것은 아니다.
  • Signal Protocol에는 지속적으로 암호화 키를 갱신하는 기술이 사용된다.
  • Double Ratchet은 메시지 키를 갱신하는 중요한 방식이다.
  • 전방향 안전성은 미래의 키 유출로부터 과거의 메시지를 보호하려는 성질이다.
  • 침해 후 보안 회복은 특정 시점의 키 유출 이후 미래 메시지의 안전성을 회복하려는 성질이다.
  • MLS는 그룹 메시지의 종단간 암호화를 위한 국제 표준이다.
  • MLS는 2023년 RFC 9420으로 발표되었다.
  • 양자컴퓨터의 발전은 일부 기존 공개키 암호 기술에 위협이 될 수 있다.
  • 시그널은 PQXDH와 SPQR 등의 기술을 개발했다.
  • 애플은 아이메시지에 PQ3를 도입했다.
  • 암호화된 메시지를 지금 수집했다가 미래에 해독하려는 공격을 Harvest Now, Decrypt Later라고 부른다.
  • 종단간 암호화는 개인정보 보호에 중요한 역할을 한다.
  • 그러나 범죄자 역시 같은 암호화 기술을 사용할 수 있다.
  • 수사기관과 정보보안 전문가들 사이에서는 특별 접근 기능을 둘러싼 논쟁이 존재한다.
  • 백도어를 도입하면 공격자도 이를 악용할 가능성이 있다.
  • 암호화 프로그램은 사용자가 착한 사람인지 범죄자인지 구분하지 않는다.
  • 종단간 암호화는 익명성과 같은 개념이 아니다.
  • 종단간 암호화를 사용한다고 IP 주소와 계정정보가 무조건 숨겨지는 것은 아니다.
  • 종단간 암호화와 디지털 서명은 서로 다른 보안 목적을 가진다.
  • 강한 암호화라도 사용자 기기의 보안이 취약하면 위험할 수 있다.
  • 운영체제와 앱을 최신 상태로 유지하는 것이 중요하다.
  • 메신저 회사도 못 읽는 메시지를 옆자리에 앉은 사람이 화면을 훔쳐보면 그냥 읽을 수 있다.
  • 아무리 암호화를 잘해도 대화 상대가 직접 내용을 공개하면 막을 수 없다.
  • 종단간 암호화는 메시지의 비밀을 지키는 기술이지 인간의 비밀을 영원히 지켜 주는 기술은 아니다.

관련 문서

외부 링크 및 출처

주석

각주

목차