SS / VMess / Trojan 프로토콜 비교

프로토콜이 해결하는 문제는 무엇인가

Shadowsocks든 VMess든, 본질적으로는 여러분의 네트워크 트래픽을 한 겹 감싸서 중간의 네트워크 장비(통신사, 방화벽)가 이것이 "프록시 트래픽"임을 알아채기 어렵게 만들면서, 전송 과정에서 데이터가 도청되거나 조작되지 않도록 보장합니다. 프로토콜 간의 차이는 주로 세 가지 측면에서 드러납니다.

• 암호화 강도어떤 알고리즘으로 데이터를 암호화하는지, 전방 보안(forward secrecy)을 지원하는지, 해독되거나 분석될 가능성이 얼마나 되는지.
• 위장 능력트래픽 특징이 정상적인 HTTPS/TLS 트래픽과 얼마나 비슷한지. 비슷할수록 트래픽 특징 기반 차단에 걸리기 어렵습니다.
• 성능 부담암복호화와 핸드셰이크 과정에서 소모되는 연산 자원과 지연 시간으로, 사용 체감에 직접적인 영향을 줍니다.

Shadowsocks(SS): 가볍지만 특징이 뚜렷함

Shadowsocks는 가장 먼저 유행한 프로토콜로, 설계 사상이 매우 단순합니다. 공유 키 하나로 데이터를 대칭 암호화하며(흔히 chacha20-ietf-poly1305, aes-256-gcm 같은 AEAD 암호화 사용), 추가적인 핸드셰이크 부담이 거의 없습니다.

• 장점: 구현이 단순하고 속도가 빠르며 클라이언트 리소스 사용량이 낮습니다. 거의 모든 플랫폼에 성숙한 구현체가 있습니다.
• 단점: 트래픽 특징이 비교적 고정적이어서 트래픽 분석 기반 심층 패킷 검사(DPI)에 걸리기 쉽고, 검열이 엄격한 네트워크 환경에서는 더 쉽게 표적 속도 제한이나 차단을 당합니다.
• 적합한 상황: 네트워크 환경이 비교적 자유롭고 속도와 안정성을 우선하는 상황.

VMess: V2Ray 생태계의 핵심 프로토콜

VMess는 V2Ray 프로젝트에서 나온 프로토콜로, SS를 기반으로 타임스탬프 검증, 사용자 UUID 인증 등의 메커니즘을 추가했으며, WebSocket + TLS 전송과 결합해 프록시 트래픽을 일반 웹페이지 HTTPS 요청으로 위장할 수 있어 원래의 SS보다 위장 능력이 뛰어납니다.

• 장점: WS+TLS와 결합하면 위장성이 좋고 생태계가 성숙하며, 멀티플렉싱(mux)을 지원해 연결 핸드셰이크 횟수를 줄일 수 있습니다.
• 단점: 설정 항목이 많고 암복호화 및 프로토콜 헤더 파싱 부담이 SS보다 약간 높으며, 시간 동기화에 일정한 요구가 있습니다(클라이언트와 서버의 시간 차이가 너무 크면 인증에 실패할 수 있음).
• 적합한 상황: 강한 위장 능력이 필요하면서 다소 복잡한 설정도 감당할 수 있는 상황.

Trojan: 실제 웹사이트의 HTTPS 트래픽처럼 위장

Trojan의 설계 철학은 매우 직관적입니다. 표준 TLS 프로토콜을 그대로 재사용해서 서버가 평범한 HTTPS 웹사이트처럼 보이게 만듭니다(심지어 실제 웹 콘텐츠를 설정할 수도 있음). 프록시 트래픽과 해당 웹사이트에 정상적으로 접속하는 트래픽은 특징상 거의 구분이 불가능한데, 이는 그 자체가 표준 TLS이기 때문입니다.

• 장점: 위장 능력이 가장 강하고 프로토콜 부담이 작으며(표준 TLS 라이브러리를 재사용) 배포도 비교적 간단합니다.
• 단점: 유효한 도메인 인증서가 필요합니다(보통 Let's Encrypt 무료 인증서로 충분함). 서버 운영에 대한 요구가 다소 높습니다.
• 적합한 상황: 검열이 엄격한 네트워크 환경, 또는 프로토콜을 자주 바꾸고 싶지 않고 장기적으로 안정적으로 쓰고 싶은 상황.

Hysteria2 / TUIC: QUIC 기반의 차세대 프로토콜

최근 몇 년 사이 떠오른 Hysteria2, TUIC 등의 프로토콜은 QUIC(UDP) 전송 계층을 기반으로 하며, 전통적인 TCP 기반 프로토콜에 비해 패킷 손실 저항력이 뛰어나고 연결 수립 지연이 낮아 저품질 네트워크나 고지연 환경(예: 국가 간 장거리 링크)에서 체감 성능이 눈에 띄게 향상됩니다.

• 장점: UDP 기반이라 패킷 손실에 강하고 연결 수립이 빠르며, 저품질 네트워크에서 속도 우위가 뚜렷하고 프록시 상황에 맞춰 최적화된 혼잡 제어 알고리즘을 내장하고 있습니다.
• 단점: 일부 네트워크 환경에서는 UDP 트래픽에 대한 속도 제한이나 차단이 TCP보다 더 엄격하며, 생태계 성숙도와 클라이언트 지원 수준이 앞의 세 프로토콜보다는 다소 부족합니다.
• 적합한 상황: 네트워크 품질이 불안정하거나 국가 간 거리가 멀고, 다운로드/스트리밍 속도에 대한 요구가 높은 상황.

표 하나로 보는 선택 가이드

실제 사용에서는 많은 구독 서비스가 여러 프로토콜의 노드를 동시에 제공하므로, 직접 구축할 필요는 전혀 없습니다. Clash 클라이언트에서 지연 시간과 현재 네트워크 환경에 맞춰 정책 그룹 안의 노드나 프로토콜 종류를 바로 전환하면 되고, 마음에 들지 않으면 언제든 바꿀 수 있습니다.

자주 묻는 질문