OpenLiteSpeed HTTP/3 설정 방법과 QUIC 활성화 과정

OpenLiteSpeed를 설치하면 HTTP/3를 지원한다고 알려져 있지만 실제로는 바로 적용되지 않는 경우가 있습니다. 저 역시 브라우저 개발자 도구에서 프로토콜을 확인했을 때 HTTP/2만 표시되고 있어 OpenLiteSpeed HTTP/3 설정이 제대로 동작하지 않는다는 사실을 알게 되었습니다.

처음에는 브라우저 캐시 문제로 생각했지만 여러 번 테스트해도 결과가 같았습니다. 이후 LiteSpeed 공식 자료와 서버 설정을 확인하면서 UDP 포트와 QUIC 옵션이 활성화되지 않았다는 점을 발견했고, 설정을 수정한 뒤 정상적으로 HTTP/3 연결이 확인되었습니다.

HTTP/3 적용 여부부터 확인

설정을 변경하기 전에 현재 상태를 먼저 확인하는 것이 좋습니다. 저는 HTTP/3 Check 도구를 이용해 사이트 상태를 확인했습니다.

OpenLiteSpeed HTTP/3 설정 Check 도구에서 사이트의 QUIC 및 HTTP/3 지원 상태를 확인하는 화면 — HTTP/3 지원 여부 확인 화면

테스트 결과 HTTP/3가 지원되지 않는 상태로 표시되었습니다.

브라우저 개발자 도구에서도 Protocol 항목이 h2로 표시되고 있어 OpenLiteSpeed HTTP/3가 활성화되지 않은 것을 확인할 수 있었습니다.

HTTP/3가 적용되지 않았던 원인

OpenLiteSpeed는 HTTP/3 기능을 기본적으로 지원하지만 다음 조건이 충족되어야 합니다.

SSL 적용
UDP 443 포트 개방
QUIC 활성화
서버 재시작

특히 UDP 443 포트가 닫혀 있는 경우가 많습니다.

TCP 443만 열려 있으면 HTTPS는 정상 작동하지만 HTTP/3 연결은 이루어지지 않습니다.

UDP 443 포트를 먼저 개방했습니다

라이트세일을 사용하는 경우 네트워킹 메뉴에서 방화벽 설정을 확인해야 합니다.

IPv4 방화벽 규칙에 UDP 443 포트가 없다면 추가해야 합니다.

AWS Lightsail 방화벽 규칙에서 UDP 443 포트를 추가한 화면 — Lightsail UDP 443 포트 개방

HTTP/2는 TCP를 사용하지만 OpenLiteSpeed HTTP/3는 QUIC 프로토콜을 사용합니다.

QUIC는 UDP 기반으로 동작하기 때문에 UDP 443 포트가 열려 있어야 정상적으로 연결됩니다.

SSL 리스너 설정 확인

포트를 개방한 뒤 OpenLiteSpeed WebAdmin으로 접속했습니다. 좌측 메뉴에서 Listeners 항목으로 이동한 뒤 SSL 리스너를 선택합니다.

OpenLiteSpeed Listeners 메뉴에서 SSL 443 리스너를 선택한 화면 — SSL Listener 선택 화면

SSL 리스너 안으로 들어가면 상단 메뉴에서 SSL 탭을 확인할 수 있습니다.

OpenLiteSpeed SSL Listener 내부의 SSL 설정 탭 — SSL 설정 메뉴

OpenLiteSpeed HTTP/3 활성화 설정

SSL 탭 아래쪽 Security & Features 영역으로 이동하면 QUIC 관련 설정을 확인할 수 있습니다. 여기서 Open HTTP3/QUIC (UDP) Port 값을 Yes로 변경했습니다.

OpenLiteSpeed SSL 설정에서 Open HTTP3 QUIC UDP Port 옵션을 활성화한 화면 — HTTP/3 QUIC 활성화 설정

IPv6 리스너를 사용하고 있다면 해당 SSL Listener에서도 동일하게 설정하는 것이 좋습니다.

설정 후 진행한 확인 과정

설정을 저장한 뒤 OpenLiteSpeed 서버를 재시작했습니다.

이후 아래 항목을 순서대로 진행했습니다.

LiteSpeed Cache 캐시 삭제
브라우저 캐시 삭제
CDN 캐시 삭제
HTTP/3 Check 재확인

재검사 결과 HTTP/3 지원 메시지가 정상적으로 표시되었습니다.

브라우저 개발자 도구에서도 Protocol 값이 h3로 표시되는 것을 확인할 수 있었습니다.

OpenLiteSpeed HTTP/3 설정 적용 후 체감 변화

HTTP/3를 적용했다고 해서 페이지 속도가 극적으로 빨라지지는 않았습니다. 다만 모바일 네트워크 환경에서 연결 안정성이 좋아졌고 초기 연결 속도가 조금 더 부드럽게 느껴졌습니다. 특히 QUIC 기반 연결은 패킷 손실 상황에서 TCP보다 유리한 경우가 많아 해외 방문자가 있는 사이트에서 도움이 될 수 있습니다.

며칠 동안 모니터링했을 때 접속 오류나 SSL 문제는 발생하지 않았습니다.

적용하면서 주의했던 부분

OpenLiteSpeed HTTP/3 설정을 마쳤는데도 동작하지 않는다면 다음 항목을 확인해 볼 필요가 있습니다.

UDP 443 방화벽 규칙
SSL Listener 설정
SSL IPv6 설정
CDN 지원 여부
브라우저 캐시

실제로 설정은 정상인데 캐시 때문에 HTTP/3가 반영되지 않은 것처럼 보이는 경우도 있었습니다.

FAQ

OpenLiteSpeed HTTP/3 설정은 기본 활성화 상태인가요?

아닙니다. 버전에 따라 다르지만 UDP 포트와 QUIC 옵션을 직접 활성화해야 하는 경우가 많습니다.

OpenLiteSpeed HTTP/3 설정되었는지 가장 쉽게 확인하는 방법은 무엇인가요?

HTTP/3 Check 도구나 브라우저 개발자 도구의 Protocol 항목을 확인하는 방법이 가장 간단했습니다.

UDP 443 포트만 열면 OpenLiteSpeed HTTP/3가 적용되나요?

아닙니다. SSL Listener 내부에서 Open HTTP3/QUIC 옵션도 함께 활성화해야 합니다.