KEDA를 활용한 로그 시스템 오토스케일링 경험담

우아한형제들은 KEDA를 활용하여 100만 TPS의 로그 시스템에 오토스케일링을 성공적으로 적용하였습니다. 이 경험을 통해 로그 처리의 변동성을 관리하며 비용 효율성을 높이는데 기여하게 되었습니다. 본 문서에서는 KEDA 도입 과정과 실제 운영 사례를 통한 운영 환경 개선 방안에 대해 설명합니다. KEDA 적용을 통한 로그 시스템 아키텍처 변화 KEDA를 도입하기 전, 우아한형제들은 기존 HPA를 이용하여 로그 시스템의 오토스케일링을 시도했습니다. 하지만 평균 CPU 및 메모리 사용량을 기준으로 스케일링이 진행되면서 한계에 봉착하게 되었습니다. KEDA의 도입 이후, 이벤트 기반으로 스케일링을 설정함으로써, 로그 시스템의 아키텍처를 유연하게 설계할 수 있었습니다. KEDA는 다양한 이벤트 소스를 지원하여 로그 시스템의 특성에 맞는 스케일링 기준을 설정할 수 있게 해줍니다. 예를 들어, Fluentd의 버퍼 사용률을 기준으로 스케일링 트리거를 설정함으로써, 시스템이 실제로 부하를 받기 시작하기 전에 프로세스를 조정할 수 있었습니다. 이는 로그 처리의 안정성을 크게 향상시켰고, 유연한 리소스 관리로 비용을 줄일 수 있는 기반을 마련하였습니다. 이러한 변화는 로그 시스템 아키텍처의 효율성을 높이고, 운영 환경을 개선하는 데에 결정적인 역할을 했습니다. 다양한 메트릭을 조합하여 스케일링 미세 조정이 가능해짐으로써, 시스템 부하가 예상되는 피크 시간대에도 원활하게 처리할 수 있는 역량을 갖추게 되었습니다. KEDA 도입을 통한 메트릭 기반 스케일링 효과 KEDA의 도입은 로그 시스템의 메트릭 기반 스케일링을 가능하게 하였습니다. 기존 HPA와 달리, KEDA는 프로메테우스를 이용해 다양한 지표를 직접적으로 활용할 수 있게 해줍니다. 이를 통해 CPU 및 메모리 사용량 외에도 Fluentd 버퍼와 같은 중요한 메트릭을 스케일링 기준으로 설정할 수 있었습니다. Fluentd의 버퍼가 일정 사용률을 초과할 경우 이를 위기 상황으로 간주하여 스케일 아웃을...

우아한형제들의 실시간 알림 혁신: SSE(Server-Sent Events)로 이룬 효율성과 안정성


운영 효율성의 혁신

기존의 MQTT 기반 실시간 알림 시스템은 빠르지만, 운영의 복잡성과 네트워크 제약이 존재했습니다. MQTT는 별도의 포트를 필요로 하기 때문에 방화벽 이슈가 잦았고, 각 클라이언트별 Polling 로직은 서버 트래픽을 불필요하게 증가시켰습니다. 이러한 문제는 인프라 비용 증가로 직결되었습니다.

우아한형제들은 이 문제를 해결하기 위해 Server-Sent Events(SSE)를 도입했습니다. SSE는 HTTP 표준 포트를 이용해 통신하므로 방화벽 문제를 근본적으로 해결했습니다. 또한 Polling 구조가 제거되면서 네트워크 요청 횟수가 급감하고, 서버 처리 부하 역시 현저히 감소했습니다.

결과적으로 서버 대수가 줄고, 일평균 약 4천만 건 이상의 이벤트를 안정적으로 처리할 수 있게 되었습니다. 개인적인 견해로는, 단순한 기술 교체를 넘어 “운영 효율성”이라는 비즈니스 가치로 확장된 사례라 평가할 수 있습니다. 개발 효율이 인프라 절감과 사용자 만족을 동시에 이끈 대표적인 케이스입니다.

안정적인 메시지 전달 체계 구축

SSE의 도입은 단순한 비용 절감이 아니라, 메시지의 신뢰성과 안정성을 강화한 기술적 진화이기도 합니다. SSE는 서버에서 클라이언트로 단방향 실시간 스트림을 유지하여, 연결 상태가 유지되는 한 발생하는 모든 이벤트를 즉시 전달할 수 있습니다.

특히 우아한형제들은 Last-Event-ID 기능을 적극 활용했습니다. 이 기능은 클라이언트가 잠시 연결이 끊겼다가 재접속하더라도, 마지막으로 받은 이벤트 이후의 메시지를 재전송받을 수 있도록 합니다. 덕분에 프린트 명령 등과 같은 중요한 이벤트가 유실되는 일이 사라졌습니다.

모든 메시지는 Kafka와 같은 고성능 메시지 브로커를 통해 순서가 보장된 상태로 전송됩니다. 이벤트의 영속성 또한 확보되어, 서버 장애나 네트워크 불안정 상황에서도 데이터 무결성이 유지됩니다. 개인적으로 이 구조는 ‘실시간성’과 ‘안정성’을 모두 충족한 이상적인 아키텍처라 평가할 수 있습니다.

보안 강화와 세션 관리 혁신

SSE 기반 시스템의 또 다른 혁신은 보안 강화에 있습니다. 기존 MQTT 방식은 중복 연결과 세션 충돌이 발생하기 쉬웠지만, 이제 Session ID 기반 관리로 이를 해결했습니다. 하나의 기기에서 동시에 여러 연결이 생성되는 경우, 서버가 자동으로 이전 연결을 종료함으로써 보안 위험을 제거합니다.

또한 HMAC(Hash-based Message Authentication Code) 인증 절차를 통해 클라이언트가 전송하는 데이터의 무결성을 검증합니다. 데이터 위·변조를 사전에 차단함으로써, 민감한 사용자 정보가 포함된 메시지의 안전성을 보장합니다.

개인적으로 주목할 점은 보안을 단순한 ‘기능’이 아닌 ‘시스템 문화’로 정착시켰다는 것입니다. 세션 관리, 인증, 재전송 로직 등 모든 단계에서 보안이 자연스럽게 통합되어 “보안 친화형 실시간 서비스”라는 새로운 모델을 완성했습니다.

지속 가능한 기술 발전과 미래 방향

SSE 도입 이후 우아한형제들은 운영 효율뿐만 아니라 개발 효율성까지 개선했습니다. 새로운 알림 포맷을 추가할 때 클라이언트 버전 업데이트 없이 서버에서 즉시 반영할 수 있어, 배포 주기가 단축되고 유지보수 부담이 감소했습니다.

향후에는 AI 기반 로그 분석과 자동 알림 분류 기능을 도입해 알림 시스템을 한층 더 지능적으로 진화시킬 계획입니다. 기술이 단순히 빠르게 작동하는 것을 넘어, 사용자 상황에 맞춰 ‘의미 있는 알림’을 제공하는 것이 목표입니다.

개인적으로 이번 SSE 도입 사례는 “기술 중심 혁신”을 넘어 “경험 중심 혁신”으로 나아가는 상징적인 전환점이라 생각합니다. 기술의 목적은 결국 사람에게 더 나은 경험을 제공하는 것이기 때문입니다.

결론: 신뢰를 기술로 구현하다

SSE(Server-Sent Events) 도입을 통해 우아한형제들은 인프라 단순화, 네트워크 안정성, 보안 강화를 동시에 달성했습니다. 단순한 시스템 개선이 아닌, 사용자 신뢰를 기술로 구현한 사례입니다. 앞으로도 이러한 기술적 혁신이 “빠르고 안정적인 서비스”라는 브랜드 가치로 이어질 것입니다.

이 블로그의 인기 게시물

물어보새의 진화와 지식 공유 확장

이미지
1. 물어보새의 지속적인 진화 ‘물어보새’의 시작점은 구성원이 데이터에 쉽게 접근하고, 이를 통해 업무 효율성을 높이는 것이었습니다. 초기 모델은 단순한 데이터 조회 중심의 기능을 제공했지만, 시간이 지남에 따라 사용자 요구에 맞춰 고도화되었습니다. 이제는 질문의 맥락과 의도를 파악해, 다양한 부서의 실제 업무 흐름에 맞춘 답변을 제시할 수 있게 되었습니다. 발전 과정은 크게 네 가지 축으로 이루어졌습니다. 첫째, 지식의 확장 입니다. 단일 데이터베이스 중심에서 벗어나, 사내 Wiki·Confluence·Jira 등 다양한 비정형 정보원을 통합하여 한 번의 질문으로 여러 지식 자원에서 답변을 도출할 수 있습니다. 이를 통해 구성원은 더 이상 여러 플랫폼을 이동하지 않고도 필요한 정보를 한 곳에서 즉시 확인할 수 있습니다. 둘째, 기억 기능의 도입 입니다. 과거의 대화 이력을 기반으로 질문의 맥락을 이해하고, 연속된 대화처럼 응답하는 시스템이 구축되었습니다. 사용자는 이전 대화의 내용을 기억한 상태에서 후속 질문을 이어갈 수 있으며, ‘물어보새’는 질문이 많아질수록 더 정교하게 학습된 응답을 제공합니다. 이러한 ‘기억 기반 대화 구조’는 사용자 경험을 한층 풍부하게 만들어줍니다. 셋째, 맥락 분석 강화 입니다. 단순 키워드 매칭이 아닌 의미 기반 검색(Semantic Search)을 적용하여, 사용자의 질문 의도에 따라 적합한 데이터 세트를 자동으로 선택합니다. 이로써 데이터 분석 결과가 더 구체적이고 실무에 적용 가능한 형태로 제공됩니다. 마지막으로, 자기 학습 시스템(Self-learning) 이 도입되었습니다. 구성원의 질문 패턴과 피드백 데이터를 활용해, 시스템이 스스로 정확도를 향상시키며 더 자연스러운 응답을 제공합니다. 이를 통해 ‘물어보새’는 시간이 지날수록 조직...
자세한 내용 보기

우아한 디버깅 툴 개선으로 QA 업무 효율화

이미지
세션 리플레이로 이슈 재현 시간 단축 QA 업무의 핵심은 “문제를 얼마나 정확하게 재현하느냐”입니다. 과거에는 문제가 발생한 상황을 영상으로 녹화하고, 동일한 조건을 맞추는 데 많은 시간이 소요됐습니다. 그러나 **세션 리플레이** 기능이 도입되면서 상황이 완전히 달라졌습니다. DOM 스냅샷, 사용자 클릭, 입력 이벤트 등 모든 상호작용이 자동 기록되어 마치 영상을 돌려보듯 확인이 가능합니다. 이제 QA 담당자는 반복적인 수동 재현 작업에서 벗어나 보다 분석 중심의 업무에 집중할 수 있게 되었죠. 저는 특히 이 기능이 단순한 자동화 이상의 의미를 가진다고 생각합니다. 문제를 ‘정확히’ 보여줄 수 있다는 점에서, 개발자와 QA 간의 오해를 줄이고 문제 해결의 속도를 높여줍니다. 이처럼 시각적 정보 기반의 재현 방식은 QA 효율을 끌어올리는 중요한 도약점이 되었습니다. 슬랙 DM 알림으로 신속한 정보 전달 QA 업무의 또 다른 어려움은 정보를 제때 전달하는 문제였습니다. 이슈 발생 후 기록방 링크를 수동으로 공유하고, 개발자가 확인하기까지 지연이 발생하는 경우가 많았습니다. 이 불편을 해소하기 위해 **슬랙 DM 자동 알림** 기능이 도입되었습니다. 테스트 디바이스 정보를 입력하면 자동으로 관련 기록방 링크와 로그 정보가 개발자에게 전달됩니다. 덕분에 QA는 더 이상 “공유 늦음”이나 “링크 누락” 문제로 시간을 낭비하지 않게 되었습니다. 물론 구현 과정은 간단하지 않았습니다. 사용자별로 계정과 디바이스가 달라 연결 구조를 만드는 것이 까다로웠기 때문입니다. 이를 해결하기 위해 구글 시트를 연동하여 Slack ID와 디바이스를 매칭하는 방식을 적용했습니다. 이 결과, 알림 전송 속도와 정확성이 개선되었고 QA-개발 간 커뮤니케이션이 실시간으로 이어졌습니다. 개인적으로 이런 자동화 기능은 “툴이 사람의 시간을 되돌려주는” 대표 사례라 생각합니다. 티켓 생성 기능으...
자세한 내용 보기