네트워크인프라스케일링시스템 디자인Multi-Region

단일 서버에서 글로벌 서비스까지

가상 미디어 서비스의 11단계 성장 경로와 YouTube·Instagram·Netflix 공개 사례

시각화 로드 중...

개요

확장 순서를 결정하는 병목

한 미디어 서비스가 게시물 조회, 파일 업로드, 영상 변환, 검색을 제공한다고 가정한다. 초기에는 낮은 부하와 적은 운영 인력 덕분에 한 서버로 충분하다. 첫 병목은 워크로드마다 다르다. 영상 변환은 CPU, 반복 조회는 DB, 파일 배포는 네트워크가 먼저 포화될 수 있다. 각 단계의 지표는 관측 후보이며 도입 임계치나 실측값을 가정하지 않는다.

모놀리스는 하나의 배포 단위, 모노레포는 코드 저장소 구성이다. 모놀리스도 복제해 수평 확장할 수 있다. 팀별 릴리스 주기, 장애 격리, 컴퓨팅 요구가 달라질 때 모듈러 모놀리스에서 서비스 추출을 검토한다. 서비스 분리 뒤에는 네트워크 호출과 일관성 비용이 생긴다. Gateway는 공통 인입 정책과 라우팅이 필요할 때 선택한다.

독립적으로 도입할 수 있는 확장 트랙

트랙도입을 검토할 신호지도에서 살펴볼 단계
배포와 보안반복 배포, 공격성 요청, 접근 정책 필요. 소규모 서비스도 CI/CD·WAF·백업 적용 가능08–09
전달과 읽기정적 파일의 전송 비용 또는 반복 조회 증가. CDN과 캐시 각각 도입 가능04
백그라운드 작업이메일, 알림, 영상 변환 등 즉시 완료가 필요 없는 작업05
데이터 배치읽기·쓰기·저장 용량 병목을 각각 측정해 복제·파티셔닝·샤딩 선택06, 11
지역과 복구데이터 거주 요건, 먼 지역의 지연, 리전 장애 시 복구 목표10

실제 서비스의 공개 사례

각 사례는 공개 당시의 내용을 요약한다. 단계 번호는 위 지도의 관련 주제를 가리킨다.

서비스 · 관련 단계확장 문제와 대응공개 자료
YouTube · 04, 06, 11영상 처리·전송 · 전용 VCU와 엣지 캐시 활용. MySQL은 Vitess로 샤딩VCU · 2021-04-21 / GGC · 게시일 미표기 / Vitess · 2018-02-05
Instagram · 06, 11사용자 데이터 증가 · PostgreSQL 수평 분할. 업로드 영상의 기본 인코딩 비용도 절감PostgreSQL · 2013-01-17 / 인코딩 · 2022-11-04
Netflix · 04, 10영상 전송 · Open Connect로 현지화. 고객 대면 서비스는 AWS 멀티 리전에서 운영Open Connect · 2021 / 멀티 리전 · 2016-02-12

초기·중간·대규모 구조 비교

구분초기 · 01중간 · 06대규모 · 10–11
구성웹·앱·DB를 한 VM에 배치다중 AZ 앱 복제본, 캐시, Primary·Replica, 큐지역 API, 도메인 서비스, 리전 간 복제, 검색·분석 계층
네트워크와 데이터호스트 내부 DB 연결LB 인입, 캐시 미스 시 DB, CDN은 객체 원본 조회DNS로 지역 선택, API·정적 파일·복제 경로 분리
장애 범위호스트 장애 시 서비스 중단앱 장애 우회, 공유 DB는 여전히 중요지역·서비스별 격리 가능, 공통 제어 계층과 복제 의존성 존재
운영과 비용한 번 배포, 고정 호스트 비용풀 예산과 백로그 관리, 복제·캐시·전송 비용독립 배포와 복구 훈련, 중복 용량·전송·관측 비용

같은 요청의 경로 비교

GET /posts/42는 동적 API다. 인증이 필요한 요청은 캐시 정책이 명확할 때만 공유 캐시에 저장한다. 이미지나 영상 파일을 가져오는 후속 요청은 별도 CDN 경로를 쓴다.

구간요청과 응답
초기Client → Web → Monolith → 같은 VM의 DB. 조회 결과가 같은 경로를 역순으로 반환
중간Client → L7 LB → Monolith → Cache. 미스면 Monolith → 허용된 DB Replica, Cache 채움 뒤 응답
서비스 분리 이후Client → WAF → LB → Gateway → Catalog → Cache 또는 DB. 게시물 읽기는 브로커 완료를 기다리지 않음

확장 전략 비교

전략해결하는 병목비용 또는 조건
Scale-up단일 노드의 CPU·RAM·디스크 한계구조가 단순하나 상한과 장애 범위 유지
Scale-out앱·워커의 동시 처리량상태 외부화와 공유 계층의 여유 필요
Replication읽기 부하 분산과 장애 복구용 사본복제 지연, 장애 승격과 읽기 일관성
Partitioning큰 테이블의 스캔·보존 관리쿼리에 분할 키가 있어야 가지치기 효과
Sharding단일 노드의 쓰기·저장 한계여러 노드로 분산. 핫 키·재샤딩·교차 샤드 비용
Caching반복 조회와 원본 왕복TTL·무효화·동시 미스·권한별 캐시 키 관리
Async Processing오래 걸리는 작업의 요청 경로 점유접수와 완료를 구분. 지연·중복·실패를 별도로 추적

학습 목표

  • 관측 지표로 앱, DB, 네트워크 병목을 구분한다.
  • 캐시·큐·복제를 도입했을 때 요청과 데이터 경로가 어떻게 달라지는지 읽는다.
  • 서비스 및 리전 분리에 따르는 운영·비용·정합성의 변화를 설명한다.

핵심 정리

  • 서버 수를 늘려도 공유 DB, 디스크, 네트워크가 포화되면 처리량이 제한된다.
  • 단계는 가상 서비스의 성장 사례다. 실제 도입 순서는 병목과 복구 목표에 따라 달라진다.
  • CDN은 파일 전달, 큐는 작업 대기, DB Replica는 읽기 분산과 복제본 유지에 각각 쓰인다.

학습 확인

문제 1

영상 업로드 요청의 응답 시간 대부분이 변환 작업에서 쓰인다. 사용자가 즉시 재생할 필요가 없다면 어떤 변경이 적합할까?

문제 2

앱 서버를 늘렸지만 DB Primary의 쓰기 IOPS가 계속 포화된다. 먼저 확인할 것은?

핵심 단계

  1. 1

    단일 서버 · 웹 서버, 앱, DB를 한 VM에 배치

  2. 2

    앱과 DB 분리 · DB를 별도 호스트 또는 관리형 DB로 이전

  3. 3

    로드 밸런싱 · 웹 진입점을 LB로 교체하고 여러 AZ에 같은 앱 배포

  4. 4

    캐시와 CDN · API 데이터 캐시와 정적 파일 배포 경로 분리

  5. 5

    비동기 작업 · 업로드 접수와 변환 작업을 브로커·워커로 분리

  6. 6

    DB 확장 · DB 읽기 복제본 도입, 최신 읽기와 일반 읽기 분리

  7. 7

    서비스 분리 · 카탈로그와 미디어의 배포·데이터 소유권 분리

  8. 8

    운영 자동화 · 앱 복제본을 컨테이너로 운영하고 배포·관측 제어 계층 추가

  9. 9

    보안과 복원력 · API 인입 WAF와 워크로드 정책 적용

  10. 10

    글로벌 분산 · Geo DNS와 별도 리전 추가, 리전 간 DB 복제

  11. 11

    데이터와 비용 최적화 · 검색 읽기 모델과 분석 파이프라인을 운영 DB에서 분리

핵심 개념 및 실무 적용 분야

✓앱 복제본을 늘린 뒤 DB 연결 대기가 증가했다면, 복제본별 풀 크기와 DB의 연결 예산을 함께 확인한다.
✓방금 등록한 게시물을 작성자 화면에 바로 표시해야 한다면, 해당 읽기는 Primary로 보내고 오래된 값이 허용되는 조회만 Replica에 보낸다.
✓업로드 완료와 재생 가능 상태를 분리하면, 브로커에 작업을 기록한 뒤 접수 응답을 반환하고 변환 상태는 나중에 조회할 수 있다.

참고 자료

개념과 기술 규격을 추가로 확인할 수 있는 외부 자료입니다. 시각화는 교육 목적에 맞게 일부 절차를 단순화할 수 있습니다.