주요 컨텐츠로 이동
공학

오브젝트 스토리지 기반으로 구축되어 캐시에서 제공됩니다

Lakebase Postgres는 오브젝트 스토리지로부터 내구성, 브랜치 기능, LTAP을 제공받으며, 읽기 요청의 99.99999%는 고성능 캐시로 처리됩니다.

작성자: Carlota Soto

  • 오브젝트 스토리지는 Lakebase Postgres의 기반이 됩니다. 내구성 있고 무한한 스토리지, 즉시 생성되는 브랜치와 복원, 그리고 트랜잭션과 분석을 위한 단 하나의 데이터 복사본(LTAP)을 제공합니다.
  • 하지만 오브젝트 스토리지 기반으로 구축했다고 해서 항상 거기서 데이터를 읽어오는 것은 아닙니다. 당사의 운영 환경에서는 전체 페이지 읽기의 99.99999%가 빠른 로컬 캐시를 통해 처리되며, 99.46%는 연산 노드를 전혀 벗어나지 않습니다.
  • 드물게 오브젝트 스토리지까지 도달하는 읽기 요청은 일회성입니다. 오래된 브랜치나 복원, 또는 몇 주 동안 유휴 상태였다가 깨어난 데이터베이스에서 발생하며, 해당 데이터가 캐싱되면 다음 읽기부터는 다시 로컬에서 처리됩니다.

객체 스토리지에서 Postgres를 실행하는 것에 대한 일반적인 주장은 다음과 같습니다.

  • Postgres는 지연 시간에 민감한 소규모 읽기 작업을 많이 처리합니다.
  • 객체 스토리지는 더 높은 지연 시간에서 대규모 요청을 처리하도록 설계되었으며, 단일 읽기 작업에 수백 밀리초가 소요될 수 있습니다.
  • 따라서 객체 스토리지 기반의 Postgres는 느릴 수밖에 없습니다.

전제는 맞지만 결론은 틀렸습니다. 객체 스토리지 기반 데이터베이스가 쿼리를 처리하기 위해 객체 스토리지에서 직접 읽어와야 한다고 가정하기 때문입니다. 하지만 Lakebase Postgres는 거의 그런 경우가 없습니다.

숫자로 먼저 살펴보겠습니다.

"거의 그렇지 않다"는 말이 무슨 뜻인지 보여드리기 위해 프로덕션 환경의 일부에서 페이지 읽기 통계를 살펴보았습니다. lakebase 아키텍처에서는 읽기 작업이 계층별로 나뉘며, 모든 페이지 읽기는 해당 페이지를 가진 첫 번째 계층에서 처리됩니다.

  • 컴퓨팅의 로컬 캐시가 읽기 요청이 컴퓨팅 노드를 벗어나지 않도록 하여 가장 빠른 읽기를 제공합니다.
  • 로컬 캐시에서 적중하지 못하면(미스 발생 시), 네트워크를 통해 pageserver로 이동하여 자체 로컬 NVMe에서 처리됩니다.
  • pageserver가 로컬에 데이터를 가지고 있지 않은 경우에만 객체 스토리지에 도달합니다.

통계 결과는 다음과 같습니다.

  • 컴퓨팅 로컬 캐시가 초당 약 11억 개의 페이지 접근을 처리했으며, 이는 전체의 약 99.46%에 해당합니다.
  • pageserver 로컬 NVMe가 초당 약 600만 개의 읽기 작업을 처리했으며, 이는 전체의 약 0.54%에 해당합니다.
  • 객체 스토리지는 초당 약 39개의 요청만 처리했습니다.

다시 말해:

  1. Lakebase Postgres 읽기의 대다수는 가장 빠른 계층에서 처리됩니다. 페이지 접근의 99.46%가 메모리 또는 마이크로초 수준의 지연 시간으로 컴퓨팅 노드의 로컬 캐시에서 처리되며, 이는 전통적인 Postgres가 웜 캐시에서 읽는 방식과 같습니다.
  2. pageserver가 필요한 읽기는 NVMe에서 처리됩니다. 페이지 접근이 컴퓨팅 노드를 벗어나면 pageserver가 자체 로컬 NVMe에서 직접 효율적으로 처리합니다.
  3. 객체 스토리지토 필요한 읽기는 드문 특수한 경우입니다. 약 2,800만 건의 페이지 접근 중 1건만 객체 스토리지에서 가져와야 하므로 99.99999% 이상이 객체 스토리지 없이 처리됩니다. 객체 스토리지로 전달되는 읽기는 일반적으로 오랜 시간 동안 휴면 상태였던 프로젝트의 깨우기, 복원 또는 과거에 생성된 브랜치입니다.

객체 스토리지 기반 구축이 객체 스토리지로부터의 읽기를 의미하는 것은 아닙니다.

객체 스토리지 기반 구축은 다음을 위한 길을 열어줍니다.

  • 내구성: S3와 같은 객체 스토리지는 99.999999999%의 내구성을 제공하도록 설계되어 지속적인 상태가 단일 머신에 종속되지 않습니다.
  • 프로비저닝이 필요 없는 저렴한 스토리지: 스토리지는 데이터와 함께장 성장하며, 디스크 크기를 조절할 필요가 없고 공간 부족 위험이 없습니다.
  • 변경 불가능한 주소 지정 가능한 이력: 이력이 변경 불가능한 레이어 파일로 유지되므로 브랜치 생성 및 즉시 복원은 데이터 복사 없이 메타데이터 작업으로 처리됩니다.
  • 상태 비저장 컴퓨팅: 지속적인 상태가 컴퓨팅 노드 외부에 존재하므로 데이터 이동 없이 컴퓨팅을 0으로 확장(scale to zero)하고 다시 시작할 수 있습니다.
  • 트랜잭션과 분석을 위한 단 하나의 복사본: 운영 데이터가 레이크에 저장되면 분석 엔진은 LTAP를 통해 동일한 복사본을 읽을 수 있습니다.
lakebase 아키텍처
lakebase 아키텍처

객체 스토리지 기반으로 구축할 때 속도는 특별히 설계에 신경 써야 하는 부분입니다. 그 위에서 Postgres를 빠르게 유지하기 위해, 쿼리 앞에 객체 스토리지나 나서지 않도록 스토리지 레이어를 설계했습니다. 즉, 읽기는 컴퓨팅 노드와 pageserver의 로컬 캐시에 핫 데이터를 유지하는 계층을 거치며 객체 스토리지는 단지 백업 역할만 합니다.

읽기 작업이 이러한 계층을 통과하는 방식을 더 자세히 살펴보겠습니다.

lakebase에서 읽기가 처리되는 방식

 lakebase 아키텍처는 Postgres의 컴퓨팅과 스토리지를 분리합니다.

  • 컴퓨팅 레이어는 표준 Postgres를 실행합니다. 컴퓨팅 노드의 로컬 캐시에 핫 페이지를 유지합니다. 지속적인 상태를 유지하지 않으므로 데이터 손실 위험 없이 시작, 중지, 확장 또는 장애 발생이 가능합니다.
  • 스토리지 레이어는 정확성, 내구성 및 이력을 담당합니다. 다음 세 가지 구성 요소로 빌드됩니다.
    • Safekeeper는 WAL을 복제합니다. safekeeper 정족수(quorum)가 레코드를 승인하면 트랜잭션이 커밋됩니다. Paxos 기반 프로토콜이 리더 선출과 장애 조치를 처리합니다.
    • Pageserver는 WAL을 페이지로 변환합니다. 로컬 NVMe에 LSM 트리를 구축하고 구체화된 이력을 객체 스토리지에 비동기적으로 지속시킵니다.
    • 객체 스토리지는 변경 불가능한 장기 이력을 보관합니다. pageserver를 백업하며 Postgres가 직접 읽지 않습니다.

이 아키텍처는 기존 Postgres와 차이가 있으므로 별도의 범주인 lakebase로 명명했습니다. Lakebase Postgres는 lakebase 원칙을 따릅니다.

Lakebase Postgres에 페이지가 필요할 때,

  1. 먼저 컴퓨팅의 로컬 캐시를 확인합니다. 페이지가 그곳에 있으면 웜 캐시가 있는 다른 Postgres와 마찬가지로 컴퓨팅 노드에서 읽기가 끝납니다. 이것이 초당 약 11억 건의 페이지 접근입니다.
  2. 로컬 캐시에서 미스가 발생하면 pageserver로 GetPage@LSN을 보냅니다. 요청은 페이지와 LSN을 지정하고, pageserver는 해당 LSN에 존재하던 페이지를 반환합니다. 거의 모든 경우에 pageserver는 자체 NVMe에 필요한 레이어를 이미 가지고 있습니다(앞서 공유한 초당 약 600만 건의 읽기 작업입니다).
  3. pageserver가 로컬에 해당 레이어를 가지고 있지 않은 경우에만 객체 스토리지에서 가져옵니다. 이것이 초당 약 39회의 요청입니다.

이 설계에서는 각 계층이 하위 계층에서 가져온 데이터를 캐시합니다. pageserver가 반환한 페이지는 컴퓨팅의 로컬 캐시에 저장되고, 객체 스토리지에서 가져온 레이어는 pageserver NVMe에 저장됩니다. 더 깊은 계층으로 내려가는 비용은 한 번만 지불되며, 동일한 데이터를 다시 읽을 때는 로컬에 유지됩니다.

읽기 작업이 컴퓨팅 노드를 벗어날 때: pageserver 내부

방금 살펴본 바와 같이, 컴퓨팅 노드를 벗어나는 읽기 작업은 소수에 불과하며 거의 대부분 pageserver에서 멈춥니다.

pageserver는 데이터를 두 가지 종류의 레이어 파일로 구성합니다.

  • 이미지 레이어는 하나의 LSN에서 키 범위 내 모든 페이지의 스냅샷을 유지합니다.
  • 델타 레이어는 LSN 범위 전반에 걸쳐 키 범위에 대한 WAL 레코드를 보관합니다.

GetPage@LSN 요청에 응답하기 위해 페이지서버는 다음을 수행합니다:

  1. 요청된 페이지와 LSN에서 시작합니다.
  2. 레이어를 따라 아래로 이동하며 해당 페이지에 대한 WAL 레코드(델타)를 수집합니다.
  3. 페이지의 첫 번째 이미지에서 멈춥니다.
  4. 해당 이미지 위에 수집된 델타를 재생(replay)하고 결과를 반환합니다.

적용된 델타의 수는 페이지서버에서 읽기 작업이 수행하는 작업량을 측정하는 지표입니다. 델타가 0개이면 페이지가 이미지에서 바로 제공됩니다. 델타가 많으면 페이지서버는 반환하기 전에 긴 WAL 체인을 재생해야 합니다.

작업이 많아 보이지만 실제로는 그리 많지 않습니다. us-east-1 리전 전체의 데이터를 통해 이를 확인할 수 있습니다:

  • p90은 GetPage당 1개 미만의 델타를 유지했습니다. 즉, 대부분의 요청이 재생 없이 이미지에서 직접 처리된다는 의미입니다.
  • p99는 약 6개였습니다. 이는 베이스 페이지(이미지)를 더 적극적으로 생성하는 변경 사항을 배포한 후에 이 수준으로 떨어졌습니다. 읽기 요청이 요구하는 LSN에 이미지가 더 가까워짐에 따라, 긴 WAL 체인을 재생해야 하는 읽기 작업이 줄어들었습니다.
GetPage 읽기당 적용된 델타
2026년 10월 13일부터 19일까지 us-east-1에서 GetPage 읽기당 적용된 델타. p90은 1개 미만으로 유지되고, p99는 하락하여 약 6개에서 안정화됨

가장 드문 경로: 오브젝트 스토리지에 도달하는 미스

페이지서버에 도달하는 읽기 중 극히 일부분만이 한 단계 더 나아갑니다. 오브젝트 스토리지에 도달하는 초당 약 39개의 요청에는 한 가지 공통점이 있습니다. 바로 최근에 아무도 읽지 않은 데이터를 요청한다는 점입니다. 실제로는 거의 항상 다음 두 가지 경우 중 하나에 해당합니다:

  • 과거 시점의 브랜치 또는 복원. Lakebase 브랜치는 LSN에 대한 포인터입니다. 시점 복원(Point-in-time restore)과 스냅샷 복원은 동일한 메커니즘을 사용합니다. 현재 브랜치를 다시 쓰는 대신 해당 LSN에 새 브랜치를 생성합니다. 복원 시점이 과거일 경우 해당 기록이 페이지서버 NVMe에 없을 수 있으므로, 첫 번째 읽기는 오브젝트 스토리지에서 이를 가져옵니다.
  • 오랜 시간 대기 상태였던 비활성 데이터베이스의 재활성화. 몇 주 동안 규모가 0으로 축소(scaled to zero)된 Lakebase 데이터베이스는 더 이상 데이터가 캐시되어 있지 않으므로, 깨어난 후의 첫 번째 읽기는 오브젝트 스토리지로 향하게 됩니다.

이러한 두 가지 경우 모두 첫 번째 읽기만 비용을 지불한다는 점에 주목할 필요가 있습니다. 그 후에는 데이터가 가장 빠른 계층에 캐시되며, 읽기 작업은 활성 워크로드와 동일한 로컬 경로를 따릅니다. 활성 쿼리 실행 시, 오브젝트 스토리지는 Lakebase의 핵심 경로(critical path)에 포함되지 않습니다.

요약

오브젝트 스토리지 기반의 Postgres는 쿼리에 응답하기 위해 오브젝트 스토리지에서 읽어올 필요가 없습니다. Lakebase에서 읽기 요청은 컴퓨팅의 로컬 캐시로 향한 다음 페이지서버로 향하며, 각 계층은 하위 계층에서 가져온 데이터를 캐시합니다.

이미지 레이어는 페이지서버의 재생 체인을 짧게 유지합니다. 이러한 요소들이 결합하여 오브젝트 스토리지가 읽기 경로에 포함되지 않도록 방지합니다. 페이지 접근의 99.99999% 이상이 컴퓨팅 및 페이지서버의 로컬 캐시에서 처리되며, 이것이 바로 Lakebase Postgres가 속도를 유지하면서 오브젝트 스토리지의 이점을 누릴 수 있는 비결입니다.

Lakebase 아키텍처의 전체적인 모습을 보려면 모놀리스에서 Lakebase, 그리고 LTAP로(From monolith to Lakebase to LTAP), WAL + S3: 에이전트 시대를 위한 Lakebase 스토리지(WAL + S3: Lakebase storage for the era of agents) 및 데이터베이스의 새로운 시대: Lakebase(A New Era of Databases: Lakebase)를 참고하세요.

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)

관련 태그:

Lakebase

최신 게시물을 이메일로 받아보세요

블로그를 구독하고 최신 게시물을 이메일로 받아보세요.