주요 컨텐츠로 이동

Databricks, 최초의 레이크 트랜잭션/분석 처리(LTAP) 아키텍처 출시 - 복제됨

2024년 6월 16일

Databricks, 최초의 레이크 트랜잭션/분석 처리(LTAP) 아키텍처 출시 - 복제됨
  • Databricks는 오늘 레이크의 단일 데이터 사본에서 OLAP와 OLTP를 통합하여 설계상 ETL, 복제본 및 파이프라인을 제거하는 새로운 데이터 처리 아키텍처인 LTAP(Lake Transactional/Analytical Processing)를 출시했습니다.
  • LTAP 아키텍처의 기반인 Lakebase는 현재 수천 명의 고객에게 서비스를 제공하고 있으며 플랫폼 전반에서 하루 1,200만 개의 데이터베이스 실행을 처리하고 있습니다.
  • Databricks는 세계 최초의 LTAP 플랫폼입니다. 이는 모든 운영, 분석 및 스트리밍 데이터를 위한 단일 거버넌스 모델, 단일 진실 공급원(source of truth) 및 스토리지 레이어 아래에서 Lakebase(개방형 오브젝트 스토리지 기반의 서버리스 Postgres)를 Lakehouse와 결합합니다.

DATA + AI SUMMIT – 2026년 6월 16일 – 데이터 및 AI 기업인 Databricks는 오늘 레이크의 단일 스토리지 사본에서 트랜잭션, 분석, 스트리밍 및 운영 데이터를 통합하는 새로운 데이터 처리 아키텍처인 Lake Transactional/Analytical Processing(LTAP)을 발표했습니다. 기업은 LTAP를 통해 수십 년 동안 데이터 인프라를 정의해 온 파이프라인, 복제본 또는 ETL 오버헤드 없이도 읽고, 추론하고, 조치를 취할 수 있는 단일 거버넌스 기반을 갖추게 됩니다. Lakebase의 획기적인 발전을 기반으로 하는 LTAP는 AI 애플리케이션 시대를 위한 새로운 데이터 기반을 제공합니다.

에이전트 시대를 위한 새로운 데이터 기반

지난 40년 동안 트랜잭션 및 분석 워크로드는 서로 다른 시스템에 존재해 왔습니다. 운영 데이터베이스는 애플리케이션을 지원했고, 분석 시스템은 질문에 답했습니다. 이 둘을 연결하려면 부하가 걸리면 취약하고 깨지기 쉬운 CDC 파이프라인을 구축해야 했습니다. 인간이 인간의 속도로 소프트웨어를 작성하던 시절에도 이는 이미 좋지 않은 절충안이었습니다. 오늘날 AI는 개발자가 이전보다 약 50배 더 많은 애플리케이션을 작성할 수 있도록 지원하며, 이들 중 상당수는 거의 실시간으로 데이터를 읽고, 추론하고, 조치를 취해야 하는 에이전트에 의해 구동됩니다. 기존 아키텍처는 이를 위해 구축되지 않았습니다.

데이터 업계는 이전에도 이처럼 분산된 시스템 문제를 해결하려고 시도한 적이 있습니다. HTAP는 단일 엔진에서 트랜잭션 데이터와 분석 데이터를 통합하겠다고 약속했지만, 그 과정에서 워크로드 격리가 무너졌고 양쪽 모두의 성능이 저하되었으며 기업에는 거대하고 비용이 많이 드는 독점적 환경만 남게 되었습니다. Zero ETL은 CDC 파이프라인을 제거하는 대신 숨기는 다른 접근 방식을 취했습니다. 근본적인 아키텍처 문제는 여전히 해결되지 않은 채로 남았습니다.

LTAP는 근본적으로 다른 접근 방식을 취합니다. 두 워크로드를 하나의 엔진에 강제로 밀어 넣거나 파이프라인을 숨기는 대신, 스토리지 레이어에서 데이터를 통합합니다. 모든 운영 데이터는 파이프라인 없이도 즉시 쿼리할 수 있으며 분석을 위해 레이크에서 바로 사용할 수 있습니다. 트랜잭션 및 분석 워크로드는 완전한 성능과 엄격한 격리를 유지하면서 독립적으로 확장됩니다. 또한 LTAP는 개방형 표준을 기반으로 구축되었기 때문에 Postgres를 지원하는 모든 애플리케이션 및 Iceberg 및 Delta와 같은 개방형 테이블 형식을 이해하는 모든 리더와 호환됩니다.

“수십 년 동안 복잡한 데이터 인프라는 팀이 어쩔 수 없이 지불해야 하는 세금과 같았습니다.”라고 Databricks의 공동 창립자이자 CEO인 Ali Ghodsi는 말했습니다. “그 후 에이전트가 등장했습니다. 불과 몇 달 만에 기업들은 사실상 인력을 두 배로 늘렸지만, 인간이 아닌 에이전트였습니다. 에이전트는 인간 팀이 결코 따라올 수 없는 속도로 코드를 작성하고, 전화를 걸고, 루프를 실행합니다. 이전 컴퓨팅 시대를 이끌었던 인프라는 이제 그 누구도 감당할 수 없는 병목 현상이 되었습니다. LTAP가 이를 해결합니다.”

Lakebase, 재해 복구, Git 스타일 브랜칭 및 스냅샷 기능 추가

LTAP를 향한 첫 걸음은 Lakehouse를 구동하는 동일한 레이어인 오브젝트 스토리지에 Postgres 네이티브 트랜잭션을 도입한 Lakebase였습니다. 컴퓨팅과 스토리지를 분리함으로써 Lakebase는 수천 개의 애플리케이션과 에이전트를 동시에 실행하는 비용 효율성을 혁신적으로 개선합니다. 바로 작년에 출시된 Lakebase는 이미 Block, Ensemble, Superhuman, Zillow를 포함한 수천 명의 고객에게 서비스를 제공하고 있으며, 하루에 1,200만 개의 데이터베이스 실행을 처리하고 있습니다.

오늘 Databricks는 대규모 엔터프라이즈 AI를 위해 Lakebase를 확장하는 새로운 기능을 발표했습니다. 새로운 클라우드 간, 리전 간 재해 복구 기능을 통해 기업은 더욱 회복 탄력성 있는 데이터 아키텍처를 구축할 수 있으며, 이는 에이전트가 미션 크리티컬 작업을 수행함에 따라 점점 더 중요해지고 있습니다. 또한 새로운 Git 스타일 브랜칭 및 스냅샷을 통해 프로덕션 데이터를 대상으로 안전하게 실험할 수 있으며, 자율 데이터베이스 운영을 통해 에이전트가 상태를 모니터링하고, 속도 저하를 감지하고, 인덱스를 제안하고, 복구를 지원할 수 있습니다.

LTAP가 아키텍처를 완성하는 방법

Lakebase와 Lakehouse는 이미 스토리지 레이어를 공유하고 있었지만, 각각 자체 형식으로 데이터 사본을 유지했습니다. LTAP는 이 격차를 해소합니다. Lakebase는 Lakehouse와 동일한 개방형 형식을 사용하여 데이터를 Unity Catalog에 직접 저장합니다. 그 결과, 수십 년 동안 엔터프라이즈 데이터 인프라를 정의해 온 절충안을 제거하는 세 가지 특성으로 정의되는 더 깔끔한 아키텍처가 탄생했습니다.

  • 통합 거버넌스, 단일 진실 공급원(source of truth): 모든 운영, 분석 및 스트리밍 데이터는 변환이나 저하 없이 개방형 형식(Delta 및 Iceberg)으로 개방형 오브젝트 스토리지에 저장됩니다. 모든 것이 단일 ID, 권한 및 감사 모델을 통해 Unity Catalog를 통해 관리되므로 모든 엔진이 동일한 사본을 읽고 에이전트가 조치를 취할 수 있는 단일 거버넌스 영역을 공유합니다.
  • 어떤 워크로드에서도 성능 저하 없음: 트랜잭션 워크로드는 완전한 ACID 의미 체계를 갖춘 표준 Postgres에서 실행됩니다. 분석 워크로드는 어떤 규모와 동시성에서도 전체 Lakehouse에서 실행됩니다. 각각은 독립적으로 확장되며, 시스템 간에 데이터 이동이 없기 때문에 사본이나 섀도 인프라 없이 운영 및 분석 결과가 항상 동기화됩니다.
  • ETL 파이프라인 없음(숨겨진 파이프라인 포함): 운영 및 분석 스토리지를 동기화하는 파이프라인, 유지 관리할 복제본 또는 시스템 간에 데이터를 이동하는 커넥터가 없습니다. 이 아키텍처는 ETL 레이어를 완전히 제거하여 시스템을 동기화 상태로 유지하는 운영 비용을 줄이는 동시에 데이터가 항상 최신 상태로 유지되도록 합니다.

“우리가 서비스를 제공하는 의료 시스템의 경우, 수익 사이클의 속도와 정확성은 의료 서비스를 제공하는 능력에 직접적인 영향을 미칩니다.”라고 Ensemble의 CTO인 Grant Veazey는 말했습니다. “Databricks에 대한 초기 투자는 2페타바이트 이상의 깨끗하고 조화로운 수익 사이클 데이터를 지원하는 거버넌스 기반을 구축하는 데 도움이 되었습니다. Lakebase와 LTAP는 단일 레이어에서 운영 및 분석 워크로드를 통합하여 이 기반을 확장함으로써 RCM 네이티브 AI가 실제 운영에서 작동하는 데 필요한 실시간 액세스를 제공합니다. 이는 의료 제공자의 재무 성과 향상으로 이어지며 응급실, NICU 및 기타 중환자 치료 서비스로 더 많은 회수된 수익이 환원되도록 합니다.”

출시 일정

LTAP는 곧 Lakebase의 일부로 제공될 예정입니다.

Databricks 소개

Databricks는 데이터 및 AI 기업입니다. adidas, AT&T, Bayer, Block, Mastercard, Rivian, Unilever 및 Fortune 500대 기업의 70%를 포함하여 전 세계 20,000개 이상의 조직이 데이터와 AI 앱, 분석 및 에이전트를 구축하고 확장하기 위해 Databricks를 신뢰하고 있습니다. 샌프란시스코에 본사를 두고 전 세계 30개 이상의 지사를 두고 있는 Databricks는 Lakebase, Genie, Agent Bricks, Lakeflow, Lakehouse 및 Unity Catalog를 포함하는 통합 플랫폼을 제공합니다. 자세한 내용은 LinkedIn, X, YouTubeInstagram에서 Databricks를 팔로우하여 확인해 보세요.

Data + AI 기업이 될 준비가 되셨습니까?