Build Data Pipelines with Lakeflow Declarative Pipelines - Korean

이 과정에서는 여러 스트리밍 테이블과 구체화된 보기를 통한 증분 배치 또는 스트리밍 수집 및 처리를 위해 Databricks의 Lakeflow 선언적 파이프라인를 사용하여 데이터 파이프라인을 구축하는 데 필요한 필수 개념과 기술을 사용자에게 소개합니다. Lakeflow 선언적 파이프라인를 처음 접하는 데이터 엔지니어를 위해 설계된 이 과정은 증분 데이터 처리, 스트리밍 테이블, 구체화된 보기 및 임시 보기와 같은 핵심 구성 요소에 대한 포괄적인 개요를 제공하고 구체적인 목적과 차이점을 강조합니다.

다루는 주제는 다음과 같습니다.

- SQL을 사용하여 Lakeflow의 다중 파일 편집기로 ETL 파이프라인 개발 및 디버깅 (Python 코드 예제 제공)

- Lakeflow 선언적 파이프라인이 파이프라인 그래프

를 통해 파이프라인의 데이터 종속성을 추적하는 방법- 파이프라인 컴퓨팅 리소스, 데이터 자산, 트리거 모드 및 기타 고급 옵션

구성 다음으로, 이 과정에서는 Lakeflow의 데이터 품질 기대치를 소개하고, 데이터 무결성을 검증하고 적용하기 위해 기대치를 파이프라인에 통합하는 프로세스를 안내합니다. 그런 다음 학습자는 스케줄링 옵션, 프로덕션 모드, 파이프라인 이벤트 로깅을 활성화하여 파이프라인 성능 및 상태를 모니터링하는 등 파이프라인을 프로덕션에 적용하는 방법을 살펴봅니다.

마지막으로, 이 과정에서는 Lakeflow Declarative Pipelines 내에서 APPLY CHANGES INTO 구문을 사용하여 Change Data Capture (CDC)를 구현하여 느리게 변화하는 차원(SCD 유형 1 및 유형 2)을 관리하여 사용자가 CDC를 자신의 파이프라인에 통합할 수 있도록 준비하는 방법을 다룹니다.

Languages Available: English | 日本語 | Português BR | 한국어

Skill Level

Associate

Duration

Prerequisites

- Databricks Workspaces, Apache Spark, Delta Lake, the Medallion Architecture 및 Unity Catalog를 포함한 Databricks Data Intelligence Platform에 대한 기본적인 이해.

- SQL 함수를 사용하여 read_files CSV, JSON, TXT 및 Parquet와 같은 형식을 로드하는 것을 포함하여 가공되지 않은 데이터를 Delta 테이블로 수집해 본 경험이 있습니다.

- 중간 수준 쿼리 작성을 포함하여 SQL을 사용하여 데이터를 변환하는 능숙함 및 SQL 조인에 대한 기본적인 이해

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Customer registration Partner registration

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Data Engineer

Get Started with Data Governance on Databricks - Korean

이 강의에서는 Unity Catalog와 Databricks의 세밀한 접근 통제를 실습 데모와 캡스톤 랩을 통해 탐구하게 됩니다. 테이블 유형, 카탈로그 및 스키마 구성, 그룹 기반 접근 관리, 접근 제어 마이그레이션 전략에 대해 배우게 됩니다. 이 과정에는 행 수준 보안 및 컬럼 마스킹을 사용한 세분화된 접근 제어 적용, 속성 기반 접근 제어, 제어 결합, 제어 마이그레이션, 그리고 포괄적인 거버넌스 구현을 위한 실습 데모가 포함되어 있습니다.

Languages Available: English | 日本語 | 한국어

Paid & Subscription

Lab

Onboarding

Data Warehousing Practitioner

Data Warehousing with Databricks - Korean

이 과정은 Databricks의 데이터 웨어하우징 기능을 살펴보고자 하는 데이터 전문가를 위해 설계되었습니다. Databricks에 대한 사전 지식이 전혀 없다는 전제 하에, 이 과정은 Databricks를 최신 클라우드 기반 데이터 웨어하우징 솔루션으로 활용하는 방법을 소개합니다. 학습자는 업계 표준 TCP-DI 데이터 세트를 참조하여 Databricks Data Intelligence Platform을 사용하여 데이터를 효율적으로 수집, 변환, 관리 및 분석하는 방법을 알아봅니다. 학습자는 자연어 쿼리를 통해 데이터 탐색을 간소화하는 혁신적인 Databricks 기능인 Genie도 살펴보게 됩니다. 이 과정을 마치면 참가자는 Databricks를 사용하여 데이터 웨어하우스를 구현하고 최적화하는 기본 기술을 갖추게 됩니다.

Languages Available: English | 日本語 | Português BR | 한국어

DevOps Essentials for Data Engineering - Korean

이 과정에서는 Databricks를 사용하여 작업하는 데이터 엔지니어를 위해 특별히 설계된 소프트웨어 엔지니어링 모범 사례와 DevOps 원칙을 살펴봅니다. 참가자는 코드 품질, 버전 제어, 문서화, 테스트와 같은 핵심 주제에 대한 강력한 기반을 구축하게 됩니다. 이 과정에서는 DevOps를 강조하여 핵심 구성 요소, 이점, 데이터 엔지니어링 워크플로 최적화에서 지속적인 통합 및 배포(CI/CD)의 역할에 대해 다룹니다.

PySpark에서 모듈성 원칙을 적용하여 재사용 가능한 구성 요소를 만들고 효율적으로 코드를 구성하는 방법을 학습합니다. 실습 경험에는 pytest 프레임워크를 사용하여 PySpark 함수에 대한 단위 테스트를 설계하고 구현하는 것과 DLT 및 Workflows를 사용하여 Databricks 데이터 파이프라인에 대한 통합 테스트를 수행하여 안정성을 보장하는 것이 포함됩니다.

또한 이 과정에서는 Databricks Git 폴더를 사용하여 지속적인 통합 관행을 통합하는 것을 포함하여 Databricks 내에서 필수적인 Git 작업도 다룹니다. 마지막으로 REST API, CLI, SDK, Databricks Asset Bundles(DAB) 등 Databricks 자산에 대한 다양한 배포 방법을 간략하게 살펴보고 파이프라인을 배포하고 관리하는 기술에 대한 지식을 얻습니다.

과정을 마치면 소프트웨어 엔지니어링과 DevOps 모범 사례에 능숙해져서 확장 가능하고 유지 관리가 가능하며 효율적인 데이터 엔지니어링 솔루션을 구축할 수 있게 됩니다.

Languages Available: English | 日本語 | Português BR | 한국어

Paid & Subscription

Lab

Associate