Monitoring and Optimizing Apache Spark Workloads on Databricks - Korean

이 과정에서는 안전한 데이터 거버넌스, 액세스 제어 및 계보 추적을 위한 Unity Catalog에 중점을 두고 확장 가능한 데이터 워크플로를 위한 레이크하우스 아키텍처 및 메달리온 설계를 살펴봅니다. 커리큘럼에는 Delta Lake를 사용하여 신뢰할 수 있는 ACID 호환 파이프라인 구축이 포함됩니다. 파티셔닝, 캐싱, 쿼리 튜닝과 같은 Spark 최적화 기술을 살펴보고 실제 문제를 해결하기 위한 효율적인 데이터 엔지니어링 및 분석을 위한 성능 모니터링, 문제 해결 및 모범 사례를 배웁니다.

Languages Available: English | 日本語 | 한국어

Skill Level

Associate

Duration

Prerequisites

- 기본 프로그래밍 지식

- Python

에 대한 기본 지식 - SQL 쿼리(SELECT, JOIN, GROUP BY)에 대한 기본 이해

- 데이터 처리 개념

에 대한 기본 지식 - 사전 Spark 또는 Databricks 경험이 필요 없습니다.

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Customer registration Partner registration

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Data Engineer

Get Started with Databricks for Data Engineering - Korean

이 과정에서는 Databricks Data Intelligence Platform를 사용하여 간단한 데이터 엔지니어링 워크플로를 수행하고 데이터 웨어하우징 노력을 지원할 수 있는 기본 기술을 배웁니다. 워크스페이스을 둘러보고 카탈로그, 스키마, 볼륨, 테이블, 컴퓨팅 클러스터 및 Notebooks와 같은 Databricks의 개체로 작업하는 방법을 보여줍니다. 그런 다음 기본 데이터 엔지니어링 워크플로에 따라 테이블 생성 및 작업, Delta Lake로 데이터 수집, 메달리온 아키텍처를 통한 데이터 변환, Databricks Workflows를 사용하여 데이터 엔지니어링 작업 오케스트레이션과 같은 작업을 수행합니다. 또한 Databricks가 Databricks SQL, Lakeflow 선언적 파이프라인 및 Unity Catalog를 사용하여 데이터 웨어하우징 요구 사항을 지원하는 방법도 알아봅니다.

Databricks Labs 구독을 구매하면 이 과정은 라이브 Databricks 워크스페이스 환경에서 배운 내용을 연습할 수 있는 포괄적인 실습 연습으로 마무리됩니다.

Languages Available: English | 日本語 | Português BR | 한국어

Paid & Subscription

Lab

Onboarding

Data Warehousing Practitioner

Data Warehousing with Databricks - Korean

이 과정은 Databricks의 데이터 웨어하우징 기능을 살펴보고자 하는 데이터 전문가를 위해 설계되었습니다. Databricks에 대한 사전 지식이 전혀 없다는 전제 하에, 이 과정은 Databricks를 최신 클라우드 기반 데이터 웨어하우징 솔루션으로 활용하는 방법을 소개합니다. 학습자는 업계 표준 TCP-DI 데이터 세트를 참조하여 Databricks Data Intelligence Platform을 사용하여 데이터를 효율적으로 수집, 변환, 관리 및 분석하는 방법을 알아봅니다. 학습자는 자연어 쿼리를 통해 데이터 탐색을 간소화하는 혁신적인 Databricks 기능인 Genie도 살펴보게 됩니다. 이 과정을 마치면 참가자는 Databricks를 사용하여 데이터 웨어하우스를 구현하고 최적화하는 기본 기술을 갖추게 됩니다.

Languages Available: English | 日本語 | Português BR | 한국어

Build Data Pipelines with Lakeflow Declarative Pipelines - Korean

이 과정에서는 여러 스트리밍 테이블과 구체화된 보기를 통한 증분 배치 또는 스트리밍 수집 및 처리를 위해 Databricks의 Lakeflow 선언적 파이프라인를 사용하여 데이터 파이프라인을 구축하는 데 필요한 필수 개념과 기술을 사용자에게 소개합니다. Lakeflow 선언적 파이프라인를 처음 접하는 데이터 엔지니어를 위해 설계된 이 과정은 증분 데이터 처리, 스트리밍 테이블, 구체화된 보기 및 임시 보기와 같은 핵심 구성 요소에 대한 포괄적인 개요를 제공하고 구체적인 목적과 차이점을 강조합니다.

다루는 주제는 다음과 같습니다.

- SQL을 사용하여 Lakeflow의 다중 파일 편집기로 ETL 파이프라인 개발 및 디버깅 (Python 코드 예제 제공)

- Lakeflow 선언적 파이프라인이 파이프라인 그래프

를 통해 파이프라인의 데이터 종속성을 추적하는 방법- 파이프라인 컴퓨팅 리소스, 데이터 자산, 트리거 모드 및 기타 고급 옵션

구성 다음으로, 이 과정에서는 Lakeflow의 데이터 품질 기대치를 소개하고, 데이터 무결성을 검증하고 적용하기 위해 기대치를 파이프라인에 통합하는 프로세스를 안내합니다. 그런 다음 학습자는 스케줄링 옵션, 프로덕션 모드, 파이프라인 이벤트 로깅을 활성화하여 파이프라인 성능 및 상태를 모니터링하는 등 파이프라인을 프로덕션에 적용하는 방법을 살펴봅니다.

마지막으로, 이 과정에서는 Lakeflow Declarative Pipelines 내에서 APPLY CHANGES INTO 구문을 사용하여 Change Data Capture (CDC)를 구현하여 느리게 변화하는 차원(SCD 유형 1 및 유형 2)을 관리하여 사용자가 CDC를 자신의 파이프라인에 통합할 수 있도록 준비하는 방법을 다룹니다.

Languages Available: English | 日本語 | Português BR | 한국어

Paid & Subscription

Lab

Associate