주요 컨텐츠로 이동

Get Started with Databricks for Data Engineering - Korean

이 코스에서는 Databricks Data Intelligence Platform에서 기본적인 데이터 엔지니어링 워크플로를 수행하는 데 필요한 기초 기술을 소개합니다. 워크스페이스를 살펴보고, Unity Catalog를 사용하며, 데이터 엔지니어가 Databricks에서 일상적으로 활용하는 핵심 구성 요소를 학습합니다.


이 코스는 실습 중심으로 진행됩니다. 먼저 워크스페이스에 익숙해진 다음, 각 주제별로 데모와 랩 노트북을 짝지어 진행합니다. 데모에서는 강사 또는 가이드 노트북과 함께 개념을 살펴보고, 랩에서는 방금 학습한 내용을 직접 적용합니다.


다루는 내용은 다음과 같습니다.

• Databricks Data Intelligence Platform의 개요와 Databricks Workspace, Unity Catalog, 노트북이 어떻게 함께 작동하는지.

• Delta Lake 테이블의 생성 및 관리.

• INSERT, UPDATE, DELETE를 사용한 데이터 변경.

• Delta 테이블의 버전 기록 및 타임 트래블 살펴보기.

• Lakeflow Connect 옵션(CTAS, 업로드 UI, COPY INTO)을 사용한 데이터 수집.

• 브론즈, 실버, 골드 계층을 통해 데이터를 변환하는 메달리온 아키텍처 파이프라인 구축.

• Lakeflow Jobs를 사용한 파이프라인 자동화.

• (보너스) Spark Declarative Pipelines를 사용한 선언형 파이프라인 구축.


Languages Available: English | 日本語 | Português BR | 한국어

Skill Level
Onboarding
Duration
3h
Prerequisites

이 과정에서는 다음과 같은 기술/지식/능력을 가진 참가자들을 위해 내용이 개발되었습니다: 
• 클라우드 데이터 플랫폼에 대한 기본적인 이해. 데이터베이스, 테이블, 쿼리가 무엇인지 개념적으로 이해하고 있어야 합니다.

• SQL에 대한 실무 지식. WHERE, GROUP BY, 집계 함수를 포함한 SELECT 문을 읽고 작성할 수 있으며 INSERT, UPDATE, DELETE를 이해하고 있어야 합니다.

• 데이터 수집, 변환, 파이프라인과 같은 데이터 엔지니어링 개념에 대한 전반적인 이해가 있으면 도움이 되지만 필수는 아닙니다. 기초 내용은 이 코스에서 다룹니다.

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Runtime

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

지금 등록하세요

Instructors

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

지금 등록하세요

Learning

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Scale

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Get Started with Lakebase - Korean

이 입문 과정에서는 Databricks Data Intelligence Platform에 내장된 완전 관리형 PostgreSQL 서비스인 Databricks Lakebase를 소개하며, 이 서비스가 운영(OLTP) 및 분석(OLAP) 워크로드를 더욱 긴밀하게 통합하는 방식을 다룹니다.

이 과정은 OLTP와 OLAP 시스템을 비교하는 개념 강의를 시작으로, 두 시스템의 서로 다른 성능 특성, 스토리지 모델 및 일반적인 사용 사례를 설명합니다. 또한 데이터 이동, 지연 시간, 아키텍처의 복잡성 등 트랜잭션 데이터베이스와 분석 플랫폼을 별도로 유지 관리할 때 조직이 직면하는 과제들을 살펴볼 것입니다.

이어서 Databricks Lakebase가 Databricks Lakehouse와 직접 통합되는 PostgreSQL 호환 운영 데이터베이스를 제공함으로써, 운영 애플리케이션과 분석이 통합된 플랫폼 내에서 함께 작동하도록 지원하여 이러한 과제를 해결하는 방법을 배우게 됩니다.

실습을 통해 다음을 수행하게 됩니다:

오토스케일링 compute을 사용하여 Lakebase 프로젝트 생성 및 탐색

• 브랜칭, 모니터링, 구성 설정을 포함한 Lakebase UI 탐색

• Lakebase SQL 편집기를 사용하여 테이블 생성 및 쿼리 실행

• Lakehouse Federation 및 외부 카탈로그를 사용하여 Databricks에서 Lakebase 데이터 쿼리

• Delta 테이블을 Lakebase로 동기화하여 리버스 ETL 수행

• Python에서 Lakebase에 연결하여 기본 CRUD 작업 수행

이 과정은 입문 과정이므로, Lakebase를 활용하기 위한 핵심 개념과 기본 워크플로우를 이해하는 데 중점을 둡니다. Lakebase를 기반으로 완전한 프로덕션 애플리케이션을 구축하는 내용은 이 과정의 범위를 벗어납니다.

참고: SCORM 강의 파일을 이용할 때는 콘텐츠를 모두 학습한 후 SCORM 창을 닫으시기 바랍니다. ‘다음 강의’ 버튼을 클릭하지 마십시오. 클릭할 경우 SCORM 모듈이 완료로 표시되지 않을 수 있습니다.

Paid & Subscription
3h
Onboarding
Data Engineer

Build Data Pipelines with Lakeflow Spark Declarative Pipelines - Korean

이 과정에서는 여러 스트리밍 테이블과 구체화된 보기를 통한 증분 배치 또는 스트리밍 수집 및 처리를 위해 Databricks의 Lakeflow 선언적 파이프라인를 사용하여 데이터 파이프라인을 구축하는 데 필요한 필수 개념과 기술을 사용자에게 소개합니다. Lakeflow 선언적 파이프라인를 처음 접하는 데이터 엔지니어를 위해 설계된 이 과정은 증분 데이터 처리, 스트리밍 테이블, 구체화된 보기 및 임시 보기와 같은 핵심 구성 요소에 대한 포괄적인 개요를 제공하고 구체적인 목적과 차이점을 강조합니다.

다루는 주제는 다음과 같습니다.

- SQL을 사용하여 Lakeflow의 다중 파일 편집기로 ETL 파이프라인 개발 및 디버깅 (Python 코드 예제 제공)

- Lakeflow 선언적 파이프라인이 파이프라인 그래프

를 통해 파이프라인의 데이터 종속성을 추적하는 방법- 파이프라인 컴퓨팅 리소스, 데이터 자산, 트리거 모드 및 기타 고급 옵션

 구성 다음으로, 이 과정에서는 Lakeflow의 데이터 품질 기대치를 소개하고, 데이터 무결성을 검증하고 적용하기 위해 기대치를 파이프라인에 통합하는 프로세스를 안내합니다. 그런 다음 학습자는 스케줄링 옵션, 프로덕션 모드, 파이프라인 이벤트 로깅을 활성화하여 파이프라인 성능 및 상태를 모니터링하는 등 파이프라인을 프로덕션에 적용하는 방법을 살펴봅니다.

마지막으로, 이 과정에서는 Lakeflow Declarative Pipelines 내에서 APPLY CHANGES INTO 구문을 사용하여 Change Data Capture  (CDC)를 구현하여 느리게 변화하는 차원(SCD 유형 1 및 유형 2)을 관리하여 사용자가 CDC를 자신의 파이프라인에 통합할 수 있도록 준비하는 방법을 다룹니다.

Languages Available: English | 日本語 | Português BR | 한국어

Paid & Subscription
4h
Lab
Associate

Questions?

If you have any questions, please refer to our Frequently Asked Questions page.