Deploy Workloads with Lakeflow Jobs - Korean

Lakeflow 작업를 사용하여 워크로드 배포 과정에서는 Databricks 에코시스템 내에서 통합 오케스트레이션 플랫폼으로 Lakeflow 작업를 사용하여 데이터, 분석 및 AI 워크플로를 오케스트레이션하고 자동화하는 방법을 설명합니다.

- DAG(Directed Acyclic Graphs)를 사용하여 데이터 워크로드를 설계 및 구현하고, 다양한 스케줄링 옵션을 구성하고, 조건부 태스크 실행, 실행-조건부 종속성 및 각 루프와 같은 고급 워크플로 기능을 구현하는 방법을 배웁니다.

- 이 과정에서는 적절한 컴퓨트 선택, 모듈식 오케스트레이션, 오류 처리 기술 및 내결함성 설계 - Databricks Data Intelligence Platform에 기본적으로 통합됨을 통해 강력한 프로덕션 준비 파이프라인을 만들기 위한 모범 사례를 다룹니다.

Skill Level

Associate

Duration

Prerequisites

⇾ "데이터 엔지니어링을 위한 Databricks 시작하기" 과정을 이수하거나 과정을 완료하거나 Databricks Data Intelligence Platform

⇾ Databricks Workspace 탐색, Apache Spark, Delta Lake, 메달리온 아키텍처 및 Unity Catalog과 같은 주제에 대한 기본 이해에 대한 확실한 이해.

⇾ Python/PySpark 에 대한 지식 - 중급 SQL 쿼리 작성 경험.

Outline

데이터 엔지니어링 소개 Databricks

⇾ 데이터 엔지니어링 Databricks

⇾ Lakeflow 작업이란 무엇입니까?

Lakeflow 작업 코어 구성 요소

⇾ 기초 구성 요소 Lakeflow 작업

⇾ 작업 오케스트레이션

⇾ 다음을 사용하여 작업 만들기 Lakeflow 작업 UI

만들기 및 작업 예약

⇾ 공통 작업 구성 옵션

⇾ 작업 일정 및 트리거

⇾ 스케줄러를 사용하여 워크로드 자동화 및 트리거

고급 레이크플로우 작업 기능

⇾ 조건부 및 반복 작업

⇾ 태스크 실패 처리

⇾ Lakeflow 작업 생산

⇾ 모범 사례

Upcoming Public Classes

Date	Time	Language	Price
Date	Time	Language	Price	Apr 10	02 PM - 06 PM (Asia/Seoul)	Korean	$750.00

Public Class Registration

If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.

Customer registration Partner registration

Private Class Request

If your company is interested in private training, please submit a request.

Request Private Training

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

지금 등록하세요

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

지금 등록하세요

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Data Engineer

Automated Deployment with Databricks Asset Bundles - Korean

이 과정은 DevOps 원칙과 이를 Databricks 프로젝트에 적용하는 방법을 포괄적으로 검토합니다. 핵심 DevOps, DataOps, 지continuous integration (CI), continuous deployment (CD), 테스트에 대한 개요로 시작하여 이러한 원칙을 데이터 엔지니어링 파이프라인에 적용하는 방법을 탐구합니다.

이어서 CI/CD 프로세스 내 지속적 배포에 초점을 맞추며, 프로젝트 배포를 위한 Databricks REST API, SDK, CLI와 같은 도구를 살펴봅니다. Databricks Asset Bundles(DAB)와 CI/CD 프로세스 내에서의 역할을 학습하게 됩니다. 주요 구성 요소, 폴더 구조, Databricks 내 다양한 대상 환경에 걸친 배포 간소화 방식을 심층적으로 다룹니다. 또한 Databricks CLI를 활용하여 서로 다른 구성의 다중 환경에 대해 변수 추가, 수정, 검증, 배포 및 실행하는 방법을 익히게 됩니다.

마지막으로, Visual Studio Code를 인터랙티브 개발 환경(IDE)으로 활용하여 로컬에서 Databricks Asset Bundles를 빌드, 테스트, 배포하는 방법을 소개함으로써 개발 프로세스를 최적화합니다. GitHub Actions를 활용한 배포 파이프라인 자동화를 통해 Databricks Asset Bundles의 CI/CD 워크플로우를 강화하는 방법에 대한 소개로 강좌를 마무리합니다.

본 과정 수료 시, Databricks Asset Bundles를 활용한 Databricks 프로젝트 배포 자동화 역량을 갖추게 되어 DevOps 관행을 통해 효율성을 향상시킬 수 있습니다.

Languages Available: English | 日本語 | Português BR | 한국어

DevOps Essentials for Data Engineering - Korean

이 과정에서는 Databricks를 사용하여 작업하는 데이터 엔지니어를 위해 특별히 설계된 소프트웨어 엔지니어링 모범 사례와 DevOps 원칙을 살펴봅니다. 참가자는 코드 품질, 버전 제어, 문서화, 테스트와 같은 핵심 주제에 대한 강력한 기반을 구축하게 됩니다. 이 과정에서는 DevOps를 강조하여 핵심 구성 요소, 이점, 데이터 엔지니어링 워크플로 최적화에서 지속적인 통합 및 배포(CI/CD)의 역할에 대해 다룹니다.

PySpark에서 모듈성 원칙을 적용하여 재사용 가능한 구성 요소를 만들고 효율적으로 코드를 구성하는 방법을 학습합니다. 실습 경험에는 pytest 프레임워크를 사용하여 PySpark 함수에 대한 단위 테스트를 설계하고 구현하는 것과 DLT 및 Workflows를 사용하여 Databricks 데이터 파이프라인에 대한 통합 테스트를 수행하여 안정성을 보장하는 것이 포함됩니다.

또한 이 과정에서는 Databricks Git 폴더를 사용하여 지속적인 통합 관행을 통합하는 것을 포함하여 Databricks 내에서 필수적인 Git 작업도 다룹니다. 마지막으로 REST API, CLI, SDK, Databricks Asset Bundles(DAB) 등 Databricks 자산에 대한 다양한 배포 방법을 간략하게 살펴보고 파이프라인을 배포하고 관리하는 기술에 대한 지식을 얻습니다.

과정을 마치면 소프트웨어 엔지니어링과 DevOps 모범 사례에 능숙해져서 확장 가능하고 유지 관리가 가능하며 효율적인 데이터 엔지니어링 솔루션을 구축할 수 있게 됩니다.

Data Warehousing with Databricks - Korean

이 과정은 Databricks의 데이터 웨어하우징 기능을 탐색하려는 데이터 전문가를 위해 설계되었습니다. Databricks에 대한 사전 지식이 없다고 가정하면 Databricks를 최신 클라우드 기반 데이터 웨어하우징 솔루션으로 활용하는 방법을 소개합니다. 학습자는 업계 표준 TCP-DI 데이터 세트를 참조로 사용하여 Databricks Data Intelligence Platform를 사용하여 데이터를 효율적으로 수집, 변환, 관리 및 분석하는 방법을 탐구합니다. 학습자는 또한 자연어 쿼리를 통해 데이터 탐색을 단순화하는 혁신적인 Databricks 기능인 Genie를 탐색하게 됩니다. 이 과정이 끝나면 참가자는 Databricks를 사용하여 데이터 웨어하우스를 구현하고 최적화할 수 있는 기본 기술을 갖추게 됩니다.

Languages Available: English | 日本語 | Português BR | 한국어