Deploy Workloads with Lakeflow Jobs - Korean

Lakeflow 작업를 사용하여 워크로드 배포 과정에서는 Databricks 에코시스템 내에서 통합 오케스트레이션 플랫폼으로 Lakeflow 작업를 사용하여 데이터, 분석 및 AI 워크플로를 오케스트레이션하고 자동화하는 방법을 설명합니다.

- DAG(Directed Acyclic Graphs)를 사용하여 데이터 워크로드를 설계 및 구현하고, 다양한 스케줄링 옵션을 구성하고, 조건부 태스크 실행, 실행-조건부 종속성 및 각 루프와 같은 고급 워크플로 기능을 구현하는 방법을 배웁니다.

- 이 과정에서는 적절한 컴퓨트 선택, 모듈식 오케스트레이션, 오류 처리 기술 및 내결함성 설계 - Databricks Data Intelligence Platform에 기본적으로 통합됨을 통해 강력한 프로덕션 준비 파이프라인을 만들기 위한 모범 사례를 다룹니다.

Skill Level

Associate

Duration

Prerequisites

⇾ "데이터 엔지니어링을 위한 Databricks 시작하기" 과정을 이수하거나 과정을 완료하거나 Databricks Data Intelligence Platform

⇾ Databricks Workspace 탐색, Apache Spark, Delta Lake, 메달리온 아키텍처 및 Unity Catalog과 같은 주제에 대한 기본 이해에 대한 확실한 이해.

⇾ Python/PySpark 에 대한 지식 - 중급 SQL 쿼리 작성 경험.

Outline

데이터 엔지니어링 소개 Databricks

⇾ 데이터 엔지니어링 Databricks

⇾ Lakeflow 작업이란 무엇입니까?

Lakeflow 작업 코어 구성 요소

⇾ 기초 구성 요소 Lakeflow 작업

⇾ 작업 오케스트레이션

⇾ 다음을 사용하여 작업 만들기 Lakeflow 작업 UI

만들기 및 작업 예약

⇾ 공통 작업 구성 옵션

⇾ 작업 일정 및 트리거

⇾ 스케줄러를 사용하여 워크로드 자동화 및 트리거

고급 레이크플로우 작업 기능

⇾ 조건부 및 반복 작업

⇾ 태스크 실패 처리

⇾ Lakeflow 작업 생산

⇾ 모범 사례

Public Class Registration

If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.

Customer registration Partner registration

Private Class Request

If your company is interested in private training, please submit a request.

Request Private Training

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

지금 등록하세요

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

지금 등록하세요

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Apache Spark Developer

Apache Spark™ Programming with Databricks - Korean

이 과정은 Databricks를 사용하여 Apache Spark 프로그래밍을 배우기 위한 적절한 시작점 역할을 합니다.

아래에서는 이 과정에 포함된 4개의 4시간짜리 모듈을 각각 설명합니다.

Introduction to Apache Spark

이 과정은 분산 아키텍처와 대규모 데이터 처리를 위한 실제 응용 프로그램에 중점을 두고 Apache Spark™에 대한 필수 지식을 제공합니다. 참가자는 프로그래밍 프레임워크를 탐색하고 Spark DataFrame API를 배우며 Python 기반 Spark 워크플로를 사용하여 데이터를 읽고, 쓰고, 변환하는 기술을 개발하십시오.

Developing Applications with Apache Spark

이 실습 과정에서 Apache Spark로 확장 가능한 데이터 처리를 마스터하세요. Spark의 DataFrame API를 사용하여 효율적인 ETL 파이프라인을 구축하고, 고급 분석을 수행하며, 분산 데이터 변환을 최적화하는 방법을 알아보세요. 그룹화, 집계, 조인, 집합 연산 및 창 함수를 살펴봅니다. 배열, 맵, 구조체와 같은 복잡한 데이터 유형으로 작업하면서 성능 최적화를 위한 모범 사례를 적용하세요.

Stream Processing and Analysis with Apache Spark

이 과정에서 Apache Spark를 사용하여 스트림 처리 및 분석의 기본 사항을 알아보세요.™ 스트림 처리 기본 사항에 대한 확실한 이해를 얻고 Spark Structured Streaming API를 사용하여 애플리케이션을 개발합니다. 스트림 집계 및 창 분석과 같은 고급 기술을 탐색하여 실시간 데이터를 효율적으로 처리하세요. 이 과정에서는 동적 데이터 환경을 위한 확장 가능하고 장애에 강한 스트리밍 애플리케이션을 만드는 기술을 습득합니다.

Monitoring and Optimizing Apache Spark Workloads on Databricks

이 과정에서는 안전한 데이터 거버넌스, 액세스 제어 및 계보 추적을 위한 Unity Catalog에 중점을 두고 확장 가능한 데이터 워크플로를 위한 레이크하우스 아키텍처 및 메달리온 설계를 살펴봅니다. 커리큘럼에는 Delta Lake를 사용하여 신뢰할 수 있는 ACID 호환 파이프라인 구축이 포함됩니다. 파티셔닝, 캐싱, 쿼리 튜닝과 같은 Spark 최적화 기술을 살펴보고 실제 문제를 해결하기 위한 효율적인 데이터 엔지니어링 및 분석을 위한 성능 모니터링, 문제 해결 및 모범 사례를 배웁니다.

Languages Available: English | 日本語 | 한국어

Apache Spark Developer