주요 컨텐츠로 이동

Build Data Pipelines with Apache Spark Declarative Pipelines - Korean

이 과정은 Databricks에서 Apache Spark™ Declarative Pipelines(SDP)를 사용하여 증분 배치 또는 스트리밍 수집 및 처리를 위한 데이터 파이프라인을 구축하는 데 필요한 핵심 개념과 기술을 사용자에게 소개합니다. 여러 스트리밍 테이블과 구체화된 뷰를 통해 처리하는 방법도 다룹니다. Spark Declarative Pipelines를 처음 접하는 데이터 엔지니어를 대상으로 설계된 이 과정은 증분 데이터 처리, 스트리밍 테이블, 구체화된 뷰, 임시 뷰 등 핵심 구성 요소에 대한 포괄적인 개요를 제공하며, 각각의 목적과 차이점을 강조합니다.


다루는 주제는 다음과 같습니다:

• SQL을 사용하여 Spark Declarative Pipelines의 멀티 파일 편집기로 ETL 파이프라인을 개발하고 디버깅하기(Python 코드 예제 포함)

• Spark Declarative Pipelines가 파이프라인 그래프를 통해 파이프라인 내 데이터 종속성을 추적하는 방법

• 파이프라인 compute 리소스, 데이터 자산, 트리거 모드 및 기타 고급 옵션 구성


다음으로, 이 과정은 Spark Declarative Pipelines의 데이터 품질 기대치를 소개하며, 데이터 무결성을 검증하고 적용하기 위해 파이프라인에 기대치를 통합하는 과정을 안내합니다. 학습자는 스케줄링 옵션 및 파이프라인 이벤트 로깅 활성화를 포함하여 파이프라인을 생산 환경에 배포하는 방법을 탐험하고, 파이프라인 성능과 상태를 모니터링하는 방법도 배웁니다.


마지막으로, 이 과정은 Spark Declarative Pipelines 내에서 AUTO CDC INTO 구문을 사용하여 변경 데이터 캡처(CDC)를 구현하고 점진적 변경 차원(SCD Type 1 및 Type 2)을 관리하는 방법을 다루며, 사용자가 자신의 파이프라인에 CDC를 통합할 수 있도록 준비시킵니다.


참고: Databricks Academy는 Databricks 환경 내 강의실 세션을 위해 notebook 기반 형식으로 전환하고 있으며, 강의용 슬라이드 덱 사용을 중단합니다. 강의 notebook은 Vocareum lab 환경에서 액세스할 수 있습니다.


Languages Available: English日本語 | Português BR | 한국어

Skill Level
Associate
Duration
4h
Prerequisites
이 과정의 콘텐츠는 다음과 같은 기술/지식/역량을 갖춘 참석자를 대상으로 개발되었습니다.

• Databricks Data Intelligence Platform(Databricks Workspaces, Apache Spark, Delta Lake, 메달리온 아키텍처, Lakeflow Jobs 및 Unity Catalog 포함)에 대한 기본적인 이해.

• CSV, JSON, TXT, Parquet 등의 형식을 로드하기 위한 read_files SQL 함수 사용을 포함하여 가공되지 않은 데이터를 Delta 테이블에 수집한 경험.

• 중급 수준의 쿼리 작성 및 SQL 조인에 대한 기본적인 이해를 포함하여 SQL을 사용한 데이터 변환 능력.

• ETL 개념 및 배치/스트리밍 워크플로에 대한 이해.

Outline

• Databricks의 데이터 엔지니어링 소개

• 데모 - 과정 설정 및 파이프라인 생성

• 코스 프로젝트 및 데이터셋 유형 개요

• 간소화된 파이프라인 개발 및 일반적인 파이프라인 설정

• 데모 - 간단한 파이프라인 개발

• Expectations를 활용한 데이터 품질 보장

• 데모 - 데이터 품질 기대치 추가

• Lab - 파이프라인 생성

• 스트리밍 조인 및 파이프라인 생산 배포

• 데모 - 파이프라인을 생산 환경에 배포하기

• 변경 데이터 캡처(CDC) 개요

• 데모 - AUTO CDC를 사용한 SCD TYPE 1 변경 데이터 캡처

• 요약 및 다음 단계

• 보너스 실습 - AUTO CDC INTO with SCD Type 1

Upcoming Public Classes

Date
Time
Your Local Time
Language
Price
Sep 15
02 PM - 06 PM (Asia/Seoul)
-
Korean
$750.00
Oct 15
09 AM - 01 PM (Asia/Seoul)
-
Korean
$750.00

Public Class Registration

If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.

Private Class Request

If your company is interested in private training, please submit a request.

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Runtime

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

지금 등록하세요

Instructors

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

지금 등록하세요

Learning

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Scale

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Generative AI Engineer

Generative AI Engineering with Databricks - Korean

본 과정은 최신의 가장 인기 있는 프레임워크와 Databricks 기능을 사용하여 생성형 AI 애플리케이션을 구축하려는 데이터 과학자, 머신러닝 엔지니어 및 기타 데이터 실무자를 대상으로 합니다.

참고: Databricks Academy는 Databricks 환경 내 강의실 세션을 노트북 기반 형식으로 전환하고 있으며, 강의에 슬라이드 덱 사용을 중단합니다. 강의 노트북은 Vocareum 실습 환경에서 이용할 수 있습니다.

아래에서는 본 과정에 포함된 네 개의 4시간 모듈을 각각 설명합니다.

Building RAG Agents with Agent Bricks: 본 과정에서는 Databricks Agent Bricks를 사용하여 검색 에이전트를 구축하기 위한 실습 교육을 제공합니다. 참가자는 Knowledge Assistants를 탐색하고 쿼리하며, AI Functions를 사용하여 비정형 문서를 정형 데이터로 파싱하고, 시맨틱 검색을 위해 텍스트를 청크로 나누며, Vector Search 인덱스를 구축하고, 여러 지식 소스를 기반으로 하는 프로덕션 준비된 Knowledge Assistants를 생성하는 방법을 학습합니다.

Building Agentic Applications on Databricks: 본 과정에서는 학생들이 Databricks에서 프로덕션 등급의 에이전트 애플리케이션을 구축하는 방법을 학습합니다. 학생들은 Unity Catalog와 MCP를 사용하여 거버넌스된 에이전트 도구를 생성하고, OpenAI Agents SDK로 단일 및 다중 에이전트 시스템을 구축하며, 슈퍼바이저 에이전트로 오케스트레이션되는 knowledge assistant 사용 사례를 위해 Agent Bricks와 Genie를 활용하는 방법을 학습합니다. 본 과정은 도구 프로토타이핑부터 프로덕션 배포까지의 전체 진행 과정을 다루며, MLflow 트레이싱을 사용하여 에이전트 실행을 관찰하는 실습 경험을 제공합니다.

Agent Evaluation on Databricks: 본 과정에서는 학생들이 MLflow의 평가 프레임워크를 사용하여 AI 에이전트를 체계적으로 평가하는 방법을 학습하며, 기존 소프트웨어 테스트로는 처리할 수 없는 비결정론적 AI 시스템의 고유한 과제를 다룹니다. 학생들은 정확성 및 안전성과 같은 일반적인 기준을 위한 기본 내장 심사위원(built-in judges), 비즈니스별 요구 사항을 위한 가이드라인 심사위원, 특수한 요구 사항을 위한 맞춤형 심사위원 등 다양한 평가 접근 방식을 구현하는 방법을 학습합니다. 본 과정은 큐레이션된 데이터셋을 사용하는 오프라인 평가와 온라인 프로덕션 모니터링을 모두 다루며, MLflow의 트레이싱 기능을 사용하여 에이전트 실행 패턴을 이해하고 다양한 유형의 이해관계자로부터 인간 피드백을 수집하는 실습 경험을 제공합니다. 실용적인 데모와 랩을 통해 학생들은 AI 에이전트 개발 수명 주기 전반에 걸쳐 지속적인 품질 개선을 이끄는 평가 워크플로를 만드는 기술을 개발합니다.

Deploying and Monitoring Agent Applications on Databricks: 본 과정에서는 Databricks에서 생성형 AI 에이전트를 배포하고 모니터링하기 위한 엔드투엔드 수명 주기를 다룹니다. 참가자는 Declarative Automation Bundles(DABs)를 사용하여 에이전트를 Databricks Apps로 배포하고, Model Context Protocol(MCP)을 통해 도구를 통합하며, MLflow Tracing으로 에이전트를 계측하고, 스코어러, 멀티턴 심사위원 및 온라인 평가를 사용하여 프로덕션 품질을 평가하는 방법을 학습합니다. 실습 데모와 랩을 통해 참가자는 Databricks 플랫폼에서 프로덕션 등급의 AI 에이전트를 구축, 관찰 및 모니터링하는 실용적인 경험을 얻습니다.

Languages Available: English | 日本語 | Português BR | 한국어

Paid
16h
Lab
instructor-led
Associate

Questions?

If you have any questions, please refer to our Frequently Asked Questions page.