Build Data Pipelines with Apache Spark Declarative Pipelines - Korean

이 과정에서는 여러 스트리밍 테이블과 구체화된 보기를 통한 증분 배치 또는 스트리밍 수집 및 처리를 위해 Databricks의 Lakeflow 선언적 파이프라인를 사용하여 데이터 파이프라인을 구축하는 데 필요한 필수 개념과 기술을 사용자에게 소개합니다. Lakeflow 선언적 파이프라인를 처음 접하는 데이터 엔지니어를 위해 설계된 이 과정은 증분 데이터 처리, 스트리밍 테이블, 구체화된 보기 및 임시 보기와 같은 핵심 구성 요소에 대한 포괄적인 개요를 제공하고 구체적인 목적과 차이점을 강조합니다.

다루는 주제는 다음과 같습니다.

- SQL을 사용하여 Lakeflow의 다중 파일 편집기로 ETL 파이프라인 개발 및 디버깅 (Python 코드 예제 제공)

- Lakeflow 선언적 파이프라인이 파이프라인 그래프

를 통해 파이프라인의 데이터 종속성을 추적하는 방법- 파이프라인 컴퓨팅 리소스, 데이터 자산, 트리거 모드 및 기타 고급 옵션

구성 다음으로, 이 과정에서는 Lakeflow의 데이터 품질 기대치를 소개하고, 데이터 무결성을 검증하고 적용하기 위해 기대치를 파이프라인에 통합하는 프로세스를 안내합니다. 그런 다음 학습자는 스케줄링 옵션, 프로덕션 모드, 파이프라인 이벤트 로깅을 활성화하여 파이프라인 성능 및 상태를 모니터링하는 등 파이프라인을 프로덕션에 적용하는 방법을 살펴봅니다.

마지막으로, 이 과정에서는 Lakeflow Declarative Pipelines 내에서 APPLY CHANGES INTO 구문을 사용하여 Change Data Capture (CDC)를 구현하여 느리게 변화하는 차원(SCD 유형 1 및 유형 2)을 관리하여 사용자가 CDC를 자신의 파이프라인에 통합할 수 있도록 준비하는 방법을 다룹니다.

Languages Available: English | 日本語 | Português BR | 한국어

Skill Level

Associate

Duration

Prerequisites

- Databricks Workspaces, Apache Spark, Delta Lake, the Medallion Architecture 및 Unity Catalog를 포함한 Databricks Data Intelligence Platform에 대한 기본적인 이해.

- SQL 함수를 사용하여 read_files CSV, JSON, TXT 및 Parquet와 같은 형식을 로드하는 것을 포함하여 가공되지 않은 데이터를 Delta 테이블로 수집해 본 경험이 있습니다.

- 중간 수준 쿼리 작성을 포함하여 SQL을 사용하여 데이터를 변환하는 능숙함 및 SQL 조인에 대한 기본적인 이해

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Customer registration Partner registration

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

지금 등록하세요

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

지금 등록하세요

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

AI Engineer

Get Started with AI Agents on Databricks - Korean

이 과정은 AI 에이전트, 현대 AI 애플리케이션에서의 역할, 그리고 Databricks 플랫폼에서 AI 에이전트 애플리케이션을 구축하는 방법에 대한 입문 과정입니다. AI 에이전트의 원칙, 전통적인 AI 시스템과의 차이점을 학습하고, 핵심 구성 요소를 탐험합니다. 인터랙티브 데모와 실습을 통해 Databricks AI와 Agent Bricks를 사용하여 Databricks에서 AI 에이전트를 구축, 배포 및 평가하는 방법을 살펴봅니다. 이 과정을 마치면 Databricks Data + AI Platform을 사용하여 AI 에이전트를 생성하고 배포하는 방법을 이해하게 됩니다.

참고: SCORM 강의 파일을 이용할 때는 콘텐츠를 모두 학습한 후 SCORM 창을 닫으시기 바랍니다. ‘다음 강의’ 버튼을 클릭하지 마십시오. 클릭할 경우 SCORM 모듈이 완료로 표시되지 않을 수 있습니다.

Paid & Subscription

Lab

Onboarding

Building Reliable Conversational Agents with Genie - Korean

이 과정에서는 Databricks Genie Agent를 설계, 구축 및 유지 관리하는 방법을 학습합니다. Genie Agent는 비즈니스 사용자가 코드 작성 없이 거버넌스가 적용된 데이터에 대해 질문하고 SQL 기반 답변을 받을 수 있도록 지원하는 자연어 인터페이스입니다.

Genie Agent가 Databricks AI/BI 제품군에서 어떤 역할을 하는지, 그리고 자연어를 신뢰할 수 있는 SQL 쿼리로 어떻게 변환하는지 학습합니다. 이 과정은 정확하고 일관되며 신뢰할 수 있는 결과를 제공하는 Genie Agent를 만들기 위해 필요한 사항에 중점을 둡니다.

소스 데이터 이해 및 벤치마크 정의부터 시작하여, Knowledge Store 큐레이션 도구 전체를 활용한 Genie Agent 구성 및 개선에 이르기까지 완전한 엔드투엔드 워크플로를 따라 진행합니다. 여기에는 메타데이터, 동의어, 프롬프트 매칭, SQL 로직, 예제 쿼리, 텍스트 지침이 포함됩니다.

또한 Genie One을 통해 비즈니스 사용자와 Genie Agent를 공유하는 방법, Unity Catalog 거버넌스가 자동으로 적용되는 방식을 이해하고, 모니터링과 사용자 피드백을 활용하여 시간이 지남에 따라 품질을 지속적으로 개선하는 방법도 학습합니다.

과정을 마치면 거버넌스가 적용된 셀프 서비스 대화형 분석을 스케일에 맞게 제공하는 생산 준비 완료 상태의 Genie Agent를 생성하고 관리할 수 있게 됩니다.

참고: SCORM 강의 파일의 경우, 콘텐츠를 완료한 후 SCORM 창을 닫아 주세요. ‘다음 강의’ 버튼은 클릭하지 마세요. 클릭하면 SCORM 모듈이 완료된 것으로 표시되지 않을 수 있습니다.

Paid & Subscription

Lab

Onboarding

Building ETL Pipelines with SQL - Korean

이 과정에서는 Databricks Data Intelligence Platform에서 순수 SQL을 사용하여 생산 준비가 완료된 ETL 파이프라인을 구축하는 방법을 학습합니다. 수강생은 증분 수집을 위한 Auto Loader를 활용한 Streaming 테이블, 실버에서 골드로의 변환을 위한 증분 갱신이 적용된 구체화된 뷰(Materialized Views), 선언적 SCD Type 1 및 Type 2 차원 관리를 위한 AUTO CDC(FLOW AUTO CDC), 그리고 데이터 품질 기대값, PRIVATE 테이블, 통합 모니터링을 갖춘 생산 다중 테이블 파이프라인으로 이러한 객체를 그룹화하는 Apache Spark Declarative Pipelines(SDP)를 학습합니다. 이 과정은 메달리온 아키텍처(브론즈 → 실버 → 골드)를 따라 실제 소매 데이터셋을 다룹니다. Lakeflow Jobs를 활용한 오케스트레이션은 보너스 모듈로 제공됩니다.

Paid & Subscription

Lab

Associate