Building ETL Pipelines with SQL - Korean

이 과정은 Databricks Data Intelligence Platform에서 순수 SQL을 사용해 운영 준비가 된 ETL 파이프라인을 구축하는 방법을 가르칩니다. 학생들은 점진적 적재를 위한 Auto Loader가 포함된 스트리밍 테이블, 실버에서 골드로 변환을 위한 점진적 리프레시가 있는 Materialized Views, 선언적 SCD 타입 1 및 타입 2 차원 관리를 위한 AUTO CDC(FLOW AUTO CDC), 그리고 운영 오케스트레이션을 위한 SQL 파일 작업이 포함된 Lakeflow Jobs를 배웁니다. 이 과정은 메달리온 아키텍처(브론즈 → 실버 → 골드)를 통해 현실적인 소매 데이터셋을 따라갑니다.

참고: Databricks Academy는 Databricks 환경 내의 대면 강의 형식을 노트북 기반 방식으로 전환함에 따라, 강의용 슬라이드 사용이 중단됩니다. Vocareum 랩 환경에서 강의용 노트북에 액세스할 수 있습니다.

Skill Level

Associate

Duration

Prerequisites

이 과정에서는 다음과 같은 기술/지식/능력을 가진 참가자들을 위해 내용이 개발되었습니다:

• Databricks Workspace를 탐색합니다 (사이드바, 카탈로그 탐색기, SQL 편집기)

• Unity Catalog 기본 사항 (카탈로그, 스키마, 테이블, 볼륨)

• 중급 SQL (SELECT, JOIN, GROUP BY, CAST, COALESCE, CREATE TABLE)

• 데이터 웨어하우징 개념 (팩트/차원 테이블, 스타 스키마, 메달리언 아키텍처)

• ETL 워크플로우에 대한 기본적인 이해

Outline

Databricks에서의 SQL ETL
• Databricks에서 SQL ETL: 큰 그림

• 데모: 코스 탐구 데이터셋 및 SQL 편집기

• 랩: SQL 편집기와 Genie 코드 사용

스트리밍 테이블과 머티리얼라이즈드 뷰

• SQL ETL 구축 파이프라인

• 데모: 구축 중 브론즈-실버 파이프라인

• 실습: 고객 만들기 피드백 파이프라인

자동 CDC

• 자동 CDC 스트리밍 차원 업데이트

• 데모: AUTO CDC를 사용한 점진적으로 변하는 차원 구축

• 실습: 느리게 변하는 차원 구축

Lakeflow Jobs로 오케스트레이션

• SQL 오케스트레이션 Lakeflow Jobs이 포함된 파이프라인

• 데모: ETL 파이프라인용 Lakeflow Jobs 구축

• 랩: SQL 오케스트레이션 Lakeflow Jobs이 포함된 파이프라인

Upcoming Public Classes

Date	Time	Your Local Time	Language	Price
Date	Time	Your Local Time	Language	Price	Aug 19	09 AM - 01 PM (Asia/Seoul)	-	Korean	$750.00

Public Class Registration

If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.

Customer registration Partner registration

Private Class Request

If your company is interested in private training, please submit a request.

Request Private Training

See all our registration options

Upcoming Public Classes

Date	Time	Your Local Time	Language	Price
Date	Time	Your Local Time	Language	Price	Aug 19	09 AM - 01 PM (Asia/Seoul)	-	Korean	$750.00

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

지금 등록하세요

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

지금 등록하세요

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Building Reliable Conversational Agents with Genie - Korean

이 코스에서는 Databricks Genie Space를 설계, 구축, 유지 관리하는 방법을 배웁니다. Genie Space는 비즈니스 사용자가 거버넌스된 데이터에 대해 질문하고 코드를 작성하지 않고도 SQL 기반 답변을 받을 수 있는 자연어 인터페이스입니다.

Genie가 Databricks AI/BI 제품군에 어떻게 들어맞는지, 그리고 자연어를 어떻게 신뢰할 수 있는 SQL 쿼리로 변환하는지 배웁니다. 이 코스는 정확하고 일관되며 신뢰할 수 있는 결과를 제공하는 Genie Space를 만드는 데 무엇이 필요한지에 초점을 맞춥니다.

소스 데이터를 이해하고 벤치마크를 정의하는 것에서부터, Knowledge Store의 큐레이션 도구 전체를 사용해 Genie Space를 구성하고 개선하는 것까지, 완전한 엔드 투 엔드 워크플로를 따라갑니다. 이 도구에는 메타데이터, 동의어, 프롬프트 매칭, SQL 로직, 예시 쿼리, 텍스트 instructions가 포함됩니다.

또한 Databricks One을 통해 비즈니스 사용자와 Genie Space를 공유하는 방법, Unity Catalog 거버넌스가 어떻게 자동으로 적용되는지를 이해하고, 모니터링과 사용자 피드백을 사용해 시간이 지나면서 품질을 지속적으로 개선하는 방법을 배웁니다.

코스를 마칠 때쯤이면, 거버넌스되고 셀프서비스인 대화형 분석을 대규모로 제공하는, 생산 준비가 된 Genie Space를 만들고 관리할 수 있게 됩니다.

참고: Databricks Academy는 Databricks 환경 내의 대면 강의 형식을 노트북 기반 방식으로 전환함에 따라, 강의용 슬라이드 사용이 중단됩니다. Vocareum 랩 환경에서 강의용 노트북에 액세스할 수 있습니다.

Languages Available: English | 日本語

Architecting Data Warehouses for Large-Scale Deployments - Korean

이 과정에서는 대규모 data warehousing 배포를 위한 성능 최적화, 비용 관리 및 보안을 다룹니다.

이 과정은 여러 사업부에 걸쳐 수백 또는 수천 명의 사용자에게 서비스를 제공하는 Databricks 환경을 관리하는 data warehousing 실무자를 위해 설계되었습니다. 높은 성능, 비용 효율성, 보안 표준 준수를 유지하면서 data warehousing 운영을 효율적으로 확장하는 데 필요한 기술을 습득하게 됩니다.

Languages Available: English | 日本語 | Português BR | Español | française

Apache Spark Developer

Apache Spark™ Programming with Databricks - Korean

이 과정은 Databricks를 사용하여 Apache Spark 프로그래밍을 배우기 위한 적절한 시작점 역할을 합니다.

아래에서는 이 과정에 포함된 4개의 4시간짜리 모듈을 각각 설명합니다.

Introduction to Apache Spark

이 과정은 분산 아키텍처와 대규모 데이터 처리를 위한 실제 응용 프로그램에 중점을 두고 Apache Spark™에 대한 필수 지식을 제공합니다. 참가자는 프로그래밍 프레임워크를 탐색하고 Spark DataFrame API를 배우며 Python 기반 Spark 워크플로를 사용하여 데이터를 읽고, 쓰고, 변환하는 기술을 개발하십시오.

Developing Applications with Apache Spark

이 실습 과정에서 Apache Spark로 확장 가능한 데이터 처리를 마스터하세요. Spark의 DataFrame API를 사용하여 효율적인 ETL 파이프라인을 구축하고, 고급 분석을 수행하며, 분산 데이터 변환을 최적화하는 방법을 알아보세요. 그룹화, 집계, 조인, 집합 연산 및 창 함수를 살펴봅니다. 배열, 맵, 구조체와 같은 복잡한 데이터 유형으로 작업하면서 성능 최적화를 위한 모범 사례를 적용하세요.

Stream Processing and Analysis with Apache Spark

이 과정에서 Apache Spark를 사용하여 스트림 처리 및 분석의 기본 사항을 알아보세요.™ 스트림 처리 기본 사항에 대한 확실한 이해를 얻고 Spark Structured Streaming API를 사용하여 애플리케이션을 개발합니다. 스트림 집계 및 창 분석과 같은 고급 기술을 탐색하여 실시간 데이터를 효율적으로 처리하세요. 이 과정에서는 동적 데이터 환경을 위한 확장 가능하고 장애에 강한 스트리밍 애플리케이션을 만드는 기술을 습득합니다.

Monitoring and Optimizing Apache Spark Workloads on Databricks

이 과정에서는 안전한 데이터 거버넌스, 액세스 제어 및 계보 추적을 위한 Unity Catalog에 중점을 두고 확장 가능한 데이터 워크플로를 위한 레이크하우스 아키텍처 및 메달리온 설계를 살펴봅니다. 커리큘럼에는 Delta Lake를 사용하여 신뢰할 수 있는 ACID 호환 파이프라인 구축이 포함됩니다. 파티셔닝, 캐싱, 쿼리 튜닝과 같은 Spark 최적화 기술을 살펴보고 실제 문제를 해결하기 위한 효율적인 데이터 엔지니어링 및 분석을 위한 성능 모니터링, 문제 해결 및 모범 사례를 배웁니다.

Languages Available: English | 日本語 | 한국어