Advanced Data Engineering with Databricks - Korean
이 과정은 고급 데이터 엔지니어링 with Databricks를 배우기 위한 적절한 입문 과정입니다.
아래에서는 이 과정에 포함된 4개의 4시간짜리 모듈에 대해 각각 설명합니다.
참고: Databricks Academy는 Databricks 환경 내 강의 세션을 노트북 기반 형식으로 전환하며, 첫 모듈 강의에서 슬라이드 데크 사용을 중단합니다. 강의 노트북은 Vocareum 랩 환경에서 확인할 수 있습니다.
Advanced Techniques with Apache Spark Declarative Pipelines
이 과정에서는 생산 수준의 스트리밍 파이프라인을 구축하기 위한 Databricks의 Apache Spark Declarative Pipelines(SDP)를 살펴봅니다. 실제 레이크하우스 엔지니어링에 필수적인 고급 설계 패턴, 강력한 데이터 품질 적용, 그리고 크로스 플랫폼 통합에 대해 학습합니다.
과정 전반에 걸쳐 현대적인 데이터 수집 및 처리 기법을 심층적으로 다루며, 레이아웃 최적화를 위한 Liquid 클러스터링과 혼합 스키마 이벤트를 위한 멀티플렉스 스트리밍 패턴 등의 도구를 숙달합니다. 모듈을 마치면 스키마 진화를 자신 있게 처리하고, 변경 데이터 캡처(CDC)를 자동화하며, 데이터 무결성을 보장하는 방법을 습득하게 됩니다.
강의와 실습 데모를 통해 다음을 수행합니다:
• 다중 소스 데이터를 단일 브론즈 테이블로 수집하는 멀티 플로우 파이프라인을 구축합니다.
• 실버 및 골드 레이어 전반에 걸쳐 Liquid 클러스터링과 데이터 품질 Expectations를 적용합니다.
• 크로스 플랫폼 데이터 접근을 위해 Iceberg UniForm과 함께 멀티플렉스 패턴을 구현합니다.
• AUTO CDC INTO를 사용하여 SCD Type 2 이력 추적을 자동화합니다.
• 잘못된 레코드를 감사하고 관리하기 위한 데이터 무손실 격리 파이프라인을 설계합니다.
Databricks Data Privacy
이 콘텐츠는 Databricks 내에서 데이터 프라이버시를 관리하는 포괄적인 가이드를 제공합니다. 델타 레이크 아키텍처, 지역별 데이터 격리, GDPR/CCPA 준수, 변경 데이터 피드(CDF) 사용법 등 핵심 주제를 다룹니다. 실습 데모와 핸즈온 랩을 통해 참가자는 민감한 데이터를 보호하고 규정 준수를 보장하기 위한 Unity catalog 기능을 활용하는 방법을 배우며, 데이터 무결성을 효과적으로 보호할 수 있는 역량을 강화합니다.
Databricks Performance Optimization
이 과정에서는 Spark와 Delta Lake를 활용해 워크로드와 물리적 레이아웃을 최적화하는 방법을 배우고, Spark UI를 분석하여 성능을 평가하고 애플리케이션을 디버깅하는 방법을 익히게 됩니다. 스트리밍, 유동적 클러스터링, 데이터 스키핑, 캐싱, 포토네이션 등 다양한 주제를 다룰 예정입니다.
Automated Deployment with Declarative Automation Bundles
이 과정은 DevOps 원칙과 Databricks 프로젝트에 대한 적용을 종합적으로 다룹니다. 핵심 DevOps, DataOps, 지속적 통합(CI), 지속적 배포(CD) 및 테스트에 대한 개요로 시작하며, 이러한 원칙을 데이터 엔지니어링 파이프라인에 적용하는 방법을 살펴봅니다.
이어서 CI/CD 프로세스 내의 지속적 배포에 초점을 맞추어, 프로젝트 배포를 위한 Databricks REST API, SDK, CLI와 같은 도구를 살펴봅니다. Declarative Automation Bundles(DABs)와 이것이 CI/CD 프로세스에서 어떤 역할을 하는지 학습합니다. 주요 구성 요소, 폴더 구조, 그리고 Databricks의 다양한 대상 환경에 걸쳐 배포를 간소화하는 방법을 심층적으로 살펴봅니다. 또한 Databricks CLI를 사용하여 서로 다른 구성을 가진 여러 환경에 대해 Declarative Automation Bundles에 변수를 추가하고, 수정, 검증, 배포 및 실행하는 방법도 학습합니다.
마지막으로, 이 과정에서는 Declarative Automation Bundles를 로컬에서 빌드, 테스트 및 배포하기 위한 대화형 개발 환경(IDE)으로 Visual Studio Code를 소개하며, 개발 프로세스를 최적화합니다. 과정의 마무리로 GitHub Actions를 사용하여 배포 파이프라인을 자동화함으로써 Declarative Automation Bundles를 활용한 CI/CD 워크플로를 강화하는 방법을 소개합니다.
이 과정을 마치면 DevOps 방식을 통해 효율성을 높이면서 Declarative Automation Bundles를 활용하여 Databricks 프로젝트 배포를 자동화할 수 있는 역량을 갖추게 됩니다.
Languages Available: English | 日本語 | Português BR | 한국어
• Spark Declarative Pipelines — “Apache Spark Declarative Pipelines 을 활용한 데이터 파이프라인 구축” 과정 수료, 또는 CREATE OR REFRESH STREAMING TABLE, 제약 조건(CONSTRAINTS), 파이프라인 UI에 대한 이해
• Delta Lake 기초 — Delta 테이블 및 Delta가 데이터 파일과 트랜잭션 로그를 관리하는 방식에 대한 이해
• 스트리밍 개념 — SDP에서의 마이크로 배치 스트리밍, 체크포인트링 및 이벤트 타임 처리에 대한 지식
• SQL 숙련도 — SELECT, JOIN, MERGE, CASE WHEN 및 일반적인 집계 함수를 포함한 SQL 읽기 및 작성 능력
• Databricks 노트북에서의 Python — Databricks 노트북에서 Python 코드를 읽고 실행하는 데 익숙함
• Unity Catalog 기초 — Unity Catalog의 카탈로그, 스키마, 테이블 및 볼륨에 대한 이해
• Databricks 데이터 엔지니어링 및 데이터 사이언스 워크스페이스를 사용하여 기본적인 코드 개발 작업 수행 능력(클러스터 생성, 노트북에서 코드 실행, 기본적인 노트북 작업 사용, Git에서 리포지토리 가져오기 등)
• PySpark에 대한 중급 수준의 프로그래밍 경험
• 다양한 파일 형식 및 데이터 소스에서 데이터 추출
• 데이터 정제를 위한 여러 가지 일반적인 변환 적용
• 고급 내장 함수를 사용하여 복잡한 데이터 재구성 및 조작
• Delta Lake에 대한 중급 수준의 프로그래밍 경험(테이블 생성, 전체 및 증분 업데이트 수행, 파일 압축, 이전 버전 복원 등)
• Apache Spark Declarative Pipelines UI를 사용하여 데이터 파이프라인을 구성하고 스케줄링하는 초급 수준의 경험
• PySpark를 사용하여 Apache Spark Declarative Pipelines을 정의하는 초급 수준의 경험
• Auto Loader 및 PySpark 구문을 사용하여 데이터를 수집하고 처리
• APPLY CHANGES INTO 구문을 사용하여 변경 데이터 캡처(CDC) 피드를 처리
• 파이프라인 이벤트 로그 및 결과를 검토하여 Declarative Pipeline 구문 관련 문제를 해결
• Databricks Workspaces, Apache Spark, Delta Lake, Medallion 아키텍처, Unity Catalog, Apache Declarative Pipelines 및 워크플로우에 대한 경험을 포함하여 Databricks platform에 대한 깊은 이해. 특히, Apache 선언형 파이프라인에서 Expectations 활용에 대한 지식.
• 데이터 수집 및 변환 경험과 데이터 처리 및 DataFrame 조작을 위한 PySpark 숙련도. 지원자는 데이터 분석 및 변환을 위한 중급 수준의 SQL 쿼리 작성 경험도 있어야 합니다.
• 함수 및 클래스 설계 및 구현 능력을 포함한 Python 프로그래밍 숙련도, 그리고 Python 패키지 생성, 임포트 및 활용 경험.
• DevOps 관행, 특히 continuous integration (CI) 및 continuous delivery/deployment (CD) 원칙에 대한 이해.
• Git 버전 관리에 대한 기본적인 이해.
• 필수 수강 과정: 데이터 엔지니어링을 위한 DevOps 필수 과정
Outline
Advanced Techniques with Apache Spark Declarative Pipelines
• SDP의 Multi Flow, Expectation 및 Liquid 클러스터링 소개
• 데모: Liquid 클러스터링 및 데이터 품질을 활용한 멀티 플로우 SDP
• 멀티플렉스 스트리밍, Delta 싱크 및 Iceberg 읽기 소개
• 데모: Delta Sink 및 Iceberg 읽기를 활용한 멀티플렉스 스트리밍 SDP
• 변경 데이터 캡처(CDC) 검토
• 데모: Apache Spark Declarative Pipelines에서 AUTO CDC를 활용한 SCD Type 2 자동화
• SDP의 고급 데이터 품질 검사 및 기대치
• 데모: SDP의 고급 데이터 품질 검사 및 기대값
• 실습: SDP를 활용한 멀티 소스 전자상거래 파이프라인 구축
Databricks Data Privacy
• 데이터 저장 안전하게
• Unity Catalog
• PII 데이터 보안
• 스트리밍 데이터 그리고 CDF
Databricks Performance Optimization
• Spark 아키텍처
• 기반 설계
• 코드 최적화
• 미세 튜닝: 올바른 클러스터 선택
Automated Deployment with Declarative Automation Bundles
• DevOps 및 CI/CD 검토
• 데모: 과정 설정 및 인증
• Databricks Projects 배포
• 선언적 자동화 번들(DABs) 소개
• 데모: 간단한 DAB 배포
• 실습: 간단한 DAB 배포
• DABs의 변수 대체
• 데모: 여러 환경에 DAB 배포하기
• 실습: 여러 환경에 DAB 배포
• DAB 프로젝트 템플릿 개요
• 실습: Databricks Default DAB 템플릿 사용
• CI/CD 프로젝트 개요 (DABs 활용)
• 데모: DABs를 활용한 지속적 통합 및 지속적 배포
• 실습: DABs를 활용한 Engineering Workflows에 ML 통합
• Visual Studio Code(VSCode)를 사용한 로컬 개발
• 데모: VSCode와 Databricks 함께 사용하기
• CI/CD 모범 사례 및 GitHub Actions를 활용한 다음 단계
Public Class Registration
If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.
Private Class Request
If your company is interested in private training, please submit a request.
Registration options
Databricks has a delivery method for wherever you are on your learning journey
Self-Paced
Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos
지금 등록하세요
Instructor-Led
Public and private courses taught by expert instructors across half-day to two-day courses
지금 등록하세요
Blended Learning
Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase
Purchase now
Skills@Scale
Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details
