주요 컨텐츠로 이동

Build Data Pipelines with Delta Live Tables - Korean

이 과정에서는 Spark SQL 및 Python에서 Delta Live Tables(DLT)를 사용하여 레이크하우스의 여러 테이블을 통해 데이터를 점진적으로 수집하고 처리하는 데이터 파이프라인을 정의하고 예약하는 방법을 알아봅니다. 이 과정에서는 DLT를 시작하는 방법, DLT가 데이터 파이프라인에서 데이터 종속성을 추적하는 방법, Delta Live Tables UI를 사용하여 데이터 파이프라인을 구성 및 실행하는 방법, Python 또는 Spark SQL을 사용하여 데이터를 수집하고 처리하는 데이터 파이프라인을 정의하는 방법을 다룹니다. Auto Loader 및 DLT를 사용하는 레이크하우스의 여러 테이블, APPLY CHANGES INTO 구문을 사용하여 변경 데이터 캡처(CDC) 피드를 처리하는 방법, 파이프라인에서 생성된 이벤트 로그 및 데이터 아티팩트를 검토하고 DLT 구문 문제를 해결하는 방법을 다룹니다.


Languages Available: English日本語 | Português BR | 한국어

Skill Level
Associate
Duration
4h
Prerequisites
  • 기본 클라우드 개념(가상 머신, 개체 스토리지, ID 관리)에 대한 초보자 수준의 친숙함
  • 기본 코드 개발 작업 수행 능력(컴퓨팅 생성, 노트북에서 코드 실행, 기본 노트북 작업 사용, git에서 저장소 가져오기 등)
  • 기본 SQL 개념(CREATE, SELECT, INSERT, UPDATE, DELETE, WHILE, GROUP BY, JOIN 등)에 대한 중급 지식

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Runtime

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Register now

Instructors

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

Register now

Learning

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Scale

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Data Engineer

Advanced Data Engineering with Databricks - Korean

이 과정은 고급 데이터 엔지니어링 with Databricks를 배우기 위한 적절한 입문 과정입니다. 

아래에서는 이 과정에 포함된 4개의 4시간짜리 모듈에 대해 각각 설명합니다.

Databricks Streaming and Delta Live Tables

Databricks 스트리밍 및 Delta Live Tables(SDLT) 과정은 학생들이 Databricks Certified Professional Data Engineer 인증 시험에 대비하도록 설계되었습니다. 이 과정의 콘텐츠는 데이터 엔지니어 학습 경로의 전문가 수준 모듈로 구성되어 있으며 강사가 진행하는 교육(ILT)으로 제공될 수 있습니다.

Databricks Data Privacy

이 콘텐츠는 Databricks 내에서 데이터 개인 정보를 관리하는 방법에 대한 포괄적인 가이드를 제공합니다. 여기에는 Delta Lake 아키텍처, 지역 데이터 격리, GDPR/CCPA 준수, Change Data Feed (CDF) 사용과 같은 주요 주제가 포함됩니다. 실습 데모와 실습 랩을 통해 참가자는 Unity Catalog 기능을 사용하여 민감한 데이터를 보호하고 규정 준수를 보장하는 방법을 배우고, 데이터 무결성을 효과적으로 보호할 수 있는 역량을 강화합니다.

Databricks Performance Optimization

이 과정에서는 Spark와 Delta Lake를 이용하여 워크로드와 물리적 레이아웃을 최적화하는 방법과 Spark UI를 분석하여 성능을 평가하고 애플리케이션을 디버깅하는 방법을 알아봅니다. 스트리밍, liquid 클러스터링, 데이터 스키핑, 캐싱, photon 등의 주제를 다룹니다.

Automated Deployment with Databricks Asset Bundles

이 과정에서는 DevOps 원칙과 이를 Databricks 프로젝트에 적용하는 방법을 포괄적으로 살펴봅니다. 이 과정은 핵심 DevOps, DataOps, continuous integration (CI), continuous deployment (CD) 및 테스트에 대한 개요부터 시작하여 이러한 원칙을 데이터 엔지니어링 파이프라인에 어떻게 적용할 수 있는지 알아봅니다.

그런 다음 이 과정은 CI/CD 프로세스 내에서 지속적 배포에 초점을 맞추고 프로젝트 배포를 위한 Databricks REST API, SDK, CLI와 같은 도구를 살펴봅니다. Databricks Asset Bundles (DAB)에 대해 알아보고 이것이 CI/CD 프로세스에 어떻게 적용되는지 알아보겠습니다. Databricks Asset Bundles의 핵심 구성 요소, 폴더 구조 및 이를 통해 다양한 대상 환경에서 배포를 간소화하는 방법에 대해 자세히 알아보겠습니다. 또한 Databricks CLI를 사용하여 다양한 구성의 여러 환경에서 Databricks Asset Bundles를 변수 추가, 수정, 검증, 배포 및 실행하는 방법도 알아봅니다.

마지막으로, 이 과정에서는 Databricks Asset Bundles를 로컬에서 빌드, 테스트 및 배포하여 개발 프로세스를 최적화하기 위한 대화형 개발 환경(IDE)인 Visual Studio Code를 소개합니다. 이 과정은 Databricks Asset Bundles를 사용하여 CI/CD 워크플로를 개선하기 위해 GitHub Actions를 사용하여 배포 파이프라인을 자동화하는 방법을 소개하면서 마무리됩니다.

이 과정을 마치면 Databricks Asset Bundles를 사용하여 Databricks 프로젝트 배포를 자동화하고 DevOps 방식을 통해 효율성을 개선할 수 있습니다.

Languages Available: English | 日本語 | Português BR | 한국어

Languages Available: English | 日本語 | Português BR | 한국어

Paid
16h
Lab
instructor-led
Professional
Data Engineer

Automated Deployment with Databricks Asset Bundles - Korean

이 과정에서는 DevOps 원칙과 이를 Databricks 프로젝트에 적용하는 방법을 포괄적으로 살펴봅니다. 이 과정은 핵심 DevOps, DataOps, continuous integration (CI), continuous deployment (CD) 및 테스트에 대한 개요부터 시작하여 이러한 원칙을 데이터 엔지니어링 파이프라인에 어떻게 적용할 수 있는지 알아봅니다.

그런 다음 이 과정은 CI/CD 프로세스 내에서 지속적 배포에 초점을 맞추고 프로젝트 배포를 위한 Databricks REST API, SDK, CLI와 같은 도구를 살펴봅니다. Databricks Asset Bundles (DAB)에 대해 알아보고 이것이 CI/CD 프로세스에 어떻게 적용되는지 알아보겠습니다. Databricks Asset Bundles의 핵심 구성 요소, 폴더 구조 및 이를 통해 다양한 대상 환경에서 배포를 간소화하는 방법에 대해 자세히 알아보겠습니다. 또한 Databricks CLI를 사용하여 다양한 구성의 여러 환경에서 Databricks Asset Bundles를 변수 추가, 수정, 검증, 배포 및 실행하는 방법도 알아봅니다.

마지막으로, 이 과정에서는 Databricks Asset Bundles를 로컬에서 빌드, 테스트 및 배포하여 개발 프로세스를 최적화하기 위한 대화형 개발 환경(IDE)인 Visual Studio Code를 소개합니다. 이 과정은 Databricks Asset Bundles를 사용하여 CI/CD 워크플로를 개선하기 위해 GitHub Actions를 사용하여 배포 파이프라인을 자동화하는 방법을 소개하면서 마무리됩니다.

이 과정을 마치면 Databricks Asset Bundles를 사용하여 Databricks 프로젝트 배포를 자동화하고 DevOps 방식을 통해 효율성을 개선할 수 있습니다.

Languages Available: English | 日本語 | Português BR | 한국어

Paid
4h
Lab
Professional

Questions?

If you have any questions, please refer to our Frequently Asked Questions page.