주요 컨텐츠로 이동

Databricks Performance Optimization - Korean

이 과정에서는 Spark와 Delta Lake를 이용하여 작업 부하와 물리적 레이아웃을 최적화하는 방법과 Spark UI를 분석하여 성능을 평가하고 애플리케이션을 디버깅하는 방법을 알아봅니다. 스트리밍, liquid 클러스터링, 데이터 스키핑, 캐싱, photons 등의 주제를 다룹니다.

메모: 이 과정은 'Databrick을 사용한 고급 데이터 엔지니어링' 과정 시리즈의 일부입니다.


Languages Available: English | 日本語 | Português BR | 한국어

Skill Level
Professional
Duration
4h
Prerequisites

이 콘텐츠는 다음과 같은 기술/지식/능력을 갖춘 참가자를 위해 개발되었습니다.

  • Databricks를 사용하여 기본적인 코드 개발 작업(클러스터 생성, 노트북에서 코드 실행, 기본 노트북 작업 사용, git에서 리포지토리 가져오기 등)을 수행할 수 있습니다.

  • 중급 수준의 PySpark 프로그래밍 경험

    • 다양한 파일 형식 및 데이터 소스에서 데이터 추출

    • 정제된 데이터에 다수의 일반적인 변환 적용

    • 고급 내장 기능을 사용하여 복잡한 데이터의 구조 변경 및 조작

  • Delta Lake를 사용한 중급 프로그래밍 경험(테이블 생성, 전체 및 증분 업데이트 수행, 파일 압축, 이전 버전 복원 등)

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Runtime

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Register now

Instructors

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

Register now

Learning

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Scale

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Data Engineer

DevOps Essentials for Data Engineering - Korean

이 과정에서는 Databricks를 사용하여 작업하는 데이터 엔지니어를 위해 특별히 설계된 소프트웨어 엔지니어링 모범 사례와 DevOps 원칙을 살펴봅니다. 참가자는 코드 품질, 버전 제어, 문서화, 테스트와 같은 핵심 주제에 대한 강력한 기반을 구축하게 됩니다. 이 과정에서는 DevOps를 강조하여 핵심 구성 요소, 이점, 데이터 엔지니어링 워크플로 최적화에서 지속적인 통합 및 배포(CI/CD)의 역할에 대해 다룹니다.

PySpark에서 모듈성 원칙을 적용하여 재사용 가능한 구성 요소를 만들고 효율적으로 코드를 구성하는 방법을 학습합니다. 실습 경험에는 pytest 프레임워크를 사용하여 PySpark 함수에 대한 단위 테스트를 설계하고 구현하는 것과 DLT 및 Workflows를 사용하여 Databricks 데이터 파이프라인에 대한 통합 테스트를 수행하여 안정성을 보장하는 것이 포함됩니다.

또한 이 과정에서는 Databricks Git 폴더를 사용하여 지속적인 통합 관행을 통합하는 것을 포함하여 Databricks 내에서 필수적인 Git 작업도 다룹니다. 마지막으로 REST API, CLI, SDK, Databricks Asset Bundles(DAB) 등 Databricks 자산에 대한 다양한 배포 방법을 간략하게 살펴보고 파이프라인을 배포하고 관리하는 기술에 대한 지식을 얻습니다.

과정을 마치면 소프트웨어 엔지니어링과 DevOps 모범 사례에 능숙해져서 확장 가능하고 유지 관리가 가능하며 효율적인 데이터 엔지니어링 솔루션을 구축할 수 있게 됩니다.

Languages Available: English | 日本語 | Português BR | 한국어

Free
2h
Associate

Questions?

If you have any questions, please refer to our Frequently Asked Questions page.