Developing Applications with Apache Spark™ - Korean

이 실습 과정에서 Apache Spark로 확장 가능한 데이터 처리를 마스터하세요. Spark의 DataFrame API를 사용하여 효율적인 ETL 파이프라인을 구축하고, 고급 분석을 수행하며, 분산 데이터 변환을 최적화하는 방법을 알아보세요. 그룹화, 집계, 조인, 집합 연산 및 창 함수를 살펴봅니다. 배열, 맵, 구조체와 같은 복잡한 데이터 유형으로 작업하면서 성능 최적화를 위한 모범 사례를 적용하세요.

Skill Level

Associate

Duration

Prerequisites

- 기본 프로그래밍 지식

- Python 기본 이해

- SQL 쿼리(SELECT, JOIN, GROUP BY)

에 대한 기본 이해 - 데이터 처리 개념

에 대한 지식 - "Apache Spark 입문 과정" 또는 이전 Databricks 경험 필요

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Customer registration Partner registration

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Data Engineer

Get Started with Databricks for Data Engineering - Korean

이 과정에서는 Databricks Data Intelligence Platform를 사용하여 간단한 데이터 엔지니어링 워크플로를 수행하고 데이터 웨어하우징 노력을 지원할 수 있는 기본 기술을 배웁니다. 워크스페이스을 둘러보고 카탈로그, 스키마, 볼륨, 테이블, 컴퓨팅 클러스터 및 Notebooks와 같은 Databricks의 개체로 작업하는 방법을 보여줍니다. 그런 다음 기본 데이터 엔지니어링 워크플로에 따라 테이블 생성 및 작업, Delta Lake로 데이터 수집, 메달리온 아키텍처를 통한 데이터 변환, Databricks Workflows를 사용하여 데이터 엔지니어링 작업 오케스트레이션과 같은 작업을 수행합니다. 또한 Databricks가 Databricks SQL, Lakeflow 선언적 파이프라인 및 Unity Catalog를 사용하여 데이터 웨어하우징 요구 사항을 지원하는 방법도 알아봅니다.

Databricks Labs 구독을 구매하면 이 과정은 라이브 Databricks 워크스페이스 환경에서 배운 내용을 연습할 수 있는 포괄적인 실습 연습으로 마무리됩니다.

Languages Available: English | 日本語 | Português BR | 한국어

Free

Onboarding

Data Engineer

Build Data Pipelines with Lakeflow Declarative Pipelines - Korean

이 과정에서는 여러 스트리밍 테이블과 구체화된 보기를 통한 증분 배치 또는 스트리밍 수집 및 처리를 위해 Databricks의 Lakeflow 선언적 파이프라인를 사용하여 데이터 파이프라인을 구축하는 데 필요한 필수 개념과 기술을 사용자에게 소개합니다. Lakeflow 선언적 파이프라인를 처음 접하는 데이터 엔지니어를 위해 설계된 이 과정은 증분 데이터 처리, 스트리밍 테이블, 구체화된 보기 및 임시 보기와 같은 핵심 구성 요소에 대한 포괄적인 개요를 제공하고 구체적인 목적과 차이점을 강조합니다.

다루는 주제는 다음과 같습니다.

- SQL을 사용하여 Lakeflow의 다중 파일 편집기로 ETL 파이프라인 개발 및 디버깅 (Python 코드 예제 제공)

- Lakeflow 선언적 파이프라인이 파이프라인 그래프

를 통해 파이프라인의 데이터 종속성을 추적하는 방법- 파이프라인 컴퓨팅 리소스, 데이터 자산, 트리거 모드 및 기타 고급 옵션

구성 다음으로, 이 과정에서는 Lakeflow의 데이터 품질 기대치를 소개하고, 데이터 무결성을 검증하고 적용하기 위해 기대치를 파이프라인에 통합하는 프로세스를 안내합니다. 그런 다음 학습자는 스케줄링 옵션, 프로덕션 모드, 파이프라인 이벤트 로깅을 활성화하여 파이프라인 성능 및 상태를 모니터링하는 등 파이프라인을 프로덕션에 적용하는 방법을 살펴봅니다.

마지막으로, 이 과정에서는 Lakeflow Declarative Pipelines 내에서 APPLY CHANGES INTO 구문을 사용하여 Change Data Capture (CDC)를 구현하여 느리게 변화하는 차원(SCD 유형 1 및 유형 2)을 관리하여 사용자가 CDC를 자신의 파이프라인에 통합할 수 있도록 준비하는 방법을 다룹니다.

참고: 이 과정은 'Databricks을 사용한 데이터 엔지니어링' 과정 시리즈의 일부입니다.

Languages Available: English | 日本語 | Português BR | 한국어

Free

Associate

Data Engineer