주요 컨텐츠로 이동

Databricks Streaming and Lakeflow Spark Declarative Pipelines - Korean

이 과정은 Spark Structured Streaming과 Delta Lake에 대한 포괄적인 이해를 제공하며, 여기에는 계산 모델, 스트리밍 읽기 구성, 스트리밍 환경에서의 데이터 품질 유지 관리 등이 포함됩니다.

참고: 이 과정은 'Databricks을 사용한 고급 데이터 엔지니어링' 과정 시리즈의 일부입니다.


Languages Available: English | 日本語 | Português BR | 한국어

Skill Level
Professional
Duration
4h
Prerequisites

이 과정에서는 다음과 같은 기술/지식/능력을 가진 참가자들을 위해 내용이 개발되었습니다: 
• Databricks 데이터 엔지니어링 및 데이터 사이언스 워크스페이스를 사용하여 기본 코드 개발 태스크 수행 능력 (클러스터 생성, 노트북에서 코드 실행, 기본 노트북 작업 사용, git에서 저장소 가져오기 등)

• PySpark를 활용한 중급 프로그래밍 경험

• 다양한 파일 형식 및 데이터 소스에서 데이터 추출

• 데이터 정제를 위한 여러 일반적인 변환 적용

• 고급 내장 함수를 활용한 복잡한 데이터 재구성 및 조작

• Delta Lake를 활용한 중급 프로그래밍 경험(테이블 생성, 완전 및 증분 업데이트 수행, 파일 압축, 이전 버전 복원 등) 

• Lakeflow Spark 선언적 파이프라인 UI를 사용한 데이터 파이프라인 구성 및 스케줄링 초급 경험

• PySpark를 사용한 Lakeflow Spark Declarative Pipeline 정의 초급 경험

• Auto Loader 및 PySpark 구문을 사용한 데이터 수집 및 처리

• APPLY CHANGES INTO 구문을 사용한 변경 데이터 캡처(CDCU) 피드 처리

• Declarative Pipeline 구문 문제 해결을 위한 파이프라인 이벤트 로그 및 결과 검토 

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Runtime

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

지금 등록하세요

Instructors

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

지금 등록하세요

Learning

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Scale

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Get Started with Lakebase - Korean

이 입문 과정에서는 Databricks Data Intelligence Platform에 내장된 완전 관리형 PostgreSQL 서비스인 Databricks Lakebase를 소개하며, 이 서비스가 운영(OLTP) 및 분석(OLAP) 워크로드를 더욱 긴밀하게 통합하는 방식을 다룹니다.

이 과정은 OLTP와 OLAP 시스템을 비교하는 개념 강의를 시작으로, 두 시스템의 서로 다른 성능 특성, 스토리지 모델 및 일반적인 사용 사례를 설명합니다. 또한 데이터 이동, 지연 시간, 아키텍처의 복잡성 등 트랜잭션 데이터베이스와 분석 플랫폼을 별도로 유지 관리할 때 조직이 직면하는 과제들을 살펴볼 것입니다.

이어서 Databricks Lakebase가 Databricks Lakehouse와 직접 통합되는 PostgreSQL 호환 운영 데이터베이스를 제공함으로써, 운영 애플리케이션과 분석이 통합된 플랫폼 내에서 함께 작동하도록 지원하여 이러한 과제를 해결하는 방법을 배우게 됩니다.

이 과정은 입문 과정이므로, Lakebase를 활용하기 위한 핵심 개념과 기본 워크플로우를 이해하는 데 중점을 둡니다. Lakebase를 기반으로 완전한 프로덕션 애플리케이션을 구축하는 내용은 이 과정의 범위를 벗어납니다.

참고: SCORM 강의 파일을 이용할 때는 콘텐츠를 모두 학습한 후 SCORM 창을 닫으시기 바랍니다. ‘다음 강의’ 버튼을 클릭하지 마십시오. 클릭할 경우 SCORM 모듈이 완료로 표시되지 않을 수 있습니다.

Free
2h
Onboarding

Questions?

If you have any questions, please refer to our Frequently Asked Questions page.