주요 컨텐츠로 이동

Build Data Pipelines with Apache Spark Declarative Pipelines - Korean

이 과정에서는 여러 스트리밍 테이블과 구체화된 보기를 통한 증분 배치 또는 스트리밍 수집 및 처리를 위해 Databricks의 Lakeflow 선언적 파이프라인를 사용하여 데이터 파이프라인을 구축하는 데 필요한 필수 개념과 기술을 사용자에게 소개합니다. Lakeflow 선언적 파이프라인를 처음 접하는 데이터 엔지니어를 위해 설계된 이 과정은 증분 데이터 처리, 스트리밍 테이블, 구체화된 보기 및 임시 보기와 같은 핵심 구성 요소에 대한 포괄적인 개요를 제공하고 구체적인 목적과 차이점을 강조합니다.


다루는 주제는 다음과 같습니다.


- SQL을 사용하여 Lakeflow의 다중 파일 편집기로 ETL 파이프라인 개발 및 디버깅 (Python 코드 예제 제공)


- Lakeflow 선언적 파이프라인이 파이프라인 그래프


를 통해 파이프라인의 데이터 종속성을 추적하는 방법- 파이프라인 컴퓨팅 리소스, 데이터 자산, 트리거 모드 및 기타 고급 옵션


 구성 다음으로, 이 과정에서는 Lakeflow의 데이터 품질 기대치를 소개하고, 데이터 무결성을 검증하고 적용하기 위해 기대치를 파이프라인에 통합하는 프로세스를 안내합니다. 그런 다음 학습자는 스케줄링 옵션, 프로덕션 모드, 파이프라인 이벤트 로깅을 활성화하여 파이프라인 성능 및 상태를 모니터링하는 등 파이프라인을 프로덕션에 적용하는 방법을 살펴봅니다.


마지막으로, 이 과정에서는 Lakeflow Declarative Pipelines 내에서 APPLY CHANGES INTO 구문을 사용하여 Change Data Capture  (CDC)를 구현하여 느리게 변화하는 차원(SCD 유형 1 및 유형 2)을 관리하여 사용자가 CDC를 자신의 파이프라인에 통합할 수 있도록 준비하는 방법을 다룹니다.

참고: 이 과정은 'Databricks을 사용한 데이터 엔지니어링' 과정 시리즈의 일부입니다.


Languages Available: English | 日本語 | Português BR | 한국어

Skill Level
Associate
Duration
4h
Prerequisites
  • - Databricks Workspaces, Apache Spark, Delta Lake, the Medallion Architecture 및 Unity Catalog를 포함한 Databricks Data Intelligence Platform에 대한 기본적인 이해.

- SQL 함수를 사용하여 read_files CSV, JSON, TXT 및 Parquet와 같은 형식을 로드하는 것을 포함하여 가공되지 않은 데이터를 Delta 테이블로 수집해 본 경험이 있습니다.

- 중간 수준 쿼리 작성을 포함하여 SQL을 사용하여 데이터를 변환하는 능숙함 및 SQL 조인에 대한 기본적인 이해

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Runtime

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

지금 등록하세요

Instructors

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

지금 등록하세요

Learning

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Scale

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Data Engineer

Databricks Data Privacy - Korean

Databricks 데이터 프라이버시는 데이터 엔지니어가 Databricks Data Intelligence Platform에서 개인 데이터를 찾고, 보호하고, 삭제하고, 책임 있게 관리하는 방법을 가르칩니다. 프라이버시를 Unity Catalog와 Delta Lake 위에 구축된 기술적 결정과 컨트롤의 집합으로 다룹니다. 이 과정은 프라이버시를 보안, 거버넌스, 컴플라이언스와 구분한 뒤, 식별·보호·관리·검증 생명주기와 학습자가 모든 기법에 적용하는 짧은 의사결정 모델을 중심으로 작업을 구성합니다.

학습자는 먼저 Data Classification으로 민감 컬럼을 찾고, 거버넌스 태그로 각 컬럼의 처리 방식을 기록합니다. 태그 기반 속성 기반 액세스 제어(ABAC) 정책으로 해당 컬럼을 보호하고, 중앙 정책이 맞지 않으면 수동 컬럼 마스크와 행 필터를 사용합니다. 비식별화는 솔트 해싱, 별도로 거버넌스되는 볼트를 통한 토큰화, 컬럼 암호화로 더 나아가며, 솔트와 키는 Databricks Secrets에 보관합니다. 삭제권의 경우 요청을 추적하고, 분류와 리니지로 대상자의 데이터를 찾고, DELETE와 MERGE로 삭제 및 변경을 전파한 다음, REORG TABLE ... APPLY (PURGE)와 보존 기간을 고려한 VACUUM으로 기본 파일을 퍼지합니다. 과정은 리니지, 감사 로그, 쿼리 이력, Delta 테이블 이력을 결합하여 각 컨트롤이 작동했는지 보여주는 증거 추적으로 마무리됩니다.

모든 데이터는 합성 데이터입니다. 데모는 한 다국적 소매업체의 데이터 자산을 생명주기를 따라가며, 마스킹된 쿼리 결과, 빈 삭제 확인, 테이블 이력 항목처럼 컨트롤이 작동했다는 증거로 각 단계를 끝냅니다. 시나리오 기반 실습 두 개가 워크플로를 강화합니다. 첫 번째에서는 자회사 고객 테이블의 깨진 보호를 복구합니다. 두 번째에서는 반쯤 완료된 삭제 요청을 마무리하고 완료 증거를 구성합니다. 이 과정은 기술 과정이며 법률 자문을 제공하지 않습니다.

참고:

1. 이 강좌는 '데이터브릭을 사용한 고급 데이터 엔지니어링' 시리즈의 두 번째 강좌입니다.

2. SCORM 강의 파일을 이용할 때는 콘텐츠를 모두 학습한 후 SCORM 창을 닫으시기 바랍니다. ‘다음 강의’ 버튼을 클릭하지 마십시오. 클릭할 경우 SCORM 모듈이 완료로 표시되지 않을 수 있습니다.

Languages Available: Languages Available: English | 日本語 | Português BR  | 한국어

Free
2h
Professional

Questions?

If you have any questions, please refer to our Frequently Asked Questions page.