Generative AI Fundamentals Accreditation - Korean

이 코스에서는 Databricks Data Intelligence Platform에서 기본적인 데이터 엔지니어링 워크플로를 수행하는 데 필요한 기초 기술을 소개합니다. 워크스페이스를 살펴보고, Unity Catalog를 사용하며, 데이터 엔지니어가 Databricks에서 일상적으로 활용하는 핵심 구성 요소를 학습합니다.

이 코스는 실습 중심으로 진행됩니다. 먼저 워크스페이스에 익숙해진 다음, 각 주제별로 데모와 랩 노트북을 짝지어 진행합니다. 데모에서는 강사 또는 가이드 노트북과 함께 개념을 살펴보고, 랩에서는 방금 학습한 내용을 직접 적용합니다.

다루는 내용은 다음과 같습니다.

• Databricks Data Intelligence Platform의 개요와 Databricks Workspace, Unity Catalog, 노트북이 어떻게 함께 작동하는지.

• Delta Lake 테이블의 생성 및 관리.

• INSERT, UPDATE, DELETE를 사용한 데이터 변경.

• Delta 테이블의 버전 기록 및 타임 트래블 살펴보기.

• Lakeflow Connect 옵션(CTAS, 업로드 UI, COPY INTO)을 사용한 데이터 수집.

• 브론즈, 실버, 골드 계층을 통해 데이터를 변환하는 메달리온 아키텍처 파이프라인 구축.

• Lakeflow Jobs를 사용한 파이프라인 자동화.

• (보너스) Spark Declarative Pipelines를 사용한 선언형 파이프라인 구축.

Languages Available: English | 日本語 | Português BR | 한국어

이 과정은 Databricks Data Intelligence Platform에서 순수 SQL을 사용해 운영 준비가 된 ETL 파이프라인을 구축하는 방법을 가르칩니다. 학생들은 점진적 적재를 위한 Auto Loader가 포함된 스트리밍 테이블, 실버에서 골드로 변환을 위한 점진적 리프레시가 있는 Materialized Views, 선언적 SCD 타입 1 및 타입 2 차원 관리를 위한 AUTO CDC(FLOW AUTO CDC), 그리고 운영 오케스트레이션을 위한 SQL 파일 작업이 포함된 Lakeflow Jobs를 배웁니다. 이 과정은 메달리온 아키텍처(브론즈 → 실버 → 골드)를 통해 현실적인 소매 데이터셋을 따라갑니다.

참고: SCORM 강의 파일을 이용할 때는 콘텐츠를 모두 학습한 후 SCORM 창을 닫으시기 바랍니다. ‘다음 강의’ 버튼을 클릭하지 마십시오. 클릭할 경우 SCORM 모듈이 완료로 표시되지 않을 수 있습니다.

이 입문 과정에서는 Databricks Data Intelligence Platform에 내장된 완전 관리형 PostgreSQL 서비스인 Databricks Lakebase를 소개하며, 이 서비스가 운영(OLTP) 및 분석(OLAP) 워크로드를 더욱 긴밀하게 통합하는 방식을 다룹니다.

이 과정은 OLTP와 OLAP 시스템을 비교하는 개념 강의를 시작으로, 두 시스템의 서로 다른 성능 특성, 스토리지 모델 및 일반적인 사용 사례를 설명합니다. 또한 데이터 이동, 지연 시간, 아키텍처의 복잡성 등 트랜잭션 데이터베이스와 분석 플랫폼을 별도로 유지 관리할 때 조직이 직면하는 과제들을 살펴볼 것입니다.

이어서 Databricks Lakebase가 Databricks Lakehouse와 직접 통합되는 PostgreSQL 호환 운영 데이터베이스를 제공함으로써, 운영 애플리케이션과 분석이 통합된 플랫폼 내에서 함께 작동하도록 지원하여 이러한 과제를 해결하는 방법을 배우게 됩니다.

이 과정은 입문 과정이므로, Lakebase를 활용하기 위한 핵심 개념과 기본 워크플로우를 이해하는 데 중점을 둡니다. Lakebase를 기반으로 완전한 프로덕션 애플리케이션을 구축하는 내용은 이 과정의 범위를 벗어납니다.

참고: Databricks Academy는 Databricks 환경 내의 대면 강의 형식을 노트북 기반 방식으로 전환함에 따라, 강의용 슬라이드 사용이 중단됩니다. Vocareum 랩 환경에서 강의용 노트북에 액세스할 수 있습니다.