Automated Deployment with Declarative Automation Bundles - Korean

이 과정은 DevOps 원칙과 이를 Databricks 프로젝트에 적용하는 방법에 대한 포괄적인 개요를 제공합니다. 먼저 핵심 DevOps, DataOps, continuous integration (CI), continuous deployment (CD), 테스트에 대한 개요를 다룬 후, 이러한 원칙을 데이터 엔지니어링 파이프라인에 어떻게 적용할 수 있는지 살펴봅니다.

이어서 이 과정은 CI/CD 프로세스 내의 지속적 배포에 중점을 두고, 프로젝트 배포를 위한 Databricks REST API, SDK, CLI와 같은 도구를 살펴봅니다. 선언형 자동화 번들(DAB)과 이것이 CI/CD 프로세스에 어떻게 통합되는지 배우게 됩니다. DAB의 주요 구성 요소와 폴더 구조를 심층적으로 살펴보고, Databricks의 다양한 대상 환경에서 배포를 어떻게 간소화하는지 알아봅니다. 또한 Databricks CLI를 사용하여 서로 다른 구성을 가진 여러 환경에 대해 선언형 자동화 번들에 변수를 추가하고, 수정하고, 검증하고, 배포하고, 실행하는 방법을 배우게 됩니다.

마지막으로, 이 과정에서는 선언형 자동화 번들을 로컬에서 빌드, 테스트 및 배포하고 개발 프로세스를 최적화하기 위한 대화형 개발 환경(IDE)으로 Visual Studio Code를 소개합니다. 과정의 마지막 부분에서는 GitHub Actions를 사용하여 배포 파이프라인을 자동화함으로써 선언형 자동화 번들과 함께 CI/CD 워크플로를 강화하는 방법을 다룹니다.

이 과정을 마치면 Databricks 프로젝트 배포를 Declarative Automation Bundles로 자동화하여 DevOps 관행을 통해 효율성을 높일 수 있는 역량을 갖추게 됩니다.

Languages Available: English | 日本語 | Português BR | 한국어

Skill Level

Professional

Duration

Prerequisites

이 과정에서는 다음과 같은 기술/지식/능력을 가진 참가자들을 위해 내용이 개발되었습니다:

• Databricks Workspaces, Apache Spark, Delta Lake, Medallion 아키텍처, Unity Catalog, Lakeflow Spark Declarative Pipelines(SDP), Lakeflow Jobs 등을 포함한 Databricks 플랫폼에 대한 깊은 이해와 실무 경험. 특히 SDP에서 Expectations를 활용하는 방법에 대한 지식이 필요합니다.

• 데이터 수집 및 변환 경험과 함께, 데이터 처리 및 DataFrame 조작을 위한 PySpark 활용 능력이 우수해야 합니다. 또한 데이터 분석 및 변환을 위한 중급 수준의 SQL 쿼리 작성 경험이 있어야 합니다.

• 함수 및 클래스 설계 및 구현 능력을 포함한 Python 프로그래밍 숙련도, 그리고 Python 패키지 생성, 임포트 및 활용 경험이 필요합니다.

• DevOps 관행, 특히 continuous integration(CI) 및 continuous delivery/deployment(CD) 원칙에 대한 이해가 필요합니다.

• Git 버전 관리에 대한 기본적인 이해가 필요합니다.

• 필수 수강 과정: 데이터 엔지니어링을 위한 DevOps 필수 과정.

Outline

DevOps 및 CI/CD 복습

• DevOps 복습

• Continuous Integration 및 Continuous Deployment/Delivery (CI/CD) 복습

• 코스 설정 및 인증

Declarative Automation Bundles (DAB)을 사용한 배포

• Databricks 프로젝트 배포

• Declarative Automation Bundles (DAB) 소개

• 간단한 DAB 배포

• DAB 내 변수 대체

• 여러 환경으로 DAB 배포

• DAB 프로젝트 템플릿 개요

• Databricks 기본 DAB 템플릿 사용

• DAB를 활용한 CI/CD 프로젝트 개요

• DAB를 활용한 Continuous Integration 및 Continuous Deployment

• DAB를 활용한 엔지니어링 워크플로우에 ML 추가

Databricks 자산 번들을 활용한 확장 기능

• Visual Studio Code(VSCode)를 사용한 로컬 개발

• Databricks와 VSCode 함께 사용하기

• 데이터 엔지니어링을 위한 CI/CD 모범 사례

• 다음 단계: GitHub Actions를 활용한 자동 배포

Public Class Registration

If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.

Customer registration Partner registration

Private Class Request

If your company is interested in private training, please submit a request.

Request Private Training

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

지금 등록하세요

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

지금 등록하세요

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Apache Spark Developer

Stream Processing and Analysis with Apache Spark™ - Korean

이 과정에서 Apache Spark를 사용하여 스트림 처리 및 분석의 기본 사항을 알아보세요.™ 스트림 처리 기본 사항에 대한 확실한 이해를 얻고 Spark Structured Streaming API를 사용하여 애플리케이션을 개발합니다. 스트림 집계 및 창 분석과 같은 고급 기술을 탐색하여 실시간 데이터를 효율적으로 처리하세요. 이 과정에서는 동적 데이터 환경을 위한 확장 가능하고 장애에 강한 스트리밍 애플리케이션을 만드는 기술을 습득합니다.

Languages Available: English | 日本語 |한국어

Data Ingestion with Lakeflow Connect - Korean

이 과정에서는 다양한 소스에서 Databricks로 데이터를 수집하기 위한 확장 가능하고 간소화된 솔루션인 Lakeflow Connect에 대한 포괄적인 소개를 제공합니다. 먼저 다양한 유형의 Lakeflow Connect 커넥터(표준 및 관리형)를 탐색하고 배치, 증분 배치 및 스트리밍 수집을 포함한 다양한 데이터 수집 기술을 알아봅니다. 또한 Delta 테이블 및 Medallion 아키텍처를 사용할 때의 주요 이점도 검토합니다.

다음으로, Lakeflow Connect 표준 커넥터를 사용하여 클라우드 객체 스토리지에서 데이터를 수집하기 위한 실용적인 기술을 개발합니다. 여기에는 CREATE TABLE AS SELECT(CTAS), COPY INTO 및 Auto Loader와 같은 방법을 사용하는 작업이 포함되며 각 방법의 이점과 고려 사항에 중점을 둡니다. 또한 Databricks Data Intelligence Platform로 수집하는 동안 브론즈 수준 테이블에 메타데이터 열을 추가하는 방법도 알아봅니다. 그런 다음 이 과정에서는 복구된 데이터 열을 사용하여 테이블 스키마와 일치하지 않는 레코드를 처리하는 방법과 이 데이터를 관리하고 분석하기 위한 전략을 다룹니다. 또한 반정형 JSON 데이터를 수집하고 평면화하는 기술을 살펴봅니다.

그런 다음 Lakeflow Connect 관리형 커넥터를 사용하여 엔터프라이즈급 데이터 수집을 수행하여 데이터베이스 및 SaaS(Software-as-a-Service) 애플리케이션에서 데이터를 가져오는 방법을 살펴봅니다. 또한 이 과정에서는 파트너 도구를 수집 워크플로우에 통합하기 위한 옵션으로 Partner Connect를 소개합니다.

마지막으로, 이 과정은 MERGE INTO 작업 및 Databricks Marketplace 활용을 포함한 대체 수집 전략으로 마무리하여 최신 데이터 엔지니어링 사용 사례를 지원할 수 있는 강력한 기반을 제공합니다.

Languages Available: English | 日本語 | Português BR | 한국어

SQL Analytics on Databricks - Korean

이 과정에서는 Databricks SQL에 특히 초점을 맞춰 Databricks를 사용하여 데이터 분석을 효과적으로 수행하는 방법을 학습합니다. Databricks 데이터 애널리스트로서 귀하의 책임에는 관련 데이터를 찾고, 잠재적인 응용 프로그램을 위해 데이터를 분석하고, 귀중한 비즈니스 통찰력을 제공하는 형식으로 데이터를 변환하는 것이 포함됩니다.

또한 Databricks Data Intelligence Platform에서 Notebooks, SQL Editor, Databricks SQL과 같은 도구를 사용하여 데이터 객체를 관리하는 역할과 이를 조작하는 방법을 이해하게 됩니다.

또한, 데이터 자산과 전반적인 플랫폼을 관리하는 데 있어 Unity Catalog의 중요성에 대해서도 알아봅니다. 마지막으로, 이 과정에서는 Databricks가 어떻게 성능 최적화를 용이하게 하는지에 대한 개요를 제공하고, Databricks에서 SQL 분석을 실행할 때 내부적으로 발생하는 프로세스를 이해하기 위해 Query Insights에 액세스하는 방법을 알려드립니다.

Languages Available: English | 日本語 | Português BR | 한국어