DevOps Essentials for Data Engineering - Korean

이 과정에서는 Databricks를 사용하여 작업하는 데이터 엔지니어를 위해 특별히 설계된 소프트웨어 엔지니어링 모범 사례와 DevOps 원칙을 살펴봅니다. 참가자는 코드 품질, 버전 제어, 문서화, 테스트와 같은 핵심 주제에 대한 강력한 기반을 구축하게 됩니다. 이 과정에서는 DevOps를 강조하여 핵심 구성 요소, 이점, 데이터 엔지니어링 워크플로 최적화에서 지속적인 통합 및 배포(CI/CD)의 역할에 대해 다룹니다.

PySpark에서 모듈성 원칙을 적용하여 재사용 가능한 구성 요소를 만들고 효율적으로 코드를 구성하는 방법을 학습합니다. 실습 경험에는 pytest 프레임워크를 사용하여 PySpark 함수에 대한 단위 테스트를 설계하고 구현하는 것과 DLT 및 Workflows를 사용하여 Databricks 데이터 파이프라인에 대한 통합 테스트를 수행하여 안정성을 보장하는 것이 포함됩니다.

또한 이 과정에서는 Databricks Git 폴더를 사용하여 지속적인 통합 관행을 통합하는 것을 포함하여 Databricks 내에서 필수적인 Git 작업도 다룹니다. 마지막으로 REST API, CLI, SDK, Databricks Asset Bundles(DAB) 등 Databricks 자산에 대한 다양한 배포 방법을 간략하게 살펴보고 파이프라인을 배포하고 관리하는 기술에 대한 지식을 얻습니다.

과정을 마치면 소프트웨어 엔지니어링과 DevOps 모범 사례에 능숙해져서 확장 가능하고 유지 관리가 가능하며 효율적인 데이터 엔지니어링 솔루션을 구축할 수 있게 됩니다.

Skill Level

Associate

Duration

Prerequisites

Databricks Workspaces, Apache Spark, Delta Lake 및 Medallion Architecture, Unity Catalog, Delta Live Tables, Workflows를 포함한 Databricks 플랫폼에 대한 능숙한 지식. Git 버전 제어에 대한 기본적인 이해도 필요합니다.
데이터 수집 및 변환 경험, 데이터 처리 및 DataFrame 조작을 위한 PySpark에 대한 능숙함이 필요합니다. 또한 지원자는 데이터 분석 및 변환을 위한 중급 수준의 SQL 쿼리를 작성한 경험이 있어야 합니다.
Python 프로그래밍에 대한 지식이 있어야 하며, 함수와 클래스를 설계하고 구현하는 능력을 포함하여 중급 수준의 Python 코드를 작성하는 데 능숙해야 합니다. 사용자는 또한 Python 패키지를 만들고, 가져오고, 효과적으로 활용하는 데 능숙해야 합니다.

Outline

소프트웨어 엔지니어링, DevOps 및 CI/CD 기본 사항

소프트웨어 엔지니어링(SWE) 모범 사례 소개

에 대한 소개 PySpark 코드 모듈화

PySpark 코드 모듈화 - 필수

PySpark 모듈화 코드

DevOps 기초

CI/CD에서의 역할 DevOps

지식 확인/토론

Continuous Integration (CI)

프로젝트 계획

프로젝트 설정 탐색(필수)

PySpark를 위한 단위 테스트 소개

단위 테스트 생성 및 실행

통합 실행 DLT를 사용한 테스트 및 Workflows

DLT를 사용하여 통합 테스트 수행 그리고 Workflows

Git을 사용한 버전 제어 개요

버전 제어와 Databricks Git 폴더 및 GitHub

Continuous Deployment 소개

Databricks 자산 배포 개요(슬라이드)
Databricks 프로젝트 배포

다음 단계

Public Class Registration

If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.

Customer registration Partner registration

Private Class Request

If your company is interested in private training, please submit a request.

Request Private Training

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

지금 등록하세요

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

지금 등록하세요

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Building Reliable Conversational Agents with Genie - Korean

이 코스에서는 Databricks Genie Space를 설계, 구축, 유지 관리하는 방법을 배웁니다. Genie Space는 비즈니스 사용자가 거버넌스된 데이터에 대해 질문하고 코드를 작성하지 않고도 SQL 기반 답변을 받을 수 있는 자연어 인터페이스입니다.

Genie가 Databricks AI/BI 제품군에 어떻게 들어맞는지, 그리고 자연어를 어떻게 신뢰할 수 있는 SQL 쿼리로 변환하는지 배웁니다. 이 코스는 정확하고 일관되며 신뢰할 수 있는 결과를 제공하는 Genie Space를 만드는 데 무엇이 필요한지에 초점을 맞춥니다.

소스 데이터를 이해하고 벤치마크를 정의하는 것에서부터, Knowledge Store의 큐레이션 도구 전체를 사용해 Genie Space를 구성하고 개선하는 것까지, 완전한 엔드 투 엔드 워크플로를 따라갑니다. 이 도구에는 메타데이터, 동의어, 프롬프트 매칭, SQL 로직, 예시 쿼리, 텍스트 instructions가 포함됩니다.

또한 Databricks One을 통해 비즈니스 사용자와 Genie Space를 공유하는 방법, Unity Catalog 거버넌스가 어떻게 자동으로 적용되는지를 이해하고, 모니터링과 사용자 피드백을 사용해 시간이 지나면서 품질을 지속적으로 개선하는 방법을 배웁니다.

코스를 마칠 때쯤이면, 거버넌스되고 셀프서비스인 대화형 분석을 대규모로 제공하는, 생산 준비가 된 Genie Space를 만들고 관리할 수 있게 됩니다.

참고: Databricks Academy는 Databricks 환경 내의 대면 강의 형식을 노트북 기반 방식으로 전환함에 따라, 강의용 슬라이드 사용이 중단됩니다. Vocareum 랩 환경에서 강의용 노트북에 액세스할 수 있습니다.

Languages Available: English | 日本語

Architecting Data Warehouses for Large-Scale Deployments - Korean

이 과정에서는 대규모 data warehousing 배포를 위한 성능 최적화, 비용 관리 및 보안을 다룹니다.

이 과정은 여러 사업부에 걸쳐 수백 또는 수천 명의 사용자에게 서비스를 제공하는 Databricks 환경을 관리하는 data warehousing 실무자를 위해 설계되었습니다. 높은 성능, 비용 효율성, 보안 표준 준수를 유지하면서 data warehousing 운영을 효율적으로 확장하는 데 필요한 기술을 습득하게 됩니다.

Languages Available: English | 日本語 | Português BR | Español | française

Building ETL Pipelines with SQL - Korean

이 과정은 Databricks Data Intelligence Platform에서 순수 SQL을 사용해 운영 준비가 된 ETL 파이프라인을 구축하는 방법을 가르칩니다. 학생들은 점진적 적재를 위한 Auto Loader가 포함된 스트리밍 테이블, 실버에서 골드로 변환을 위한 점진적 리프레시가 있는 Materialized Views, 선언적 SCD 타입 1 및 타입 2 차원 관리를 위한 AUTO CDC(FLOW AUTO CDC), 그리고 운영 오케스트레이션을 위한 SQL 파일 작업이 포함된 Lakeflow Jobs를 배웁니다. 이 과정은 메달리온 아키텍처(브론즈 → 실버 → 골드)를 통해 현실적인 소매 데이터셋을 따라갑니다.