Automated Deployment with Databricks Asset Bundles - Korean
이 과정은 DevOps 원칙과 이를 Databricks 프로젝트에 적용하는 방법을 포괄적으로 검토합니다. 핵심 DevOps, DataOps, 지continuous integration (CI), continuous deployment (CD), 테스트에 대한 개요로 시작하여 이러한 원칙을 데이터 엔지니어링 파이프라인에 적용하는 방법을 탐구합니다.
이어서 CI/CD 프로세스 내 지속적 배포에 초점을 맞추며, 프로젝트 배포를 위한 Databricks REST API, SDK, CLI와 같은 도구를 살펴봅니다. Databricks Asset Bundles(DAB)와 CI/CD 프로세스 내에서의 역할을 학습하게 됩니다. 주요 구성 요소, 폴더 구조, Databricks 내 다양한 대상 환경에 걸친 배포 간소화 방식을 심층적으로 다룹니다. 또한 Databricks CLI를 활용하여 서로 다른 구성의 다중 환경에 대해 변수 추가, 수정, 검증, 배포 및 실행하는 방법을 익히게 됩니다.
마지막으로, Visual Studio Code를 인터랙티브 개발 환경(IDE)으로 활용하여 로컬에서 Databricks Asset Bundles를 빌드, 테스트, 배포하는 방법을 소개함으로써 개발 프로세스를 최적화합니다. GitHub Actions를 활용한 배포 파이프라인 자동화를 통해 Databricks Asset Bundles의 CI/CD 워크플로우를 강화하는 방법에 대한 소개로 강좌를 마무리합니다.
본 과정 수료 시, Databricks Asset Bundles를 활용한 Databricks 프로젝트 배포 자동화 역량을 갖추게 되어 DevOps 관행을 통해 효율성을 향상시킬 수 있습니다.
참고: 이 강좌는 ‘Databricks을 사용한 고급 데이터 엔지니어링’ 시리즈의 네 번째 강좌입니다.
이 과정에서는 다음과 같은 기술/지식/능력을 가진 참가자들을 위해 내용이 개발되었습니다:
• Databricks 플랫폼에 대한 깊은 이해를 바탕으로, Databricks Workspaces, Apache Spark, Delta Lake, 메달리온 아키텍처, Unity catalog, Delta Live Tables, 워크플로우 활용 경험이 있어야 합니다. 특히 DLT(Delta Live Tables)와 함께 Expectations를 활용하는 방법에 대한 지식이 필요합니다.
• 데이터 수집 및 변환 경험이 있어야 하며, 데이터 처리 및 DataFrame 조작을 위한 PySpark 활용 능력이 우수해야 합니다. 또한 데이터 분석 및 변환을 위한 중급 수준의 SQL 쿼리 작성 경험이 있어야 합니다.
• Python 프로그래밍 숙련도: 함수 및 클래스 설계/구현 능력, Python 패키지 생성/수입/활용 경험.
• DevOps 실무 경험, 특히 continuous integration (CI) 및 continuous delivery/deployment (CD) 원칙에 대한 이해.
• Git 버전 관리 기본 이해.
• 필수 이수 과정: 데이터 엔지니어링을 위한 DevOps 기초 과정.
Self-Paced
Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos
Registration options
Databricks has a delivery method for wherever you are on your learning journey
Self-Paced
Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos
지금 등록하세요
Instructor-Led
Public and private courses taught by expert instructors across half-day to two-day courses
지금 등록하세요
Blended Learning
Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase
Purchase now
Skills@Scale
Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details
