Feature Engineering at Scale - Korean

이 과정에서는 Databricks 플랫폼에서 엔드투엔드 특성 엔지니어링 파이프라인을 설계, 스케일링 및 운영화하는 방법에 대한 포괄적인 이해를 습득합니다. 커리큘럼은 세 가지 점진적 모듈로 구성되어 있습니다: Spark의 분산 실행 및 최적화 기초 마스터링, Auto Loader 및 선언적 LakeFlow 파이프라인을 활용한 확장 가능한 데이터 수집 구현, 그리고 Databricks 특성 저장소를 활용한 생산 수준의 MLOps로의 발전입니다.

Catalyst Optimizer 및 Spark UI를 활용한 Spark 성능 디버깅, 자동화된 품질 검사를 포함한 강건한 브론즈-실버-골드 메달리온 아키텍처 구축, SparkML을 활용한 확장 가능한 특성 변환 구현 등 실습 학습 경험에 참여합니다. 본 과정은 온라인 특성 저장소를 통한 실시간 특성 서빙 배포, 온디맨드 변환을 포함한 FeatureSpec 정의, Unity Catalog를 활용한 거버넌스 및 리니지 추적 적용으로 마무리됩니다.

과정을 마치면 엔터프라이즈 스케일에서 머신 러닝을 위한 완전한 특성 라이프사이클을 관리할 수 있는 역량을 갖추게 됩니다. 즉, 성능이 뛰어나고 신뢰할 수 있으며 거버넌스가 적용된 생산 준비 완료 파이프라인을 설계할 수 있습니다.

참고: SCORM 강의 파일의 경우 콘텐츠를 완료한 후 SCORM 창을 닫아 주세요. ‘Next Lesson’ 버튼은 클릭하지 마세요. 클릭하면 SCORM 모듈이 완료된 것으로 표시되지 않을 수 있습니다.

Skill Level

Professional

Duration

Prerequisites

이 콘텐츠는 다음과 같은 기술, 지식 및 능력을 갖춘 학습자를 대상으로 개발되었습니다:

1. "Apache Spark 입문" 과정을 완료했거나 기본 데이터 변환 및 Spark SQL을 포함한 Spark에 대한 동등한 기초 지식을 보유하고 있어야 합니다.

* 학습자는 분산 데이터 처리에서 Spark의 역할에 익숙해야 합니다. 본 과정은 그 기초를 바탕으로 Spark가 확장 가능한 머신 러닝 워크플로를 어떻게 지원하는지 설명합니다.

2. 특히 `pandas`, `numpy`, `scikit-learn`과 같은 라이브러리를 사용한 데이터 조작을 위한 Python 프로그래밍 중급 수준의 능숙도가 필요합니다.

3. 모델 학습, 평가 및 하이퍼파라미터 튜닝을 포함한 전통적인 머신 러닝 워크플로에 대한 중급 수준의 이해가 필요합니다.

4. Databricks 플랫폼 및 Workflows에 대한 기본적인 이해가 필요합니다.

* 학습자는 본 과정을 수강하기 전에 Databricks 머신러닝 Associate 과정을 먼저 완료할 것을 강력히 권장합니다. 본 과정은 Databricks 환경을 사용한 ML 개발에 대한 지식을 전제로 합니다.

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Customer registration Partner registration

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

지금 등록하세요

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

지금 등록하세요

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Building Databricks Apps with Genie Code and Lakebase - Korean

Databricks Apps를 사용하면 Databricks 플랫폼에서 직접 대화형 데이터 및 AI 애플리케이션을 빌드하고 배포할 수 있습니다. 하지만 성공적인 AI 지원 개발은 단순히 코드를 생성하는 것 이상으로, 효과적인 워크플로를 개발하는 것이 핵심입니다.

이 실습 과정에서는 Genie Code를 AI 개발 어시스턴트로 활용하여 Lakebase 기반의 Databricks App을 처음부터 빌드합니다. 과정을 진행하면서 AI 지원 개발에 대한 실용적이고 반복 가능한 접근 방식을 배웁니다. 여기에는 코드 생성 전 의도를 명확히 명세하기, 작고 검증 가능한 단위로 작업하기, 재사용 가능한 Genie Code Skills 활용하기, 그리고 AI가 생성한 결과물을 단순히 수용하지 않고 검토하고 개선해야 할 대상으로 다루기가 포함됩니다.

Databricks App을 생성 및 배포하고, Lakebase 데이터베이스를 트랜잭션 저장소로 프로비저닝하여 연결하고, CRUD 운영을 구현하며, Genie Code를 사용하여 일반적인 개발 작업을 가속화합니다. 과정을 마치면 작동하는 애플리케이션을 갖추게 될 뿐만 아니라, 향후 소프트웨어 프로젝트에서 AI와 효과적으로 협업하기 위한 실용적인 프레임워크도 습득하게 됩니다.

참고: SCORM 강의 파일의 경우 콘텐츠를 완료한 후 SCORM 창을 닫아 주세요. ‘다음 강의’ 버튼은 클릭하지 마세요. 클릭하면 SCORM 모듈이 완료된 것으로 표시되지 않을 수 있습니다.

Advanced Techniques with Apache Spark Declarative Pipelines - Korean

이 과정에서는 생산 수준의 스트리밍 파이프라인을 구축하기 위한 Databricks의 Apache Spark Declarative Pipelines(SDP)를 살펴봅니다. 실제 레이크하우스 엔지니어링에 필수적인 고급 설계 패턴, 강력한 데이터 품질 적용, 그리고 크로스 플랫폼 통합을 학습합니다.

과정 전반에 걸쳐 최신 데이터 수집 및 처리 기법을 심층적으로 다루며, 레이아웃 최적화를 위한 Liquid 클러스터링과 혼합 스키마 이벤트를 위한 Multiplex 스트리밍 패턴 등의 도구를 마스터합니다. 모듈을 마칠 때쯤에는 스키마 진화를 자신 있게 처리하고, 변경 데이터 캡처(CDC)를 자동화하며, 데이터 무결성을 보장하는 방법을 익히게 됩니다.

강의와 실습 데모를 통해 다음을 수행합니다.

• 다중 소스 데이터를 통합된 브론즈 테이블로 수집하는 멀티 플로우 파이프라인을 구축합니다.

• 실버 및 골드 레이어 전반에 걸쳐 Liquid 클러스터링과 데이터 품질 Expectations를 적용합니다.

• 크로스 플랫폼 데이터 액세스를 위해 Iceberg UniForm과 함께 Multiplex 패턴을 구현합니다.

• AUTO CDC INTO를 사용하여 SCD Type 2 이력 추적을 자동화합니다.

• 잘못된 레코드를 감사하고 관리하는 데이터 손실 없는 격리 파이프라인을 설계합니다.

참고:

1. 이 과정은 'Databricks를 활용한 고급 데이터 엔지니어링' 시리즈의 첫 번째 과정입니다.

2. SCORM 강의 파일의 경우 콘텐츠를 완료한 후 SCORM 창을 닫으십시오. ‘다음 레슨’ 버튼을 클릭하지 마십시오. 클릭하면 SCORM 모듈이 완료로 표시되지 않을 수 있습니다.

Paid & Subscription

Lab

Professional

Building Semantic Models in Databricks with UC Metric Views - Korean

이 과정에서는 데이터 소비자가 귀하와 기업의 데이터 및 AI 팀의 부담을 줄이면서 검증된 비즈니스 인사이트를 얻을 수 있도록 지원하는 방법을 학습합니다. 골드 레이어 위에 시맨틱 레이어를 구축함으로써, 의사 결정자와 비즈니스 분석가가 핵심 비즈니스 성능 지표를 새로운 방식으로 탐험할 수 있는 기회를 제공하는 동시에, 효율적인 데이터 운영과 기업 검증 메트릭을 유지할 수 있습니다.

참고: SCORM 강의 파일의 경우, 콘텐츠를 완료한 후 SCORM 창을 닫아 주세요. ‘다음 레슨’ 버튼을 클릭하지 마세요. 클릭하면 SCORM 모듈이 완료된 것으로 표시되지 않을 수 있습니다.

Languages Available: English | 日本語 | 한국어 | Português BR | Français | Español | 普通话

Paid & Subscription

Lab

Associate