Introduction to Apache Spark™

本课程全面介绍 LakeFlow Connect——一种可扩展且简便的解决方案，用于将来自各种来源的数据摄取到 Databricks 中。您将首先浏览 LakeFlow Connect 连接器的不同类型（标准型和托管型），并学习各种数据摄取技术，包括批处理摄取、增量批处理摄取和流式处理摄取。您还将了解使用 Delta 表和金银铜架构的主要优势。

接下来，您将培养使用 LakeFlow Connect 标准连接器从云对象存储摄取数据的实践技能。这包括使用 CREATE TABLE AS SELECT（CTAS）、COPY INTO 和 Auto Loader 等方法，并重点介绍每种方法的优势和注意事项。您还将学习如何在将数据摄取到 Databricks Data Intelligence Platform 的过程中，向铜层表追加元数据列。课程随后介绍如何使用救援数据列处理与表架构不匹配的记录，以及管理和分析此类数据的策略。您还将探索摄取和展平半结构化 JSON 数据的技术。

此后，您将探索如何使用 LakeFlow Connect 托管连接器执行企业级数据摄取，以引入来自数据库和软件即服务（SaaS）应用程序的数据。课程还将介绍 Partner Connect，作为将合作伙伴工具集成到摄取工作负载中的一种选项。

最后，课程以替代摄取策略作为总结，包括 MERGE INTO 运营以及利用 Databricks Marketplace，为您奠定坚实的基础，以支持现代数据工程用例。

注意：对于 SCORM 课程文件，请确保完成内容后关闭 SCORM 窗口。请勿点击“下一课”按钮，否则可能导致 SCORM 模块无法标记为已完成。

In this course, you will gain a comprehensive understanding of how to design, scale, and operationalize end-to-end feature engineering pipelines on the Databricks platform. The curriculum is structured across three progressive modules: mastering the fundamentals of Spark’s distributed execution and optimization, implementing scalable data ingestion with Auto Loader and declarative Lakeflow pipelines, and advancing to production-grade MLOps with the Databricks Feature Store.

You will engage in hands-on learning experiences such as debugging Spark performance with the Catalyst Optimizer and Spark UI, building robust Bronze-Silver-Gold medallion architectures with automated quality checks, and implementing scalable feature transformations using SparkML. The course culminates in deploying real-time feature serving through Online Feature Stores, defining FeatureSpecs with on-demand transformations, and applying governance and lineage tracking with Unity Catalog.

Note: For SCORM lecture files, please ensure that you close the SCORM window after completing the content. Do not click the ‘Next Lesson’ button, as doing so may prevent the SCORM module from being marked as complete.

本课程探讨软件工程最佳实践与 DevOps 原则，专为使用 Databricks 的数据工程师量身设计。学员将在代码质量、版本控制、文档编写和测试等关键主题上打下坚实基础。课程重点介绍 DevOps，涵盖其核心组件、优势，以及持续集成与持续交付（CI/CD）在优化数据工程工作流中所发挥的作用。

您将学习如何在 PySpark 中应用模块化原则，以创建可复用组件并高效组织代码结构。实践环节包括：使用 pytest 框架为 PySpark 函数设计并实现单元测试，以及使用 Spark Declarative Pipeline 和 Jobs 对 Databricks 数据管道进行集成测试，以确保其可靠性。

课程还涵盖 Databricks 中的基本 Git 运营操作，包括使用 Databricks Git Folders 集成持续集成实践。最后，您将从宏观层面了解 Databricks 资产的多种部署方式，例如 REST API、CLI、SDK 以及 Declarative Automation Bundles（DABs），从而掌握部署和管理管道的相关技术知识。

完成本课程后，您将熟练掌握软件工程与 DevOps 最佳实践，从而能够构建可扩展、易维护且高效的数据工程解决方案。

注意：

1. 这是“Data Engineering with Databricks”系列课程中的第四门课程。

2. 对于 SCORM 课程文件，请确保完成内容后关闭 SCORM 窗口。请勿点击“Next Lesson”按钮，否则可能导致 SCORM 模块无法标记为已完成。