Feature Engineering at Scale - Mandarin Chinese

在本课程中，您将深入了解 Apache Spark 的架构及其在 Databricks 中应用于机器学习工作负载的理论与实践知识。您将学习何时使用 Spark 进行数据准备、模型训练和部署，同时获得使用 Spark ML 以及 Pandas APIs on Spark 的实践经验。本课程将向您介绍高级概念，例如超参数调优以及使用 Spark 扩展 Optuna。本课程将使用助理课程中介绍的功能和概念，例如 MLflow 和 Unity Catalog，以实现全面的模型打包与治理。

注意: 对于 SCORM 讲授文件，请确保在完成内容后关闭 SCORM 窗口。请勿点击“Next Lesson”按钮，否则可能导致 SCORM 模块无法被标记为已完成。

本课程向用户介绍使用 Databricks 中的 Apache Spark™ Declarative Pipelines (SDP) 构建数据管道所需的基本概念和技能，涵盖通过多个流式处理表和物化视图进行增量批处理或流式处理摄取与处理。本课程专为初次接触 Spark Declarative Pipelines 的数据工程师设计，全面介绍核心组件，包括增量数据处理、流式处理表、物化视图和临时视图，并重点说明其各自的用途与区别。

课程涵盖以下主题：

• 使用 Spark Declarative Pipelines 中的多文件编辑器，通过 SQL 开发和调试 ETL 管道（并提供 Python 代码示例）

• Spark Declarative Pipelines 如何通过管道图形跟踪管道中的数据依赖关系

• 配置管道 compute 资源、数据资产、触发器模式及其他高级选项

随后，课程介绍 Spark Declarative Pipelines 中的数据质量期望，引导用户将期望集成到管道中，以验证和强制执行数据完整性。学员还将浏览如何将管道投入生产，包括调度选项，以及启用管道事件日志记录以监控管道性能和健康状况。

最后，课程介绍如何在 Spark Declarative Pipelines 中使用 AUTO CDC INTO 语法实现变更数据捕获 (CDC)，以管理缓慢变化维度（SCD Type 1 和 Type 2），帮助用户将 CDC 集成到自己的管道中。

注意：对于 SCORM 课程文件，请确保完成内容后关闭 SCORM 窗口。请勿点击‘Next Lesson’按钮，否则可能会导致 SCORM 模块无法标记为已完成。

Unity Gateway extends Unity Catalog governance to AI traffic. Unity Catalog already governs your models, MCP services, functions, and connections as securable objects; Unity Gateway adds a central control plane over the traffic to them, enforcing routing, rate limits, budgets, usage tracking, and **service policies** (guardrails) on every request and response.

This lab introduces the fundamentals through a short lecture and then puts them into practice with a hands-on demo. In the demo, you govern a real agentic application, one that generates Databricks-native diagrams as code, by routing it through Unity Gateway and progressively hardening its governance: creating a model service, granting permissions, adding inference tables, rate limits, a hallucination guardrail policy, traffic splitting across Claude models, and fallback routing. Finally, you explore the `system.ai` and `system.ai_gateway` schemas to see how telemetry and observability complement payload-level inference logging.

By the end of the lab, you will understand how asset, traffic, and behavior governance combine into a single control plane for AI, and how to apply those controls to a production-style generative AI application on Databricks.

Note: For SCORM lecture files, please ensure that you close the SCORM window after completing the content. Do not click the ‘Next Lesson’ button, as doing so may prevent the SCORM module from being marked as complete.