メインコンテンツへジャンプ

Build Data Pipelines with Apache Spark Declarative Pipelines - Japanese

このコースでは、Databricks の Apache Spark™ Declarative Pipelines (SDP) を使用して、増分バッチまたはストリーミングの取り込みと処理を複数のストリーミングテーブルおよびマテリアライズドビューを通じて行うデータパイプラインを構築するために必要な基本的な概念とスキルをユーザーに紹介します。Spark Declarative Pipelines を初めて使用するデータエンジニアを対象として設計されたこのコースでは、増分データ処理、ストリーミングテーブル、マテリアライズドビュー、一時ビューなどのコアコンポーネントの概要を包括的に説明し、それぞれの目的と違いを明確にします。


カバーするトピックは以下のとおりです:

- SQL を使用した Spark Declarative Pipelines のマルチファイルエディターによる ETL パイプラインの開発とデバッグ(Python コード例も提供)

- Spark Declarative Pipelines がパイプライングラフを通じてパイプライン内のデータ依存関係を追跡する方法

- パイプラインのコンピュートリソース、データアセット、トリガーモード、その他の詳細オプションの設定


次に、このコースでは Spark Declarative Pipelines におけるデータ品質エクスペクテーションを紹介し、データ完全性を検証・強制するためにエクスペクテーションをパイプラインに組み込むプロセスをユーザーに案内します。その後、スケジューリングオプションやパイプラインのパフォーマンスと健全性を監視するためのパイプラインイベントログの有効化など、パイプラインを本番運用に移行する方法を探索します。


最後に、このコースでは Spark Declarative Pipelines 内の AUTO CDC INTO 構文を使用してチェンジデータキャプチャ (CDC) を実装し、slowly changing dimensions(SCD Type 1 および Type 2)を管理する方法を説明し、ユーザーが CDC を自身のパイプラインに統合できるよう準備します。


注: Databricks Academy は、Databricks 環境内での教室セッションを notebook ベースの形式に移行しており、講義でのスライドデッキの使用を終了します。講義用 notebook には Vocareum lab 環境でアクセスできます。

Skill Level
Associate
Duration
4h
Prerequisites

このコースのコンテンツは、次のスキル/知識/能力を持つ受講者を対象に開発されています。

• Databricks Workspaces、Apache Spark、Delta Lake、メダリオンアーキテクチャ、Lakeflow ジョブ、Unity Catalog を含む Databricks Data Intelligence Platform の基本的な理解。

• CSV、JSON、TXT、Parquet などの形式を読み込む read_files SQL 関数の使用を含む、Delta テーブルへの生データの取り込み経験。

• 中級レベルのクエリの作成および SQL 結合の基本的な理解を含む、SQL を使用したデータ変換の習熟度。

• ETL の概念、およびバッチ/ストリーミングワークフローの理解。

Outline

• Databricks におけるデータエンジニアリング入門

• デモ - コースのセットアップとパイプラインの作成

• コースプロジェクトとデータセットの種類の概要

• パイプライン開発の簡略化と一般的なパイプラインの設定

• デモ - シンプルなパイプラインの開発

• Expectationsによるデータ品質の確保

• デモ - データ品質エクスペクテーションの追加

• Lab - パイプラインの作成

• ストリーミングジョインと本番運用へのパイプラインのデプロイ

• デモ - パイプラインを本番運用にデプロイする

• チェンジデータキャプチャ(CDC)概要

• デモ - AUTO CDC を使用したチェンジデータキャプチャ(SCD TYPE 1)

• まとめと次のステップ

• ボーナスラボ - AUTO CDC INTO と SCD Type 1

Upcoming Public Classes

Date
Time
Your Local Time
Language
Price
Oct 19
02 PM - 06 PM (Asia/Tokyo)
-
Japanese
$750.00

Public Class Registration

If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.

Private Class Request

If your company is interested in private training, please submit a request.

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Runtime

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

今すぐ登録

Instructors

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

今すぐ登録

Learning

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Scale

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Generative AI Engineer

Generative AI Engineering with Databricks - Japanese

本コースは、最新かつ最も普及しているフレームワークとDatabricksの機能を使用して生成AIアプリケーションを構築したいデータサイエンティスト、機械学習エンジニア、その他のデータ実務者を対象としています。

注: Databricks Academyは、Databricks環境内の教室セッションをノートブックベースの形式へ移行しており、講義でのスライドデッキの使用を終了します。講義用ノートブックはVocareumのラボ環境で利用できます。

以下では、本コースに含まれる4つの4時間モジュールについてそれぞれ説明します。

Building RAG Agents with Agent Bricks: 本コースでは、Databricks Agent Bricksを使用して検索エージェントを構築するための実践的なトレーニングを提供します。参加者は、Knowledge Assistantsの探索とクエリ、AI Functionsを使用した非構造化ドキュメントの構造化データへの解析、セマンティック検索のためのテキストのチャンク分割、Vector Searchインデックスの構築、および複数のナレッジソースに支えられた本番運用対応のKnowledge Assistantsの作成方法を学びます。

Building Agentic Applications on Databricks: 本コースでは、Databricks上で本番グレードのエージェントアプリケーションを構築する方法を学びます。受講者は、Unity CatalogとMCPを使用してガバナンスされたエージェントツールを作成し、OpenAI Agents SDKを使用してシングルエージェントおよびマルチエージェントシステムを構築し、スーパーバイザーエージェントによってオーケストレーションされるknowledge assistantのユースケースのためにAgent BricksとGenieを活用する方法を学びます。本コースは、ツールのプロトタイピングから本番環境へのデプロイまでの全過程を扱い、MLflowのトレーシングを使用してエージェントの実行を観察する実践的な経験を提供します。

Agent Evaluation on Databricks: 本コースでは、MLflowの評価フレームワークを使用してAIエージェントを体系的に評価する方法を学び、従来のソフトウェアテストでは対応できない非決定論的なAIシステム特有の課題に取り組みます。受講者は、正確性や安全性などの一般的な基準のための組み込みジャッジ(built-in judges)、ビジネス固有の要件のためのガイドラインジャッジ、専門的なニーズのためのカスタムジャッジなど、さまざまな評価アプローチを実装する方法を学びます。本コースでは、キュレーションされたデータセットを使用したオフライン評価と、オンラインの本番モニタリングの両方を扱い、MLflowのトレーシング機能を使用してエージェントの実行パターンを理解し、さまざまなタイプのステークホルダーから人間のフィードバックを収集する実践的な経験を提供します。実践的なデモとラボを通じて、受講者はAIエージェントの開発ライフサイクル全体にわたって継続的な品質改善を推進する評価ワークフローを作成するスキルを習得します。

Deploying and Monitoring Agent Applications on Databricks: 本コースでは、Databricks上で生成AIエージェントをデプロイおよびモニタリングするためのエンドツーエンドのライフサイクルを扱います。参加者は、Declarative Automation Bundles(DABs)を使用してエージェントをDatabricks Appsとしてデプロイし、Model Context Protocol(MCP)を介してツールを統合し、MLflow Tracingでエージェントを計装し、スコアラー、マルチターンジャッジ、オンライン評価を使用して本番品質を評価する方法を学びます。実践的なデモとラボを通じて、参加者はDatabricksプラットフォーム上で本番グレードのAIエージェントを構築、観察、モニタリングする実践的な経験を得ます。

Languages Available: English | 日本語 | Português BR | 한국어

Paid
16h
Lab
instructor-led
Associate

Questions?

If you have any questions, please refer to our Frequently Asked Questions page.