メインコンテンツへジャンプ

Advanced Techniques with Apache Spark Declarative Pipelines - Japanese

このコースでは、本番運用グレードのストリーミングパイプラインを構築するための Databricks の Apache Spark Declarative Pipelines (SDP) について学びます。実際の Lakehouse エンジニアリングに不可欠な高度なデザインパターン、堅牢なデータ品質の適用、およびクロスプラットフォーム統合を習得します。


コース全体を通じて、最新のデータ取り込みおよび処理技術を深く学び、レイアウト最適化のためのリキッドクラスタリングや、混在スキーマイベントに対応するマルチプレックスストリーミングパターンなどのツールを習得します。モジュールの終わりには、スキーマ進化を自信を持って処理し、チェンジデータキャプチャ (CDC) を自動化し、データ完全性を確保する方法を習得できます。


講義とハンズオンデモを通じて、以下のことを学びます。

• 複数ソースのデータを統合されたブロンズテーブルに取り込むマルチフローパイプラインを構築する。

• シルバーおよびゴールドレイヤー全体にリキッドクラスタリングとデータ品質 Expectations を適用する。

• クロスプラットフォームのデータアクセスのために Iceberg UniForm を使用したマルチプレックスパターンを実装する。

• AUTO CDC INTO を使用して SCD Type 2 の履歴トラッキングを自動化する。

• 無効なレコードを監査・管理するためのゼロデータロス隔離パイプラインを設計する。


注意:Databricks Academyでは、Databricks環境内でのクラスルームセッションをノートブックベースのフォーマットに移行しており、スライドデッキを用いた講義は廃止されます。講義用ノートブックには、Vocareumラボ環境からアクセスできます。


Languages Available: English | 日本語 | Português BR | 한국어

Skill Level
Professional
Duration
4h
Prerequisites

このコースの内容は、次のスキル/知識/能力を持つ参加者向けに開発されています。:
• Spark Declarative Pipelines — 「Build Data Pipelines with Apache Spark Declarative Pipelines」コースの修了、またはCREATE OR REFRESH STREAMING TABLE、CONSTRAINTS、およびPipelines UIへの習熟

• Delta Lake Fundamentals — Delta テーブルおよびDelta によるデータファイルとトランザクションログの管理に関する理解

• ストリーミングの概念 — SDPにおけるマイクロバッチストリーミング、チェックポインティング、およびイベント時間処理の知識

• SQL の習熟度 — SELECT、JOIN、MERGE、CASE WHEN、および一般的な集計関数を含むSQL の読み書き能力

• Python in Databricks Notebooks — Databricks ノートブックにおけるPython コードの読み取りと実行への習熟

• Unity Catalog の基礎 — Unity Catalog におけるカタログ、スキーマ、テーブル、およびボリュームの理解

Outline

Spark Declarative Pipelinesの高度なテクニック

• SDP におけるマルチフロー、エクスペクテーション、およびリキッドクラスタリングの概要

• デモ: リキッドクラスタリングとデータ品質を使用したマルチフロー SDP

• マルチプレックスストリーミング、Delta シンク、および Iceberg リードの概要

• デモ: Delta シンクと Iceberg リードを使用したマルチプレックス ストリーミング SDP

• チェンジデータキャプチャ(CDC)レビュー

• デモ: Apache Spark Declarative Pipelines における AUTO CDC を使用した SCD Type 2 の自動化

• SDP における高度なデータ品質チェックと期待値

• デモ: SDP における高度なデータ品質チェックと期待値

• ラボ: SDPを使用したマルチソースeコマースパイプラインの構築

Upcoming Public Classes

Date
Time
Your Local Time
Language
Price
Oct 27
02 PM - 06 PM (Asia/Tokyo)
-
Japanese
$750.00
Dec 01
09 AM - 01 PM (Asia/Tokyo)
-
Japanese
$750.00

Public Class Registration

If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.

Private Class Request

If your company is interested in private training, please submit a request.

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Runtime

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

今すぐ登録

Instructors

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

今すぐ登録

Learning

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Scale

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Generative AI Engineer

Generative AI Engineering with Databricks - Japanese

本コースは、最新かつ最も普及しているフレームワークとDatabricksの機能を使用して生成AIアプリケーションを構築したいデータサイエンティスト、機械学習エンジニア、その他のデータ実務者を対象としています。

注: Databricks Academyは、Databricks環境内の教室セッションをノートブックベースの形式へ移行しており、講義でのスライドデッキの使用を終了します。講義用ノートブックはVocareumのラボ環境で利用できます。

以下では、本コースに含まれる4つの4時間モジュールについてそれぞれ説明します。

Building RAG Agents with Agent Bricks: 本コースでは、Databricks Agent Bricksを使用して検索エージェントを構築するための実践的なトレーニングを提供します。参加者は、Knowledge Assistantsの探索とクエリ、AI Functionsを使用した非構造化ドキュメントの構造化データへの解析、セマンティック検索のためのテキストのチャンク分割、Vector Searchインデックスの構築、および複数のナレッジソースに支えられた本番運用対応のKnowledge Assistantsの作成方法を学びます。

Building Agentic Applications on Databricks: 本コースでは、Databricks上で本番グレードのエージェントアプリケーションを構築する方法を学びます。受講者は、Unity CatalogとMCPを使用してガバナンスされたエージェントツールを作成し、OpenAI Agents SDKを使用してシングルエージェントおよびマルチエージェントシステムを構築し、スーパーバイザーエージェントによってオーケストレーションされるknowledge assistantのユースケースのためにAgent BricksとGenieを活用する方法を学びます。本コースは、ツールのプロトタイピングから本番環境へのデプロイまでの全過程を扱い、MLflowのトレーシングを使用してエージェントの実行を観察する実践的な経験を提供します。

Agent Evaluation on Databricks: 本コースでは、MLflowの評価フレームワークを使用してAIエージェントを体系的に評価する方法を学び、従来のソフトウェアテストでは対応できない非決定論的なAIシステム特有の課題に取り組みます。受講者は、正確性や安全性などの一般的な基準のための組み込みジャッジ(built-in judges)、ビジネス固有の要件のためのガイドラインジャッジ、専門的なニーズのためのカスタムジャッジなど、さまざまな評価アプローチを実装する方法を学びます。本コースでは、キュレーションされたデータセットを使用したオフライン評価と、オンラインの本番モニタリングの両方を扱い、MLflowのトレーシング機能を使用してエージェントの実行パターンを理解し、さまざまなタイプのステークホルダーから人間のフィードバックを収集する実践的な経験を提供します。実践的なデモとラボを通じて、受講者はAIエージェントの開発ライフサイクル全体にわたって継続的な品質改善を推進する評価ワークフローを作成するスキルを習得します。

Deploying and Monitoring Agent Applications on Databricks: 本コースでは、Databricks上で生成AIエージェントをデプロイおよびモニタリングするためのエンドツーエンドのライフサイクルを扱います。参加者は、Declarative Automation Bundles(DABs)を使用してエージェントをDatabricks Appsとしてデプロイし、Model Context Protocol(MCP)を介してツールを統合し、MLflow Tracingでエージェントを計装し、スコアラー、マルチターンジャッジ、オンライン評価を使用して本番品質を評価する方法を学びます。実践的なデモとラボを通じて、参加者はDatabricksプラットフォーム上で本番グレードのAIエージェントを構築、観察、モニタリングする実践的な経験を得ます。

Languages Available: English | 日本語 | Português BR | 한국어

Paid
16h
Lab
instructor-led
Associate

Questions?

If you have any questions, please refer to our Frequently Asked Questions page.