メインコンテンツへジャンプ

Advanced Data Engineering with Databricks - Japanese

このコースでは、受講者は Apache Spark、Structured Streaming、Delta Lake に関する既存の知識を基礎にし、Databricks が提供する一連のツールを利用してデータレイクハウスの可能性を最大限に引き出します。 このコースでは、増分データ処理を優先する設計に重点を置き、増え続けるデータを継続的に取り込んで分析するようにシステムを最適化できるようにします。 組み込みのプラットフォーム最適化を活用するワークロードを設計することにより、データエンジニアは、コードのメンテナンスやオンコールの緊急事態の負担を軽減し、最小限のリファクタリングやダウン

タイムで本番コードを新しい要求に迅速に適応させることができます。


Databricks Certified Data Engineer Professional 試験を受ける場合は、その前にこのコースのトピックをマスターする必要があります。


Languages Available: English | 日本語 | Português BR | 한국어

Skill Level
Professional
Duration
16h
Prerequisites

前提条件

    • 高度なデータ変換を実行するための PySpark API の使用経験
    • Python を使用したクラスの実装経験
    • 実稼働データウェアハウスまたはデータレイクの実装での SQL の使用経験
    • Databricks ノートブックでの作業とクラスター設定
    • SQL を使用した Delta Lake テーブルでのデータの作成と操作に関する知識

前述の前提条件はインストラクター主導のコース、「Data Engineering with Databricks」と「Apache Spark Programming with Databricks」の受講によって学習でき(受講順序不問)、認定試験、「Databricks Certified Data Engineer Associate」および「Databricks Certified Associate Developer for Apache Spark」に合格することによって知識の習得を検証できます。

Outline

コースの概要

  • 1 日目

    • レイクハウスのアーキテクチャ

    • データストレージの最適化

    • Delta Lake のトランザクション

    • 楽観的並行性による Delta Lake 分離

    • ストリーミング設計パターン

    • 開発とデータバックアップのためのクローン作成

    • Auto Loader およびブロンズ取り込みのパターン

    • ストリーミング重複排除および品質の強化

    • Slowly Changing Dimensions

    • ストリーミング結合とステートフル性

  • 2 日目

    • ビューとマテリアライズドビュー

    • 安全なデータの保存

    • PII への権限アクセスの付与

    • レイクハウスのデータの削除

    • マルチタスクジョブを使ったスケジューリングとオーケストレーション

    • エラーのモニタリング、ログ記録、および処理

    • Databricks Repos によるコードのプロモーション

    • プログラムによるプラットフォームインタラクション(Databricks CLI および REST API)

    • ストリーミングワークロードによるコストとレイテンシの管理

Upcoming Public Classes

Date
Time
Language
Price
May 22 - 23
09 AM - 05 PM (Asia/Tokyo)
Japanese
$1500.00
Jul 14 - 15
09 AM - 05 PM (Asia/Tokyo)
Japanese
$1500.00

Public Class Registration

If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.

Private Class Request

If your company is interested in private training, please submit a request.

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Runtime

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

Register now

Instructors

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

Register now

Learning

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Scale

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Data Engineer

Automated Deployment with Databricks Asset Bundles - Japanese

このコースでは、DevOps の原則と Databricks プロジェクトへの適用について包括的に復習します。 まず、コア DevOps、DataOps、継続的インテグレーション (CI)、継続的デプロイ (CD)、テストの概要を説明し、これらの原則をデータエンジニアリングのパイプラインに適用する方法を探ります

次に、CI/CD プロセス内の継続的デプロイに焦点を当て、プロジェクトのデプロイメント用の Databricks REST API、SDK、CLI などのツールを検討します。 Databricks アセットバンドル (DAB) と、それらが CI/CD プロセスにどのように適合するかについて学習します。 主なコンポーネント、フォルダー構造、Databricks のさまざまなターゲット環境へのデプロイを合理化する方法について詳しく説明します。 また、Databricks CLI を使用して、構成の異なる複数の環境に対して変数の追加、変更、検証、デプロイ、および実行を行う方法についても学習します

最後に、このコースでは、Databricks アセットバンドルをローカルでビルド、テスト、デプロイするための対話型開発環境 (IDE) としての Visual Studio Code を紹介し、開発プロセスを最適化します。 このコースの最後には、GitHub Actions を使用してデプロイパイプラインを自動化し、Databricks Asset Bundles で CI/CD ワークフローを強化する方法を紹介します

このコースを修了すると、Databricks アセットバンドルを使用して Databricks プロジェクトのデプロイを自動化し、DevOps プラクティスを通じて効率を向上させることができるようになります。

Languages Available: English | 日本語 | Português BR | 한국어

Paid
4h
Lab
Professional
Data Engineer

DevOps Essentials for Data Engineering - Japanese

このコースでは、Databricks を使用するデータエンジニア向けに特別に設計された、ソフトウェアエンジニアリングのベストプラクティスと DevOps の原則について説明します。 参加者は、コード品質、バージョン管理、ドキュメンテーション、テストなどの主要なトピックで強力な基盤を構築します。 このコースではDevOpsに重点を置き、コアコンポーネント、利点、およびデータエンジニアリングワークフローの最適化における継続的インテグレーションと継続的デリバリー(CI/CD)の役割について説明します

PySpark でモジュール性の原則を適用して、再利用可能なコンポーネントを作成し、コードを効率的に構造化する方法を学習します。 実践的な経験には、pytest フレームワークを使用した PySpark 関数の単体テストの設計と実装、その後の DLT と Workflows を使用した Databricks データパイプラインの統合テストが含まれ、信頼性を確保します

このコースでは、Databricks Git フォルダーを使用した継続的インテグレーションのプラクティスの統合など、Databricks 内の基本的な Git 操作についても説明します。 最後に、REST API、CLI、SDK、Databricks アセットバンドル (DAB) など、Databricks アセットのさまざまなデプロイ方法の概要を説明し、パイプラインをデプロイして管理する手法に関する知識を身に付けます

このコースを修了すると、ソフトウェアエンジニアリングとDevOpsのベストプラクティスに習熟し、スケーラブルで保守可能、かつ効率的なデータエンジニアリングソリューションを構築できるようになります。

Languages Available: English | 日本語 | Português BR | 한국어

Paid
4h
Lab
Associate

Questions?

If you have any questions, please refer to our Frequently Asked Questions page.