メインコンテンツへジャンプ

Data Ingestion with Lakeflow Connect - Japanese

このコースでは、さまざまなソースから Databricks にデータを取り込むためのスケーラブルでシンプルなソリューションである Lakeflow Connect を包括的に紹介します。まず、さまざまなタイプの Lakeflow Connect コネクタ (標準およびマネージド) を探索し、バッチ、増分バッチ、ストリーミング取り込みなど、さまざまなデータ取り込み手法について学習します。また、Delta テーブルとメダリオン アーキテクチャを使用する主な利点についても説明します


次に、Lakeflow Connect 標準コネクタを使用してクラウドオブジェクトストレージからデータを取り込むための実践的なスキルを身に付けます。これには、CREATE TABLE AS SELECT (CTAS)、COPY INTO、Auto Loader などの方法の操作が含まれ、各アプローチの利点と考慮事項に重点が置かれています。また、Databricks Data Intelligence Platform への取り込み中にブロンズレベルのテーブルにメタデータ列を追加する方法についても説明します。次に、このコースでは、復旧されたデータ列を使用してテーブル スキーマと一致しないレコードを処理する方法と、このデータを管理および分析するための戦略について説明します。また、半構造化された JSON データを取り込んでフラット化するための手法についても説明します


続いて、Lakeflow Connect 管理されたコネクタ を使用してエンタープライズグレードのデータ取り込みを実行し、データベースやサービスとしてのソフトウェア (SaaS) アプリケーションからデータを取り込む方法について説明します。また、このコースでは、パートナー ツールをインジェスト ワークフローに統合するためのオプションとして Partner Connect も紹介しています


最後に、このコースの最後には、MERGE INTO 操作や Databricks Marketplace の活用など、代替の取り込み戦略を紹介し、最新のデータエンジニアリングのユースケースをサポートするための強力な基盤を身に付けます。


Languages Available: English | 日本語 | Português BR | 한국어

Skill Level
Associate
Duration
4h
Prerequisites

- Databricks Data Intelligence Platform、Databricks Workspaces、Apache Spark、Delta Lake、メダリオンアーキテクチャ、Unity Catalog の基本的な理解。

- さまざまなファイル形式(Parquet、CSV、JSON、TXT など)での作業経験。

- SQL と Python の習熟度。

- Databricks Notebooks でのコードの実行に関する知識。

Outline

  • Databricksにおけるデータエンジニアリング入門

- Databricksにおけるデータエンジニアリング

- Lakeflow Connectとは何か?

- Delta Lakeのレビュー

- ラボ環境の探索


  • クラウドストレージからのデータ取り込み(LakeFlow Connect標準コネクタを使用)

- クラウドストレージからのデータ取り込みの概要

- 取り込み時にメタデータ列の追加

- 救済データ列の取り扱い

- 半構造化データ(JSON)の取り込み


  • LakeFlow Connect マネージド コネクタを使用したエンタープライズ データ取り込み

- Databricks へのエンタープライズ データ取り込みの概要

- Lakeflow Connect を使用したエンタープライズ データ取り込み


  • 取り込みの代替方法

- Databricks マーケットプレイスを使用したデータ取り込み

- 既存の Delta テーブルへの取り込み

- MERGE INTO を使用したデータ取り込み

Upcoming Public Classes

Date
Time
Language
Price
Apr 14
09 AM - 01 PM (Asia/Tokyo)
Japanese
$750.00

Public Class Registration

If your company has purchased success credits or has a learning subscription, please fill out the Training Request form. Otherwise, you can register below.

Private Class Request

If your company is interested in private training, please submit a request.

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Runtime

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

今すぐ登録

Instructors

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

今すぐ登録

Learning

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Scale

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Apache Spark Developer

Apache Spark™ Programming with Databricks - Japanese

このコースは、Databricksを使ったApache Sparkプログラミングを学ぶための適切な入口となります。

以下では、このコースに含まれる4つのモジュール(4時間)について説明します。

Introduction to Apache Spark

この初心者向けのコースでは、大規模なデータ処理のための Apache Spark の基礎について説明します。 Spark の分散アーキテクチャを探索し、DataFrame API をマスターし、Python を使用してデータの読み取り、書き込み、処理する方法を学習します。 実践的な演習を通じて、Sparkの変換とアクションを効率的に実行するために必要なスキルを身に付けます。 

Developing Applications with Apache Spark

このハンズオンコースでは、Apache Spark を使用したスケーラブルなデータ処理を習得します。 Spark の DataFrame API を使用して、効率的な ETL パイプラインを構築し、高度な分析を実行し、分散データ変換を最適化する方法を学びます。 グループ化、集計、結合、集合演算、ウィンドウ関数について調べます。 配列、マップ、構造体などの複雑なデータ型を操作しながら、パフォーマンス最適化のベストプラクティスを適用します。

Stream Processing and Analysis with Apache Spark

このコースでは、Apache Spark を使用したストリーム処理と解析の基本について学習します。 ストリーム処理の基礎をしっかりと理解し、Spark 構造化ストリーミング API を使用してアプリケーションを開発します。 ストリーム集約やウィンドウ分析などの高度な手法を探索して、リアルタイム データを効率的に処理します。 このコースでは、動的データ環境向けにスケーラブルでフォールトトレラントなストリーミングアプリケーションを作成するスキルを身に付けます。

Monitoring and Optimizing Apache Spark Workloads on Databricks

このコースでは、セキュアなデータガバナンス、アクセスコントロール、リネージトラッキングのためのUnity Catalogを中心に、スケーラブルなデータワークフローのためのレイクハウスアーキテクチャとメダリオン設計を探求します。カリキュラムには、Delta Lakeを使用した信頼性の高いACID準拠のパイプラインの構築も含まれます。パーティショニング、キャッシング、クエリチューニングなどのSpark最適化テクニックを検証し、パフォーマンスモニタリング、トラブルシューティング、効率的なデータエンジニアリングとアナリティクスのベストプラクティスを学び、現実世界の課題に取り組みます。

Languages Available: English | 日本語 | 한국어

Paid
16h
Lab
instructor-led
Associate

Questions?

If you have any questions, please refer to our Frequently Asked Questions page.