メインコンテンツへジャンプ

Data Ingestion with Lakeflow Connect - Japanese

このコースでは、幅広いソースから Databricks へのデータ取り込みを実現する、スケーラブルで簡素化されたソリューションである LakeFlow Connect について包括的に紹介します。まず、LakeFlow Connect のさまざまなコネクタの種類(Standard および Managed)を探索し、バッチ、インクリメンタルバッチ、ストリーミングインジェストなど、さまざまなデータ取り込み手法を学びます。また、UC テーブルの使用とメダリオンアーキテクチャの主なメリットについても確認します。


次に、LakeFlow Connect Standard Connectors を使用してクラウドオブジェクトストレージからデータを取り込む実践的なスキルを習得します。具体的には、CREATE TABLE AS SELECT(CTAS)、COPY INTO、Auto Loader などの手法を扱い、それぞれのアプローチのメリットと考慮事項を重点的に学びます。また、Databricks Data Intelligence Platform へのデータ取り込み時に、ブロンズレベルのテーブルにメタデータカラムを追加する方法も学習します。続いて、rescued data カラムを使用してテーブルスキーマに一致しないレコードを処理する方法と、このデータを管理・分析するための戦略について説明します。さらに、半構造化 JSON データの取り込みとフラット化の手法についても探索します。


その後、LakeFlow Connect Managed Connectors を使用して、データベースおよび Software-as-a-Service(SaaS)アプリケーションからデータを取り込むエンタープライズグレードのデータ取り込みを実行する方法を探索します。また、Partner Connect を取り込みワークロードにパートナーツールを統合するオプションとして紹介します。


最後に、MERGE INTO 操作や Databricks Marketplace の活用を含む代替取り込み戦略を取り上げ、現代のデータエンジニアリングのユースケースをサポートするための強固な基盤を身に付けます。


注:SCORM講義ファイルの場合、コンテンツを完了したらSCORMウィンドウを閉じてください。「次のレッスン」ボタンはクリックしないでください。クリックすると、SCORMモジュールが完了として記録されない場合があります。


Languages Available: English | 日本語 | Português BR | 한국어 | 普通话

Skill Level
Associate
Duration
4h
Prerequisites

本コースのコンテンツは、以下のスキル、知識、能力を有する受講者向けに開発されています:


• Databricks Data Intelligence Platform(Databricks Workspaces、Apache Spark、Delta Lake、メダリオンアーキテクチャ、Unity Catalog を含む)に関する基本的な理解。

• データ取り込みワークフロー(バッチ、ストリーミング、インクリメンタル)および一般的な ETL の原則に関する基本的な理解。

• 各種ファイル形式(Parquet、CSV、JSON、TXT など)の取り扱い経験。

• SQL および Python の習熟度。

• Databricks ノートブックでのコード実行に関する知識。

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

See all our registration options

Registration options

Databricks has a delivery method for wherever you are on your learning journey

Runtime

Self-Paced

Custom-fit learning paths for data, analytics, and AI roles and career paths through on-demand videos

今すぐ登録

Instructors

Instructor-Led

Public and private courses taught by expert instructors across half-day to two-day courses

今すぐ登録

Learning

Blended Learning

Self-paced and weekly instructor-led sessions for every style of learner to optimize course completion and knowledge retention. Go to Subscriptions Catalog tab to purchase

Purchase now

Scale

Skills@Scale

Comprehensive training offering for large scale customers that includes learning elements for every style of learning. Inquire with your account executive for details

Upcoming Public Classes

Catalog Management and Data Organization - Japanese

このコースでは、Databricks Data Intelligence Platform上でカタログ構造と大規模なデータ組織化を設計、実装、ガバナンスする方法を学びます。エンタープライズlakehouseの集中型ガバナンスレイヤーとしてのUnity Catalogの包括的な概要を提供します。5つのモジュールに分かれており、クラウドデプロイメントモデル内でのUnity Catalogの位置づけから始まります。アカウントコンソール、メタストアの作成、管理者ロール階層をカバーします。次に、組織トポロジー(ビジネスユニット、リージョン、dev/QA/prod環境)を、命名規則、所有権パターン、MANAGE委任を使用したスケーラブルなカタログとスキーマ設計に変換します。コースは、ストレージクレデンシャル、外部ロケーション、managed-storage階層、マネージドテーブルと外部テーブル、非テーブルデータのUC Volumesを使用した安全なストレージ統合をカバーします。次に、アクセスパターンと分離戦略(3レベルのGRANTチェーン、ワークスペース-カタログバインディング、スキーマレベルの属性ベースアクセス制御(ABAC)ポリシー)を適用し、大規模なきめ細かいデータ保護を実施します。最後に、カタログ設計、自動化、最小権限、グループベースのアクセス管理のベストプラクティスで締めくくります。 

注:SCORM講義ファイルの場合は、コンテンツを完了した後、必ずSCORMウィンドウを閉じてください。「次のレッスン」ボタンはクリックしないでください。クリックすると、SCORMモジュールが完了済みとして記録されない可能性があります。

Free
2h
Associate

Questions?

If you have any questions, please refer to our Frequently Asked Questions page.