メインコンテンツへジャンプ
ログイン
      • Databricks を知る
        • エグゼクティブ向け
          • スタートアップ向け
            • レイクハウスアーキテクチャ
              • Mosaic Research
              • 導入事例
                • 注目の導入事例
                • パートナー
                  • クラウドプロバイダ
                    Databricks on AWS、Azure、GCP
                    • コンサルティング・SI
                      Databricks の構築・デプロイ、Databricks への移行のエキスパート
                      • 技術パートナー
                        既存のツールをレイクハウスに接続
                        • C&SI パートナー
                          レイクハウスの構築・デプロイメント、レイクハウスへの移行
                          • データパートナー
                            データコンシューマーのエコシステムにアクセス
                            • パートナーソリューション
                              業界・移行のニーズに応じたカスタムソリューション
                              • Databricks で構築
                                ビジネスの創造・マーケティング・成長
                              • Databricks プラットフォーム
                                • プラットフォームの概要
                                  データ・分析・AI のための統合プラットフォーム
                                  • データ管理
                                    データの信頼性・セキュリティ・パフォーマンス
                                    • 共有
                                      オープン、セキュア、ゼロコピーでのデータ共有
                                      • データウェアハウジング
                                        バッチ、ストリーミングデータのための ETL とオーケストレーション
                                        • ガバナンス
                                          データ・分析・AI のための統合ガバナンス
                                          • データエンジニアリング
                                            バッチ、ストリーミングデータのための ETL とオーケストレーション
                                            • 人工知能(AI)
                                              ML と生成 AI アプリケーションの構築とデプロイメント
                                              • データサイエンス
                                                データサイエンスの大規模な連携
                                                • BI
                                                  実世界データのインテリジェント分析
                                                  • アプリケーション開発
                                                    安全なデータと AI アプリを迅速に構築
                                                    • データベース
                                                      データアプリとAIエージェントのための Postgres
                                                    • 統合とデータ
                                                      • マーケットプレイス
                                                        データ、分析、AI のためのオープンマーケットプレイス
                                                        • IDE 統合
                                                          お気に入りの IDE(統合開発環境)でレイクハウスを構築
                                                          • パートナーコネクト
                                                            Databricks エコシステムの検索と統合
                                                          • ご利用料金
                                                            • Databricks のご利用料金
                                                              料金設定、DBU、その他
                                                              • コスト計算ツール
                                                                クラウド利用でのコンピュートコストの試算
                                                              • オープンソース
                                                                • オープンソーステクノロジー
                                                                  プラットフォームを支えるイノベーションをもっと詳しく
                                                                • 業界向け Databricks
                                                                  • 通信
                                                                    • メディア・エンターテイメント
                                                                      • 金融サービス
                                                                        • 官公庁・公共機関
                                                                          • 医療・ライフサイエンス
                                                                            • リテール・消費財
                                                                              • 製造
                                                                                • 全て見る
                                                                                • クロスインダストリーソリューション
                                                                                  • サイバーセキュリティ
                                                                                    • マーケティング
                                                                                    • 移行・デプロイメント
                                                                                      • データの移行
                                                                                        • プロフェッショナルサービス
                                                                                        • ソリューションアクセラレータ
                                                                                          • ソリューションアクセラレータ一覧
                                                                                            成果を加速
                                                                                          • トレーニング・認定試験
                                                                                            • トレーニング概要
                                                                                              ニーズに合わせたカリキュラムを探す
                                                                                              • Databricks アカデミー
                                                                                                Databricks ラーニングプラットフォームにサインインする
                                                                                                • 認定
                                                                                                  スキル・認定で差別化を図る
                                                                                                  • 無料版
                                                                                                    専門家向けデータとAIツールを無料で学べます
                                                                                                    • 大学との連携
                                                                                                      Databricks を教材として活用
                                                                                                    • イベント
                                                                                                      • DATA+AI サミット
                                                                                                        • Data+AI ワールドツアー
                                                                                                          • Data Intelligence Days
                                                                                                            • イベントカレンダー
                                                                                                            • ブログ・ポッドキャスト
                                                                                                              • Databricks ブログ
                                                                                                                最新情報、製品発表、その他の情報
                                                                                                                • Databricks Mosaic AIリサーチブログ
                                                                                                                  AI世代に関する最新リサーチ
                                                                                                                  • Data Brew ポッドキャスト
                                                                                                                    ご相談・お問い合わせ
                                                                                                                    • ポッドキャスト:Data+AI のチャンピオン
                                                                                                                      イノベーションを支えるデータリーダーのインサイト
                                                                                                                    • お役立ちリソース
                                                                                                                      • カスタマーサポート
                                                                                                                        • ドキュメント
                                                                                                                          • コミュニティ
                                                                                                                          • もっと詳しく
                                                                                                                            • リソースセンター
                                                                                                                              • デモセンター
                                                                                                                                • アーキテクチャ センター
                                                                                                                                • 企業概要
                                                                                                                                  • Databricks について
                                                                                                                                    • 経営陣
                                                                                                                                      • Databricks Ventures
                                                                                                                                        • ご相談・お問い合わせ
                                                                                                                                        • 採用情報
                                                                                                                                          • 採用情報概要
                                                                                                                                            • 求人情報
                                                                                                                                            • プレス・ニュース記事
                                                                                                                                              • ニュースルーム
                                                                                                                                                • 受賞歴と業界評価
                                                                                                                                                • セキュリティと信頼
                                                                                                                                                  • セキュリティと信頼
                                                                                                                                              • 是非ご検討ください!
                                                                                                                                              • デモを見る
                                                                                                                                              • ログイン
                                                                                                                                              • Databricks 無料トライアル
                                                                                                                                              1. ブログ
                                                                                                                                              2. /
                                                                                                                                                製品
                                                                                                                                              3. /
                                                                                                                                                記事

                                                                                                                                              LakeFlow Connectで実現:SQL Server、Salesforce、Workdayからのデータ取り込み

                                                                                                                                              シンプルで効率的なデータ取り込みコネクターがパブリックプレビューで利用可能に

                                                                                                                                              LakeFlow Connect ingestion connectors now available

                                                                                                                                              Published: July 31, 2024

                                                                                                                                              製品1分未満

                                                                                                                                              エリーズ・ジョリス、ピーター・ポゴルスキ、Ori Zohar による投稿

                                                                                                                                              この投稿を共有する

                                                                                                                                              最新の投稿を通知します

                                                                                                                                              SQL Server、Salesforce、Workday用のLakeFlow Connectのパブリックプレビューを発表することを楽しみにしています。これらの取り込みコネクタは、データベースやエンタープライズアプリからのシンプルで効率的な取り込みを可能にします。これは、インクリメンタルなデータ処理とスマートな最適化によって支えられています。LakeFlow Connectはデータインテリジェンスプラットフォームのネイティブ機能であるため、サーバーレスコンピューティングとUnity Catalogガバナンスの両方を提供します。つまり、組織がデータの移動に費やす時間を減らし、それから価値を得るための時間を増やすことができるということを意味します。

                                                                                                                                              より広範に言えば、これはData + AI Summitで発表した取り込み、変換、オーケストレーションの統一ソリューションであるLakeFlowを用いて、Databricks上のデータエンジニアリングの未来を実現するための重要なステップです。LakeFlow Connectは、変換のためのLakeFlow Pipelinesと、オーケストレーションのためのLakeFlow Jobsとシームレスに連携します。これらを組み合わせることで、顧客はビジネスに対してより新鮮で高品質なデータを提供することが可能になります。

                                                                                                                                              データ取り込みの課題

                                                                                                                                              組織は、エンタープライズアプリ、データベース、メッセージバス、クラウドストレージなど、さまざまなデータソースを持っています。各ソースの微妙な違いに対応するため、組織はしばしばカスタムのデータ取り込みパイプラインを構築し、維持しますが、これにはいくつかの課題が伴います。

                                                                                                                                              • 複雑な設定とメンテナンス:データベースへの接続は難しく、特にソースシステムに影響を与えずに行うのは困難です。また、常に変化するアプリケーションAPIを学び、維持し続けるのは難しいです。したがって、カスタムパイプラインの構築、最適化、メンテナンスには多大な労力が必要であり、結果的にパフォーマンスを制限し、コストを増加させる可能性があります。
                                                                                                                                              • 特化したチームへの依存性:この複雑さを考えると、データ取り込みパイプラインは、高度にスキルを持ったデータエンジニアを必要とすることがよくあります。これは、データ消費者(例えば、HRアナリストや財務プランナー)が専門のエンジニアリングチームに依存していることを意味し、これにより生産性とイノベーションが制限されます。
                                                                                                                                              • 限定的なガバナンスを伴うパッチワークソリューション:パイプラインのパッチワークでは、ガバナンス、アクセス制御、可観測性、および系統を構築するのが難しいです。これにより、セキュリティリスクやコンプライアンスの課題、さらには問題のトラブルシューティングに困難が生じる可能性があります。

                                                                                                                                              LakeFlow Connect:シンプルで効率的な全チーム向けのデータ取り込み

                                                                                                                                              LakeFlow Connectはこれらの課題に対処し、あらゆる専門家が簡単に大規模なインクリメンタルデータパイプラインを構築できるようにします。

                                                                                                                                              LakeFlow Connectは設定やメンテナンスが簡単です

                                                                                                                                              まず、コネクターの設定はわずか数ステップで完了します。さらに、コネクタを設定すると、完全にDatabricksによって管理されます。これにより、メンテナンスのコストが低減されます。データ取り込みに特化した知識が必要なくなり、データが組織全体で民主化されることを意味します。

                                                                                                                                              数ステップで取り込みパイプラインを作成する

                                                                                                                                              「Salesforceコネクタは設定が簡単で、データレイクへのデータ同期を可能にします。これにより、開発時間と継続的なサポート時間が大幅に節約され、移行がより迅速になりました」 - Martin Lee 氏、テクノロジーリードソフトウェアエンジニア、Ruffer

                                                                                                                                              LakeFlow Connectは効率的

                                                                                                                                              LakeFlow Connectのパイプラインは、効率的なインクリメンタル処理を目指して設計されたDelta Live Tablesを基に構築されています。さらに、多くのコネクタはソースシステムで変更されたデータのみを読み書きします。最後に、Arcionのソース特化型技術を活用して、各コネクタのパフォーマンスと信頼性を最適化し、ソースシステムへの影響を制限します。

                                                                                                                                              データの取り込みは最初のステップに過ぎないため、そこで止まりません。また、メダリオンアーキテクチャを通じてデータが処理されるにつれて、効率的なマテリアライズドビューを構築することもできます。具体的には、Delta Live Tablesは、ビューへの更新をインクリメンタルに処理できます。つまり、すべての行を完全に再計算するのではなく、変更が必要な行のみを更新します。時間とともに、これにより変換のパフォーマンスが大幅に向上し、結果としてエンドツーエンドのETLパイプラインがより効率的になります。

                                                                                                                                              「コネクターは、SalesforceとDatabricksの間でシームレスで堅牢な統合を提供することで、データ転送能力を強化します。データの抽出と準備にかかる時間が約3時間からわずか30分に短縮されました」- Amber Howdle-Fitton 氏、データと分析マネージャー、Kotahi

                                                                                                                                              LakeFlow Connectはデータインテリジェンスプラットフォームのネイティブ機能

                                                                                                                                              LakeFlow Connectは、お使いのDatabricksツール群と完全に統合されています。ユーザーのデータやAIアセットと同様に、Unity Catalogによって管理され、サーバーレスコンピューティングを使用したDelta Live Tablesによって強化され、Databricks Workflowsで調整されます。これにより、取り込みパイプライン全体での統一された監視のような機能が可能になります。さらに、これらはすべて同じプラットフォームの一部であるため、Databricks SQL、AI/BI、およびMosaic AIを使用してデータを最大限に活用できます。

                                                                                                                                              ​​「Databricksの新しいLakeFlow Connector for SQL Serverを使用すると、ソースデータベースとDatabricksの間の [...] 中間製品を排除することができます。これにより、データの取り込みが速くなり、コストが削減され、サードパーティのCDCソリューションの設定、維持、監視にかかる労力が減ります。この機能は、データパイプラインを効率化することで大いに利益をもたらすでしょう」 — Kun Lee 氏、シニアディレクターデータベース管理者、CoStar

                                                                                                                                              LakeFlowのロードマップ

                                                                                                                                              最初のコネクタ群は、APIを介してSQL Server、Salesforce、Workdayのパイプラインを作成できます。しかし、このパブリックプレビューは始まりに過ぎません。今後数ヶ月間で、以下の追加データソースへのコネクタのプライベートプレビューを開始する予定です:

                                                                                                                                              • ServiceNow
                                                                                                                                              • Google Analytics 360
                                                                                                                                              • SharePoint
                                                                                                                                              • PostgreSQL
                                                                                                                                              • オンプレミスのSQL Server

                                                                                                                                              ロードマップには、各コネクターの機能セットを深化させるものも含まれています。次のような種類があります。

                                                                                                                                              • コネクタ作成のUI
                                                                                                                                              • データリネージ
                                                                                                                                              • SCDタイプ2
                                                                                                                                              • 堅牢なスキーマ進化
                                                                                                                                              • データサンプリング

                                                                                                                                              より広範に言えば、LakeFlow ConnectはLakeFlowの最初のコンポーネントに過ぎません。今年後半には、変換用のLakeFlow Pipelinesとオーケストレーション用のLakeFlow Jobsのプレビューを予定しています。これらは、それぞれDelta Live TablesとWorkflowsの進化形です。これらが利用可能になったら、移行は必要ありません。これらの新機能に備える最善の方法は、今日からDelta Live TablesとWorkflowsを使用し始めることです。

                                                                                                                                              LakeFlow Connectの開始方法

                                                                                                                                              SQL Serverコネクタ:Azure SQL DatabaseおよびAWS RDS for SQL Serverからの取り込みをサポートし、変更データキャプチャ(CDC)および変更追跡技術を使用した増分読み取りを提供します。SQL Server Connectorについて詳しく学びましょう。

                                                                                                                                              Salesforceコネクタ: Salesforce Sales Cloudからのデータ取り込みをサポートし、これらのCRMの洞察をデータインテリジェンスプラットフォームのデータと結合して、追加の洞察とより正確な予測を提供します。Salesforceコネクタについて詳しく学びましょう。

                                                                                                                                              Workdayコネクタ:Workday Reports-as-a-Service (RaaS)からの取り込みをサポートし、レポートを分析し、エンリッチできます。Workdayコネクタについて詳しく学びましょう。

                                                                                                                                              「LakeFlow Connectに提供されるSalesforceコネクタは、私たちにとって非常に重要で、Salesforceデータベースへの直接接続を可能にし、追加の有料中間サービスの必要性を排除しました。」- Amine Hadj-Youcef 氏、ソリューションアーキテクト、Engie

                                                                                                                                              プレビューにアクセスするには、Databricksのアカウントチームに連絡してください。

                                                                                                                                              LakeFlow ConnectはDelta Live Tablesのためのサーバーレスコンピューティングを使用していることに注意してください。したがって:

                                                                                                                                              • お使いのアカウントでサーバーレスコンピューティングを有効にする必要があります(AzureまたはAWSの設定方法を参照し、AzureまたはAWSのサーバーレス対応地域のリストを参照してください)
                                                                                                                                              • お使いのワークスペースはUnity Catalogを有効にする必要があります。

                                                                                                                                              詳細なガイダンスについては、LakeFlow Connectのドキュメンテーションを参照してください。

                                                                                                                                              最新の投稿を通知します

                                                                                                                                              関連記事

                                                                                                                                              この投稿を共有する

                                                                                                                                              Databricksの投稿を見逃さないようにしましょう

                                                                                                                                              興味のあるカテゴリを購読して、最新の投稿を受信トレイに届けましょう

                                                                                                                                              Sign up

                                                                                                                                              次は何ですか?

                                                                                                                                              Generating Coding Tests for LLMs: A Focus on Spark SQL

                                                                                                                                              データエンジニアリング

                                                                                                                                              October 2, 2024/2分で読めます

                                                                                                                                              LLMのためのコーディングテスト作成 〜Spark SQLに焦点を当てて〜

                                                                                                                                              Booting Databricks VMs 7x Faster for Serverless Compute

                                                                                                                                              データエンジニアリング

                                                                                                                                              November 25, 2024/1分未満

                                                                                                                                              DatabricksのサーバーレスコンピュートでVM起動を7倍高速化

                                                                                                                                              databricks logo
                                                                                                                                              Databricks を選ぶ理由
                                                                                                                                              Databricks を選ぶ理由
                                                                                                                                              • エグゼクティブ向け
                                                                                                                                              • スタートアップ向け
                                                                                                                                              • レイクハウスアーキテクチャ
                                                                                                                                              • Mosaic Research
                                                                                                                                              導入事例
                                                                                                                                              • 注目の導入事例
                                                                                                                                              パートナー
                                                                                                                                              • クラウドプロバイダ
                                                                                                                                              • 技術パートナー
                                                                                                                                              • データパートナー
                                                                                                                                              • Databricks で構築
                                                                                                                                              • コンサルティング・SI
                                                                                                                                              • C&SI パートナー
                                                                                                                                              • パートナーソリューション
                                                                                                                                              Databricks を選ぶ理由
                                                                                                                                              • エグゼクティブ向け
                                                                                                                                              • スタートアップ向け
                                                                                                                                              • レイクハウスアーキテクチャ
                                                                                                                                              • Mosaic Research
                                                                                                                                              導入事例
                                                                                                                                              • 注目の導入事例
                                                                                                                                              パートナー
                                                                                                                                              • クラウドプロバイダ
                                                                                                                                              • 技術パートナー
                                                                                                                                              • データパートナー
                                                                                                                                              • Databricks で構築
                                                                                                                                              • コンサルティング・SI
                                                                                                                                              • C&SI パートナー
                                                                                                                                              • パートナーソリューション
                                                                                                                                              製品
                                                                                                                                              レイクハウスプラットフォーム
                                                                                                                                              • プラットフォーム
                                                                                                                                              • 共有
                                                                                                                                              • データガバナンス
                                                                                                                                              • 人工知能(AI)
                                                                                                                                              • DBRX
                                                                                                                                              • データベース
                                                                                                                                              • データ管理
                                                                                                                                              • データウェアハウス
                                                                                                                                              • データエンジニアリング
                                                                                                                                              • データサイエンス
                                                                                                                                              • アプリケーション開発
                                                                                                                                              ご利用料金
                                                                                                                                              • 料金設定の概要
                                                                                                                                              • 料金計算ツール
                                                                                                                                              オープンソース
                                                                                                                                              統合とデータ
                                                                                                                                              • マーケットプレイス
                                                                                                                                              • IDE 統合
                                                                                                                                              • パートナーコネクト
                                                                                                                                              レイクハウスプラットフォーム
                                                                                                                                              • プラットフォーム
                                                                                                                                              • 共有
                                                                                                                                              • データガバナンス
                                                                                                                                              • 人工知能(AI)
                                                                                                                                              • DBRX
                                                                                                                                              • データベース
                                                                                                                                              • データ管理
                                                                                                                                              • データウェアハウス
                                                                                                                                              • データエンジニアリング
                                                                                                                                              • データサイエンス
                                                                                                                                              • アプリケーション開発
                                                                                                                                              ご利用料金
                                                                                                                                              • 料金設定の概要
                                                                                                                                              • 料金計算ツール
                                                                                                                                              統合とデータ
                                                                                                                                              • マーケットプレイス
                                                                                                                                              • IDE 統合
                                                                                                                                              • パートナーコネクト
                                                                                                                                              ソリューション
                                                                                                                                              業種別
                                                                                                                                              • 通信
                                                                                                                                              • 金融サービス
                                                                                                                                              • 医療・ライフサイエンス
                                                                                                                                              • 製造
                                                                                                                                              • メディア・エンタメ
                                                                                                                                              • 官公庁・公共機関
                                                                                                                                              • リテール・消費財
                                                                                                                                              • 全て表示
                                                                                                                                              クロスインダストリーソリューション
                                                                                                                                              • サイバーセキュリティ
                                                                                                                                              • マーケティング
                                                                                                                                              データの移行
                                                                                                                                              プロフェッショナルサービス
                                                                                                                                              ソリューションアクセラレータ
                                                                                                                                              業種別
                                                                                                                                              • 通信
                                                                                                                                              • 金融サービス
                                                                                                                                              • 医療・ライフサイエンス
                                                                                                                                              • 製造
                                                                                                                                              • メディア・エンタメ
                                                                                                                                              • 官公庁・公共機関
                                                                                                                                              • リテール・消費財
                                                                                                                                              • 全て表示
                                                                                                                                              クロスインダストリーソリューション
                                                                                                                                              • サイバーセキュリティ
                                                                                                                                              • マーケティング
                                                                                                                                              リソース
                                                                                                                                              ドキュメント
                                                                                                                                              カスタマーサポート
                                                                                                                                              コミュニティ
                                                                                                                                              トレーニング・認定試験
                                                                                                                                              • トレーニング
                                                                                                                                              • 認定
                                                                                                                                              • 無料版
                                                                                                                                              • 大学との連携
                                                                                                                                              • Databricks アカデミー
                                                                                                                                              イベント
                                                                                                                                              • DATA+AI サミット
                                                                                                                                              • Data+AI ワールドツアー
                                                                                                                                              • Data Intelligence Days
                                                                                                                                              • イベントカレンダー
                                                                                                                                              ブログ・ポッドキャスト
                                                                                                                                              • Databricks ブログ
                                                                                                                                              • Databricks Mosaic AIリサーチブログ
                                                                                                                                              • Data Brew ポッドキャスト
                                                                                                                                              • Data+AI のチャンピオンシリーズ
                                                                                                                                              トレーニング・認定試験
                                                                                                                                              • トレーニング
                                                                                                                                              • 認定
                                                                                                                                              • 無料版
                                                                                                                                              • 大学との連携
                                                                                                                                              • Databricks アカデミー
                                                                                                                                              イベント
                                                                                                                                              • DATA+AI サミット
                                                                                                                                              • Data+AI ワールドツアー
                                                                                                                                              • Data Intelligence Days
                                                                                                                                              • イベントカレンダー
                                                                                                                                              ブログ・ポッドキャスト
                                                                                                                                              • Databricks ブログ
                                                                                                                                              • Databricks Mosaic AIリサーチブログ
                                                                                                                                              • Data Brew ポッドキャスト
                                                                                                                                              • Data+AI のチャンピオンシリーズ
                                                                                                                                              企業情報
                                                                                                                                              企業概要
                                                                                                                                              • Databricks について
                                                                                                                                              • 経営陣
                                                                                                                                              • Databricks Ventures
                                                                                                                                              • ご相談・お問い合わせ
                                                                                                                                              採用情報
                                                                                                                                              • 採用情報概要
                                                                                                                                              • 求人情報
                                                                                                                                              プレス・ニュース記事
                                                                                                                                              • ニュースルーム
                                                                                                                                              • 受賞歴と業界評価
                                                                                                                                              セキュリティと信頼
                                                                                                                                              企業概要
                                                                                                                                              • Databricks について
                                                                                                                                              • 経営陣
                                                                                                                                              • Databricks Ventures
                                                                                                                                              • ご相談・お問い合わせ
                                                                                                                                              採用情報
                                                                                                                                              • 採用情報概要
                                                                                                                                              • 求人情報
                                                                                                                                              プレス・ニュース記事
                                                                                                                                              • ニュースルーム
                                                                                                                                              • 受賞歴と業界評価
                                                                                                                                              databricks logo

                                                                                                                                              Databricks Inc.
                                                                                                                                              160 Spear Street, 15th Floor
                                                                                                                                              San Francisco, CA 94105
                                                                                                                                              1-866-330-0121

                                                                                                                                              採用情報

                                                                                                                                              © Databricks 2025. All rights reserved. Apache, Apache Spark, Spark and the Spark logo are trademarks of the Apache Software Foundation.

                                                                                                                                              • プライバシー通知
                                                                                                                                              • |利用規約
                                                                                                                                              • |現代奴隷法に関する声明
                                                                                                                                              • |カリフォルニア州のプライバシー権利
                                                                                                                                              • |プライバシー設定