Databricksモデルサービングとは何ですか？
Databricks モデルサービングは、従来の ML モデル、生成 AI モデル、AI エージェントをデプロイするための堅牢なソリューションを企業 に提供します。 Azure OpenAI、AWS Bedrock、Anthropic などのプロプライエタリモデルと、Llama や Mistral などのオープンソースモデルをサポートしています。 お客さまは、ファインチューニングされたオープンソースモデルや、独自のデータでトレーニングされた従来型 ML モデルを提供することもできます。 お客さまは、大規模なバッチ推論やリアルタイムアプリケーションなどのワークフローにおいて、提供されたモデルをエンドポイントとして容易に使用できます。モデルサービングには、高品質の出力を確保するためのガバナンス、リネージ、モニタリングが組み込まれています。
Databricks のモデルサービングに関するお客さまの声
あらゆる AI モデルとエージェントのデプロイメントを簡素化
事前トレーニングされたオープンソースモデルから、ユーザー自身のデータに基づいて構築されたカスタムモデルまで、CPU と GPU の両方で、あらゆる種類のモデルをデプロイできます。 コンテナ構築とインフラ管理の自動化により、メンテナンスコストが削減され、デプロイが迅速化されるため、AI エージェントシステムの構築に集中し、ビジネス価値をより迅速に提供できます。
全モデルの一元管理
PyFunc、scikit-learn、LangChain のようなカスタム ML モデル、Llama ３、MPT、BGE のようなDatabricks 上の基盤モデル（FM）、ChatGPT、Claude ３、Cohere、Stable Diffusion のような他の場所でホストされている基盤モデルを含む全てのモデルを管理します。 モデルサービングにより、Databricks がホストしているモデル、Azure または A·WS 上の別のモデルプロバイダからのモデルを含め、統一されたユーザーインターフェースと API で、すべてのモデルにアクセスできるようになります。
AI関数を使用したバッチ推論
モデルサービングにより、あらゆるデータタイプとモデルにわたる大規模なデータセットに対する効率的なサーバーレス AI 推論が可能になります。Databricks SQL、ノートブック、ワ ークフローとシームレスに統合し、大規模に AI を適用できます。AI 関数を使用すると、インフラストラクチャを管理することなく、大規模なバッチ推論を瞬時に実行できるため、スピード、スケーラビリティ、ガバナンスを確保できます。
Unity Gateway による組み込みのガバナンス
Unity Gateway と統合し、厳格なセキュリティと高度なガバナンスの要件を満たします。 モデルが Databricks と他のモデルプロバイダのどちらでホストされているかにかかわらず、すべてのモデルに対して適切な権限の適用、モデルの品質の監視、レート制限の設定、リネージの追跡が可能です。
独自のデータで構築したファインチューニング済みモデルと RAG モデルをホスト
データ＋AI プラットフォームとの強力な統合により、デプロイメントを加速し、エラーを削減します。 企業データで拡 張（RAG）またはファインチューニングされたさまざまな従来の ML モデルや生成 AI モデルを簡単にホストできます。 モデルサービングは、AI のライフサイクル全体にわたって、自動化されたルックアップ、モニタリング、ガバナンスを提供します。
トークン単位またはプロビジョニング済みスループットの価格設定
CPU と GPU の両方をサポートした高可用性のサーバーレスサービス上で、低レイテンシの API としてモデルを提供します。 最も重要なニーズを満たすためにゼロから簡単に拡張でき、要件が変化した場合は縮小できます。1 つ以上の事前デプロイ済みモデルを使用してすぐに開始でき、トークン単位の従量課金（コミットメント不要のオンデマンド）またはスループットが保証されるプロビジョニング済みコンピュートワークロードへの課金を選択できます。Databricks がインフラの管理とメンテナンスのコストを引き受けます。これにより、お客さまはビジネス価値の提供に専念することが可能です。
関連リソースからスタート
Databricks のモデルサービングに関するブログ記事
Databricks モデルサービングのドキュメント
MLOps、RAG、およびLLMファインチューニングに関する電子書籍
よくある質問
Databricks モデルサービングは、従来の ML モデル、生成 AI モデル、AI エージェント向けの統合デプロイメントおよびガバナンスソリューションです。 Azure OpenAI、AWS Bedrock、Anthropic などのプロプライエタリモデルや、Llama や Mistral などのオープンソースモデルをサポートし、ファインチューニングされたオープンソースモデルや、独自のデータでトレーニングされた従来の ML モデルを提供できます。 提供されたモデルは、大規模なバッチ推論またはリアルタイムアプリケーションのエンドポイントとして使用でき、高品質の出力の確保に役立つガバナンス、リネージ、モニタリング機能が組み込まれています。